Indagine di domenica: Quando le auto a guida autonoma si schiantano, chi ne è responsabile?
Nelle ultime settimane abbiamo condotto un sondaggio sul lato destro della pagina per chiedere ai nostri lettori di Electrek chi dovrebbe essere ritenuto responsabile quando l’AI fallisce e qualcuno si ferisce. Dopo quasi 3.000 risposte, ecco cosa ci avete detto.
Nel caso vi siate persi il sondaggio, la domanda era: “Molti incidenti mortali con Tesla finiscono sui titoli dei giornali, mentre Waymo riceve migliaia di multe per parcheggio; data l’enorme quantità di taxi autonomi, questi numeri continueranno ad aumentare – ma quando un taxi guidato da AI fallisce, chi dovrebbe essere ritenuto responsabile?”
L’indagine è coincisa sia con la nuova presentazione della Tesla Cybercab all’inizio di questo mese ad Austin, in Texas, sia con la notizia che la Tesla Semi, a lungo in ritardo, aveva iniziato la produzione in serie nel Nevada. Pertanto, non dovrebbe sorprendere che ci siano state molte risposte. Ciò che invece ha sorpreso (almeno per me) è stato il gran numero di persone disposte a scagionare chi era al volante da qualsiasi errore qualora le cose fossero andate storte.
I numeri
Sono stati espressi soltanto 102 voti (circa il 3,5%) per l’opzione relativa alla responsabilità personale che recitava: “Chiunque sia al volante: anche se siete stati voi a chiamare il taxi, è di buon senso che a volte sia necessaria un’intervento umano, e voi siete quell’essere umano”. Per quanto mi riguarda, almeno due di quei voti sono stati miei (provo a citarmi in giudizio).
Questo mi è sembrato davvero ovvio, ma è proprio questo lo scopo dell’interazione con gli altri esseri umani: ascoltare, imparare e crescere. E ciò che ho sentito, imparato e di cui alla fine sono arrivato a credere personalmente è che sia il proprietario del veicolo ad assumersi il carico della responsabilità legale – questa convinzione è stata rafforzata da commentatori come Ian...
È ovvio. Che il conducente sia un’intelligenza artificiale o una persona, la responsabilità ricade sul proprietario dell’auto. Se presto la mia auto a te e tu la guidi contro un bar, tocca a me pagare i danni. È l’auto ad essere assicurata, non il conducente. Non capisco perché la gente ponga questa domanda: è già chiaramente stabilito dalla legge vigente.
IAN
… e pushedbyvolts, che (secondo me) l’ha espresso al meglio …
Chiunque possieda il veicolo dovrebbe essere ritenuto responsabile. Ogni auto mai costruita può violare la legge, e il conducente ne è ritenuto responsabile quando ciò accade. Se non c’è un conducente, il proprietario registrato è la parte responsabile per aver messo in strada un veicolo che viola la legge. Se questo rovina il modello di business dei taxi senza conducente di qualcuno, pazienza.
PUSHEDBYVOLTS
… sottolineando il fatto che, effettivamente, ogni auto mai costruita è in grado di violare la legge – sia andando troppo veloce, parcheggiando illegalmente, sia venendo utilizzata intenzionalmente come arma contro un’altra persona. E, in ciascuno di questi casi, sembra assurdo anche solo pensare di rendere responsabile un produttore o un fornitore di tecnologia.
Tuttavia, quasi il 90% dei voti ha attribuito la colpa direttamente ai responsabili dello sviluppo dell’AI che guida l’auto. Il commento di Stephen Fields, a mio avviso, rappresenta l’argomentazione più convincente a sostegno di questa tesi:
Quali azioni avrebbe potuto intraprendere il proprietario per prevenire un incidente? Ha acquistato una “scatola nera” che guida il veicolo. Se il proprietario non ha seguito le raccomandazioni del produttore (ad esempio mantenere il software aggiornato, rimanere entro una determinata area geografica), potrebbe essere ritenuto responsabile, ma non lo sarà se non esistevano azioni che potesse intraprendere per evitare l’incidente.
STEPHEN FIELDS
Anche quell’argomento ha molto senso, sebbene io sostenga che richiamare un veicolo che non offre alcun mezzo per salvarsi quando esistono altre opzioni disponibili costituisca di per sé un’assunzione di responsabilità – ma quando le altre opzioni non sono disponibili? È un’altra storia, e ci sono molte sfumature da analizzare per attribuire la colpa sia al produttore che allo sviluppatore dell’AI, in misure diverse.
Indipendentemente da chi alla fine verrà ritenuto responsabile, però, il commentatore abituale BCGeiger ha espresso ciò che ho considerato il colpo di grazia in questo caso:
Credo che la responsabilità dovrebbe essere divisa equamente tra il produttore dell’auto e quello dell’AI. Non si tratta di una questione binaria; stanno lavorando insieme per creare questa situazione disastrosa.
BCGEIGER
“Hellscape” è stato ciò che mi ha convinto, ma poi ho chiesto a un’altra IA di creare l’immagine in evidenza (in cima) e di aiutarmi a migliorare il grafico sopra, quindi chi può saperlo? Fatemi sapere nei commenti se siete d’accordo con i quasi 9/10 utenti di Electrek che hanno risposto al sondaggio originale, o se ci siamo tutti sbagliati.
Contenuto originale di Electrek.