Pesquisa de domingo: Quando os carros autônomos se acidentam, quem é o culpado?
Nas últimas semanas, realizamos uma enquete na barra lateral sobre quem deveria ser responsabilizado quando a inteligência artificial falha e pessoas se ferem, entre os leitores da Electrek. Após quase 3.000 respostas, aqui está o que vocês nos disseram.
Caso tenham perdido a enquete, a pergunta era: “Vários acidentes fatais com carros da Tesla estão nas manchetes, enquanto a Waymo recebe milhares de multas por estacionamento, e o grande número de táxis autônomos significa que esses números continuarão aumentando – mas, quando um táxi controlado por inteligência artificial falha, quem deve ser responsabilizado?”
A pesquisa coincidiu tanto com a nova apresentação do Tesla Cybercab no início deste mês em Austin, Texas, quanto com a notícia de que o Tesla Semi, há muito adiado, havia iniciado a produção em série em Nevada. Portanto, não é surpreendente que houvesse muitas respostas. O que foi surpreendente (pelo menos para mim) foi a quantidade enorme de pessoas dispostas a absolver o motorista de qualquer erro quando as coisas dão errado.
Por números
Apenas 102 votos (cerca de 3,5%) foram dados à opção de responsabilidade pessoal que dizia: “Quem estiver no assento do motorista: mesmo que tenha sido VOCÊ a chamar o táxi, é senso comum que às vezes será necessária intervenção humana, e VOCÊ é esse ser humano.” E, para que fique claro, pelo menos dois desses votos foram meus (procurem-me em tribunal).
Isso me pareceu realmente óbvio, mas é exatamente disso que se trata ao interagir com outras pessoas: ouvir, aprender e crescer. E o que eu ouvi, aprendi e acabei acreditando por conta própria é que quem deve arcar com o ônus da responsabilidade é o proprietário do veículo – essa crença foi reforçada por comentaristas como Ian...
Isso é óbvio. Seja o motorista uma IA ou um ser humano, a pessoa responsável é o dono do carro. Se eu emprestar meu carro para você e você dirigir até uma cafeteria, sou eu quem tem que pagar pelos danos. O carro é o que está segurado, não o motorista. Não entendo por que as pessoas fazem essa pergunta. Isso já está bem estabelecido na legislação existente.
IAN
… e o pushedbyvolts, que (na minha opinião) expressou isso da melhor forma …
Quem quer que seja o dono do veículo deve ser responsabilizado. Todo carro já fabricado é capaz de violar a lei, e o motorista é culpado quando isso acontece. Se não houver motorista, o dono registrado é a parte responsável por colocar um veículo que viola a lei nas ruas. Se isso prejudicar o modelo de negócio de táxis sem motorista de alguém, que assim seja.
PUSHEDBYVOLTS
… ao ressaltar o fato de que, sim, todo carro já produzido é capaz de violar a lei – seja por excesso de velocidade, estacionamento ilegal ou uso intencional como arma contra outra pessoa. E, em cada um desses casos, parece insano sequer considerar responsabilizar um fabricante ou um fornecedor de tecnologia.
Dito isso, quase 90% dos votos atribuíram a culpa diretamente aos desenvolvedores da IA que controla o carro. Acho que o comentário de Stephen Fields apresentou o argumento mais convincente a favor disso:
Que medidas o proprietário poderia ter tomado para evitar um acidente? Eles compram uma “caixa preta” que dirige o veículo. Se o proprietário não seguiu as recomendações do fabricante (ou seja, não manteve o software atualizado ou não permaneceu dentro da área geográfica definida), ele pode ser responsabilizado, mas não poderá ser considerado culpado se não houver nenhuma ação que ele pudesse ter tomado para evitar o acidente.
STEPHEN FIELDS
Esse argumento também faz bastante sentido, embora eu defendesse que chamar um veículo que não oferece nenhum meio de se salvar quando outras opções estão prontamente disponíveis já representa, por si só, uma assunção de responsabilidade – mas e quando outras opções não existem? Aí é outra história, e há muitas nuances a serem analisadas para atribuir a culpa tanto ao fabricante quanto ao desenvolvedor da IA, em diferentes graus.
Não importa quem acabe sendo culpado, no entanto, o comentarista regular BCGeiger fez o que eu considerei o golpe de misericórdia neste caso:
Acho que a responsabilidade deve ser dividida igualmente entre o fabricante do carro e o fabricante da IA. Não se trata de uma escolha binária; eles estão trabalhando juntos para criar esse cenário caótico.
BCGEIGER
“Hellscape” foi o que me fez escolher, mas depois pedi a outra IA para criar a imagem de destaque (no topo) e ajudar a deixar o gráfico acima mais bonito. Quem sabe? Avise nos comentários se você concorda com os quase 9/10 usuários do Electrekkers que responderam à pesquisa original, ou se todos nós estávamos errados.
Conteúdo original do Electrek.