Enquête du dimanche : Lorsque les voitures autonomes ont un accident, qui en porte la responsabilité ?

Ces dernières semaines, nous avons mené un sondage dans la barre latérale pour savoir quels lecteurs d’Electrek devraient être tenus responsables en cas de défaillance de l’intelligence artificielle entraînant des blessures. Après près de 3 000 réponses, voici ce que vous nous avez dit.

Pour ceux qui n’auraient pas vu le sondage, la question était : « Alors que de nombreux accidents mortels impliquant des Tesla font la une, Waymo reçoit des milliers d’amendes pour stationnement, et le grand nombre de taxis autonomes signifie que ces chiffres continueront d’augmenter – mais en cas de défaillance d’un taxi piloté par l’intelligence artificielle, qui devrait en assumer la responsabilité ? »

Cette enquête a coïncidé avec la nouvelle présentation du Tesla Cybercab au début de ce mois à Austin, au Texas, ainsi qu’avec l’annonce que la production en série du Tesla Semi, longtemps retardée, avait commencé au Nevada. Il n’est donc pas surprenant qu’il y ait eu de nombreuses réponses. Ce qui était surprenant (du moins pour moi), c’était le nombre élevé de personnes prêtes à absoudre la personne au volant de tout acte répréhensible en cas d’incident.

En chiffres

Seulement 102 voix (environ 3,5 %) ont été exprimées en faveur de l’option relative à la responsabilité personnelle, qui disait : « Peu importe qui est au volant : même si c’est vous qui avez appelé le taxi, il va de soi qu’une intervention humaine sera parfois nécessaire, et c’est vous cette personne. » Et, pour ce que ça vaut, au moins deux de ces voix provenaient de moi (tentez-moi en justice).

Cette idée me semblait vraiment évidente, mais c’est justement là l’essentiel de l’échange avec les autres êtres humains : écouter, apprendre et progresser. Ce que j’ai entendu, appris, et en quoi je suis finalement parvenu à croire, c’est que c’est le propriétaire du véhicule qui devrait assumer la responsabilité – cette conviction a été renforcée par des commentateurs comme Ian …

C’est évident. Que le conducteur soit une intelligence artificielle ou un être humain, la personne responsable est le propriétaire de la voiture. Si je vous prête ma voiture et que vous l’utilisez pour percuter un café, c’est moi qui dois payer les dégâts. C’est la voiture qui est assurée, pas le conducteur. Je ne comprends pas pourquoi les gens posent cette question : cela est clairement défini par la loi en vigueur.

IAN

… et pushedbyvolts, qui (à mon avis) l’a exprimé le mieux …

C’est celui qui possède le véhicule qui doit en assumer la responsabilité. Toute voiture jamais construite peut enfreindre la loi, et c’est le conducteur qui est blâmé lorsque cela se produit. S’il n’y a pas de conducteur, c’est le propriétaire enregistré qui est responsable d’avoir mis un véhicule illégal sur la route. Si cela gêne le modèle économique de quelqu’un basé sur les taxis sans conducteur, tant pis.

PUSHEDBYVOLTS

… en soulignant que, en effet, chaque voiture jamais construite est capable de violer la loi – que ce soit par excès de vitesse, stationnement illégal ou utilisation intentionnelle comme arme contre une autre personne. Et dans chacun de ces cas, il semble insensé même d’envisager de tenir un fabricant ou un fournisseur de technologie pour responsable.

Néanmoins, près de 90 % des votes ont attribué la responsabilité directement aux développeurs de l’IA qui pilote la voiture. Le commentaire de Stephen Fields, à mon avis, présente l’argument le plus convaincant à ce sujet :

Quelles actions aurait pu entreprendre le propriétaire pour éviter un accident ? Il achète une boîte noire qui pilote le véhicule. S’il n’a pas suivi les recommandations du fabricant (c’est-à-dire maintenir le logiciel à jour, rester dans cette zone géographique définie), il pourrait être tenu pour responsable, mais il ne le sera pas s’il n’y avait aucune action qu’il aurait pu entreprendre pour éviter l’accident.

STEPHEN FIELDS

Cette argumentation a également beaucoup de sens, bien que je soutienne que faire appel à un véhicule qui ne vous offre aucun moyen de vous sauver lorsque d’autres options étaient facilement disponibles constitue en soi une assumption de responsabilité – mais que se passe-t-il lorsque d’autres options ne sont pas disponibles ? C’est une autre histoire, et il existe de nombreuses subtilités à examiner pour imputer la faute tant au fabricant qu’au développeur de l’IA, à des degrés différents.

Quelle que soit la personne qui finira par être tenue pour responsable, cependant, le commentateur régulier BCGeiger a formulé ce que j’ai considéré comme le coup de grâce dans cette affaire :

Je pense que la responsabilité devrait être partagée équitablement entre le fabricant de voiture et le fabricant de l’IA. Ce n’est pas une question de « soit/soit ». Ils travaillent main dans la main pour créer ce cauchemar.

BCGEIGER

C’est « Hellscape » qui m’a convaincu, mais j’ai ensuite demandé à une autre intelligence artificielle de créer l’image en vedette (en haut) et d’aider à embellir le graphique ci-dessus ; alors, qui sait ? Dites-nous dans les commentaires si vous êtes d’accord avec les presque 9/10 d’Electrekkers qui ont répondu à l’enquête initiale, ou si nous avons tous tort.

Contenu original d’Electrek.