Le Tesla FSD v14 a fait une embardée et a tenté de me pousser dans un fossé sans raison.
Le système Full Self-Driving v14.3.6 de Tesla a tenté de prendre une sortie d’autoroute que ma voiture avait déjà dépassée, à 110 km/h (68 mph), ce qui nous aurait directement menés dans le fossé.
J’étais prêt à reprendre le contrôle, ce que j’ai fait, mais c’était effrayant. Ma petite amie, assise sur le siège passager, a crié de peur.
Ce que montre la caméra de bord
C’était un dimanche soir sur l’Autoroute 55 dans la région de Mauricie au Québec, avec le FSD (Supervisé) v14.3.6 activé — la dernière version du système Tesla FSD fonctionnant sur le matériel le plus récent.
La voiture roule à 110 km/h dans la voie de droite. Pavé sec, pas de circulation dans les deux sens, lignes fraîchement peintes, panneaux réfléchissants au-dessus de nous. Conditions parfaites pour le FSD. Lorsque nous passons sous le pont menant à la sortie 217, le clignotant de droite s’allume et la voiture commence à se diriger vers le bas-côté, l’indication « Conduite autonome » restant affichée à l’écran.
Le problème, c’est que la bande d’accès se détachait déjà derrière nous. En tournant si tard à cette vitesse, la voiture allait nous faire tomber directement dans le fossé.
L’indicateur de vitesse descend à 110, puis 109, 107, 104 au moment où la voiture entreprend la manœuvre. C’est alors que j’ai saisi le volant. L’indication « Conduite autonome » disparaît de l’écran à 102 km/h.
Il ne s’agissait ni d’un flottement dans la position de la voie ni d’une hésitation momentanée. La voiture a décidé d’allumer son clignotant et de prendre une sortie pour laquelle elle n’était pas censée le faire.
C’étaient des conditions idéales pour le FSD.
Si l’on devait concevoir le scénario le plus simple possible pour le système de Tesla, ce serait celui-ci.
Voie rapide divisée en deux. Nuit, ce qui permet d’identifier facilement les phares des véhicules en sens inverse ainsi que les réflecteurs de voie. Aucun trafic à gérer. Marquages de voie bien visibles. Panneaux lumineux de grande taille.
D’après tout ce que j’ai vu avec la version v14, conduire sur autoroute de nuit sur une route déserte est la situation dans laquelle le système atteint son meilleur niveau. J’ai parcouru des milliers de kilomètres dans ces conditions sans toucher à rien. C’est pourquoi j’étais confiant. Et c’est justement cette confiance qui constitue le piège.
J’ai écrit à propos de ce risque précis en juin
Il y a deux mois et demi, j’ai publié un article dans lequel je soutenais que FSD v14 était si performant qu’il me rendait dangereusement confiant. J’y écrivais alors que « un système qui fonctionne presque parfaitement crée un piège : les conducteurs lui font suffisamment confiance pour cesser de prêter attention, mais il échoue malgré tout de manière imprévisible, parfois de façon grave ».
Je maintiens chacun de mes mots : le dimanche soir en était la démonstration. Deux mille miles entre les interventions critiques, c’est vraiment une prouesse d’ingénierie. C’est aussi précisément l’intervalle qui apprend au cerveau de cesser de scanner.
Les notes de version v14.3.6 de Tesla indiquent que l’entreprise a « mis à jour l’étape d’apprentissage par renforcement (RL) pour former le réseau neuronal FSD », a réécrit le compilateur d’IA avec MLIR afin d’obtenir un « temps de réaction 20 % plus rapide », et a amélioré la réponse de la voiture aux dégradations du système, « réduisant les désengagements inutiles ». Les désengagements diminuent lorsque le logiciel s’améliore, et ils diminuent également lorsque le conducteur cesse d’intervenir. Tesla ne publie rien qui permette aux tiers de distinguer ces deux facteurs.
Et les chiffres publics qui existent ne sont pas rassurants. Tesla a déclaré à la NHTSA un record de 207 accidents impliquant Autopilot et FSD en un seul mois, tandis que 99,9 % de ses 3 763 rapports d’accidents liés aux systèmes d’assistance au conducteur depuis 2019 ont vu leurs détails supprimés. Musk continue de dire aux investisseurs que le FSD sans surveillance sera largement utilisé aux États-Unis d’ici la fin de l’année, tandis que le co-CEO de Waymo explique sans cesse pourquoi les systèmes de conduite autonome basés uniquement sur des caméras ne suffisent pas aux besoins réels d’un système sans conducteur.
Point de vue d’Electrek
Un incident évité n’est qu’une anecdote, pas des données, mais je pense que c’est un rappel important de rester vigilant.
Mais si l’on met cela de côté et que l’on considère le FSD comme un système d’assistance au conducteur point à point, c’est vraiment incroyable.
Cependant, son incroyabilité actuelle engendre de la complaisance. Tesla ne contribue pas à y remédier, avec le PDG Elon Musk qui affirme des choses comme « vous pouvez maintenant regarder votre téléphone tout en l’utilisant ».
C’est évidemment imprudent. À mesure que le système s’améliore, Tesla doit devenir plus douée pour convaincre les conducteurs de rester attentifs en raison de ce problème de complaisance. Et non l’inverse.