La Tesla FSD v14 ha deviato improvvisamente e ha cercato di spingermi in un fosso senza alcun motivo.

La versione Full Self-Driving v14.3.6 di Tesla ha cercato di prendere un’uscita dall’autostrada che la mia auto aveva già superato, a 110 km/h (68 mph), e ci avrebbe fatti finire direttamente nel fossato.

Ero pronto a prendere il controllo, e l’ho fatto, ma è stato spaventoso. La mia ragazza, seduta sul sedile del passeggero, ha gridato per la paura.

Cosa mostra la telecamera di bordo

Era domenica sera sull’Autoroute 55 nella regione di Mauricie in Québec, con attivo il FSD (Supervisionato) v14.3.6: l’ultima versione di Tesla FSD basata sull’hardware più recente.

L’auto viaggia a 110 km/h nella corsia di destra. Asfalto asciutto, nessun traffico in nessuna direzione, linee stradali appena dipinte, segnaletica riflettente sopra la testa. Condizioni perfette per il FSD. Mentre passiamo sotto il ponte di accesso all’uscita 217, si accende la spia di svolta a destra e l’auto inizia ad avvicinarsi al cordolo, con ancora scritto “Self-Driving” sullo schermo.

Il problema è che la rampa di uscita alle nostre spalle stava già staccandosi. Girando in quel momento e a quella velocità, l’auto sarebbe finita dritta nel fossato.

I valori di velocità scendono a 110, 109, 107, 104 mentre l’auto esegue la manovra. È in quel momento che ho afferrato il volante. A 102 km/h lo schermo smette di mostrare “Self-Driving”.

Non si è trattato di un problema di posizionamento nella corsia o di un attimo di esitazione. L’auto ha deciso di accendere la spia di svolta e prendere un’uscita per cui non era affatto prevista.

Erano condizioni ideali per il FSD.

Se si dovesse progettare lo scenario più semplice possibile per il sistema di Tesla, sarebbe proprio questo.

Autostrada divisa in due corsie. Notte, quindi i fari delle auto in arrivo e i riflettori delle corsie sono facilmente visibili. Nessun traffico da considerare. Segnaletica stradale ben definita. Cartelli grandi e ben illuminati.

Sulla base di tutto ciò che ho visto nella versione v14, guidare su autostrada di notte su una strada deserta è il contesto in cui il sistema raggiunge il suo massimo livello di prestazioni. Ho percorso migliaia di chilometri esattamente in queste condizioni senza toccare nulla. Ecco perché ero fiducioso. Ma proprio questa fiducia rappresenta la trappola.

Avevo scritto di questo rischio esattamente a giugno

Due mesi e mezzo fa ho pubblicato un articolo in cui sostenevo che FSD v14 fosse così efficace da rendermi pericolosamente compiacente. Scrivevo allora che “un sistema che funziona quasi perfettamente crea una trappola: i conducenti si fidano abbastanza di esso da smettere di prestare attenzione, ma esso continua comunque a fallire in modo imprevedibile e talvolta in modo grave.”

Sostengo ogni mia parola: la dimostrazione è avvenuta domenica sera. Diversi migliaia di chilometri tra interventi critici rappresentano davvero un risultato ingegneristico impressionante. È anche esattamente l’intervallo che fa sì che il cervello smetta di monitorare costantemente la situazione.

Nelle note di rilascio v14.3.6 di Tesla si afferma che l’azienda abbia “aggiornato la fase di apprendimento per rinforzo utilizzata per addestrare la rete neurale FSD”, ha riscritto il compilatore dell’AI con MLIR per ottenere “un tempo di reazione del 20% più rapido” e ha migliorato la risposta dell’auto alle degradazioni del sistema, “riducendo gli spegnimenti non necessari”. Gli spegnimenti diminuiscono sia quando il software migliora, sia quando l’autista smette di intervenire. Tesla non pubblica informazioni che permettano a terzi di distinguere questi due fattori.

I dati pubblici disponibili non sono affatto rassicuranti. Tesla ha segnalato alla NHTSA un record di 207 incidenti legati ad Autopilot e FSD in un solo mese, mentre il 99,9% dei suoi 3.763 rapporti su incidenti causati dai sistemi di assistenza alla guida dal 2019 presenta informazioni censurate. Musk continua a dire agli investitori che l’FSD senza supervisione sarà ampiamente diffuso negli Stati Uniti entro la fine dell’anno, mentre il co-CEO di Waymo continua a spiegare perché i sistemi di guida autonoma basati esclusivamente su telecamere non soddisfano le vere esigenze di un sistema senza conducente.

La opinione di Electrek

Un episodio quasi fatale è solo un aneddoto, non un dato statistico, ma penso sia un promemoria importante per rimanere attenti.

Come ho detto spesso, l’FSD v14 di Tesla è un prodotto davvero impressionante. Certo, fallisce se confrontato con ciò per cui era stato originariamente venduto: diventare un sistema di guida autonoma senza supervisione. Non ci arriva nemmeno vicino e probabilmente non ci arriverà mai. Questo rimarrà un problema e probabilmente la scelta più sbagliata fatta da Tesla finora.

Ma se mettiamo da parte questo aspetto e consideriamo il FSD come un sistema di assistenza al conducente punto a punto, è davvero incredibile.

Tuttavia, essendo così straordinario, genera compiacenza. Tesla non aiuta la situazione con affermazioni del CEO Elon Musk come “ora potete guardare il vostro telefono mentre lo utilizzate”.

Questo è ovviamente imprudente. Man mano che il sistema migliora, Tesla deve imparare a convincere i conducenti a prestare attenzione a causa di questo problema di compiacenza. Non il contrario.