Die Tesla FSD v14 hat ohne Grund das Steuer herumgerissen und versucht, mich in einen Graben zu fahren.

Teslas Full Self-Driving-Version v14.3.6 versuchte, bei einer Geschwindigkeit von 110 km/h (68 mph) eine Autobahn-Ausfahrt zu nehmen, die mein Auto bereits hinter sich gelassen hatte – das hätte uns direkt in den Graben geführt.

Ich war bereit, die Kontrolle zu übernehmen, was ich auch tat, aber es war beängstigend. Meine Freundin, die auf dem Beifahrersitz saß, schrie vor Angst.

Was die Dashcam zeigt

Es war Sonntagnacht auf der Autoroute 55 in der Region Mauricie in Québec – ich nutzte FSD (Supervised) v14.3.6, die neueste und leistungsstärkste Version von Tesla FSD auf dem aktuellen Hardware-Setup.

Das Auto fährt mit 110 km/h in der rechten Spur. Trockener Asphalt, kein Verkehr in keiner Richtung, frisch gemalte Markierungen sowie reflektierende Leitsignale an der Decke. Perfekte Bedingungen für FSD. Als wir unter dem Torbogen zur Ausfahrt 217 hindurchfahren, geht das rechte Blinklicht an und das Auto beginnt, sich in Richtung Fahrbahnrand zu bewegen, wobei auf dem Bildschirm weiterhin „Selbstfahrend“ angezeigt wird.

Das Problem war, dass sich bereits hinter uns die Abfahrtsrampe ablöste. Bei dieser Geschwindigkeit und zu diesem späten Zeitpunkt hätte uns das direkt in den Graben geführt.

Während das Auto die Manöver ausführt, sinkt die Anzeige der Geschwindigkeit auf 110, 109, 107 und 104. In diesem Moment packte ich das Lenkrad. Bei 102 km/h verschwindet „Selbstfahrend“ von der Anzeige.

Es handelte sich weder um Schwankungen in der Spalteneinstellung noch um einen Moment des Zögerns. Das Auto entschied sich einfach, das Blinklicht einzuschalten und eine Ausfahrt zu nehmen, die es eigentlich nicht nutzen durfte.

Das waren ideale Bedingungen für FSD.

Falls man das einfachste mögliche Szenario für Teslas System entwerfen würde, wäre es genau dieses.

Geteilter Autobahnabschnitt. Nacht – daher sind die entgegenkommenden Scheinwerfer sowie die Spurmarkierungen leicht zu erkennen. Kein Verkehr, um sich Sorgen machen zu müssen. Klare Spurmarkierungen. Große, gut beleuchtete Schilder.

Basierend auf allem, was ich seit der Version v14 gesehen habe, ist das Fahren auf einer leeren Autobahn bei Nacht der Bereich, in dem das System seine beste Leistung zeigt. Ich habe Tausende von Kilometern genau so gefahren, ohne etwas anzufassen. Deshalb war ich zuversichtlich – und genau diese Zuversicht ist die ganze Falle.

Ich habe bereits im Juni über dieses genaue Risiko geschrieben

Vor zweieinhalb Monaten veröffentlichte ich einen Artikel, in dem ich argumentierte, dass FSD v14 so gut ist, dass es mich gefährlich nachlässig macht. Damals schrieb ich, dass „ein System, das fast perfekt funktioniert, eine Falle darstellt – Fahrer vertrauen ihm gerade genug, um nicht mehr aufzupassen, doch es versagt dennoch unvorhersehbar und manchmal katastrophal.“

Ich halte zu jedem Wort – der Sonntagabend war die Demonstration. Ein paar tausend Meilen zwischen den kritischen Eingriffen sind wirklich beeindruckende Ingenieursleistung. Es ist außerdem genau die Zeitdauer, die das Gehirn dazu bringt, aufzuhören, ständig zu scannen.

In den eigenen Veröffentlichungshinweisen von Tesla zur Version v14.3.6 heißt es, das Unternehmen habe „die Stufe des Verstärkungslernens (Reinforcement Learning, RL) bei der Schulung des FSD-Neuronennetzes aktualisiert“, den KI-Kompilator mit MLIR umgeschrieben, um eine „20 % schnellere Reaktionszeit“ zu erreichen, sowie die Reaktion des Autos auf Systemverschlechterungen verbessert und so „unnötige Abschaltvorgänge reduziert“. Die Abschaltvorgänge nehmen ab, wenn die Software besser wird – und auch dann, wenn der Fahrer aufhört, einzugreifen. Tesla veröffentlicht nichts, das Dritten ermöglicht, diese beiden Faktoren voneinander zu unterscheiden.

Und die verfügbaren offiziellen Zahlen sind nicht beruhigend. Tesla meldete bei der NHTSA innerhalb eines Monats einen Rekordwert von 207 Unfällen mit Autopilot und FSD, wobei bei 99,9 Prozent der 3.763 Unfallberichte über Fahrerassistenzsysteme seit 2019 die detaillierten Angaben weggelassen wurden. Musk versichert den Investoren weiterhin, dass das unüberwachte FSD bis Ende des Jahres in den USA weit verbreitet sein wird, während der Co-CEO von Waymo ständig erläutert, warum ein rein kamerabasiertes Selbstfahrsystem nicht das bietet, was ein echtes fahrerloses System tatsächlich benötigt.

Electreks Einschätzung

Ein knapper Unfall ist nur eine Anekdote, keine Daten, aber ich halte es für eine wichtige Erinnerung, wachsam zu bleiben.

Wie ich oft gesagt habe, ist das Tesla FSD v14 ein wirklich beeindruckendes Produkt. Klar, im Vergleich zu dem, wofür FSD ursprünglich verkauft wurde – nämlich als unüberwachtes Selbstfahrsystem – versagt es völlig. Es kommt dem nicht einmal nahe und wird es wahrscheinlich auch nie tun. Das bleibt ein Problem und ist vermutlich der größte Fehler, den Tesla je gemacht hat.

Aber wenn man das beiseite lässt und FSD als ein Punkt-zu-Punkt-Fahrerassistenzsystem betrachtet, ist es wirklich erstaunlich.

Allerdings ist es derzeit so erstaunlich, dass es zu Selbstzufriedenheit führt. Tesla trägt dazu bei, indem CEO Elon Musk Aussagen wie „Man kann jetzt beim Benutzen des Autos sein Handy anschauen“ macht.

Das ist offensichtlich unvorsichtig. Da das System immer besser wird, muss Tesla darin besser werden, die Fahrer wegen dieses Problems der Selbstzufriedenheit dazu zu bringen, aufzupassen – und nicht umgekehrt.