El Tesla FSD v14 giró bruscamente e intentó llevarme a un barranco sin motivo alguno.
La versión v14.3.6 de Full Self-Driving de Tesla intentó tomar una salida de autopista que mi coche ya había pasado, a 110 km/h (68 mph), y eso nos habría llevado directamente al barranco.
Estaba listo para tomar el control, y así lo hice, pero fue aterrador. Mi novia, sentada en el asiento del pasajero, gritó de miedo.
Lo que muestra la cámara del tablero
Eso ocurrió una noche de domingo en la Autopista 55, en la región de Mauricie en Quebec, con el sistema FSD (Supervisado) v14.3.6 activo: la versión más reciente y avanzada de Tesla FSD para el hardware más actual.
El coche circula a 110 km/h en el carril derecho. Pavimento seco, sin tráfico en ninguna dirección, líneas recién pintadas y señalización reflectante en el techo. Condiciones perfectas para FSD. Al pasar debajo del pórtico de la salida 217, se enciende la señal de giro a la derecha y el coche comienza a dirigirse hacia el arcén, mientras en la pantalla sigue mostrándose “Autoconducción”.
El problema es que la rampa ya se estaba desprendiendo detrás de nosotros. Al girar tan tarde a esa velocidad, íbamos a estrellarnos directamente en el barranco.
La lectura de velocidad baja a 110, 109, 107, 104 mientras el coche ejecuta la maniobra. Fue entonces cuando agarré el volante. La opción “Autoconducción” desaparece de la pantalla a 102 km/h.
No se trató de una inestabilidad en la posición del carril ni de un momento de duda. El coche decidió encender su intermitente y tomar una salida para la que no estaba preparado.
Estas eran condiciones ideales para FSD.
Si tuviera que diseñar el escenario más sencillo posible para el sistema de Tesla, este sería.
Carretera dividida. Noche, por lo que los faros de los vehículos en sentido contrario y los reflectores de carril son fáciles de distinguir. Cero tráfico del que preocuparse. Marcas de carril nítidas. Señalización grande y bien iluminada.
Basándome en todo lo que he visto desde la versión v14, conducir por carretera de noche en una vía desierta es cuando el sistema está en su mejor forma. He recorrido miles de kilómetros exactamente así sin tocar nada. Por eso estaba seguro. Y esa seguridad es toda la trampa.
Escribí sobre este riesgo exacto en junio
Hace dos meses y medio publiqué un artículo en el que argumentaba que FSD v14 es tan bueno que me está haciendo peligrosamente complaciente. Escribí entonces que “un sistema que funciona casi perfectamente crea una trampa: los conductores confían en él lo suficiente como para dejar de prestar atención, pero aún así falla de forma impredecible y a veces de manera crítica”.
Me mantengo firme en cada palabra: la noche del domingo fue la demostración. Tener un par de miles de millas entre las intervenciones críticas es realmente una hazaña ingenieril impresionante. También es exactamente el intervalo que hace que el cerebro deje de escanear constantemente.
Las notas de lanzamiento v14.3.6 de Tesla indican que la empresa “actualizó la etapa de aprendizaje por refuerzo del entrenamiento de la red neuronal FSD”, reescribió el compilador de IA con MLIR para lograr “un tiempo de reacción 20% más rápido” y mejoró la respuesta del coche ante degradaciones del sistema, “reduciendo las desconexiones innecesarias”. Las desconexiones disminuyen cuando el software mejora, y también disminuyen cuando el conductor deja de intervenir. Tesla no publica nada que permita a terceros distinguir entre estas dos causas.
Y las cifras públicas que existen no son alentadoras. Tesla informó a la NHTSA sobre un récord de 207 accidentes relacionados con Autopilot y FSD en un solo mes, y el contenido detallado fue ocultado en el 99,9% de sus 3.763 informes de accidentes con asistencia al conductor desde 2019. Musk sigue diciendo a los inversores que el FSD sin supervisión se volverá común en Estados Unidos para fin de año, mientras que el copresidente ejecutivo de Waymo sigue explicando por qué los sistemas autónomos basados únicamente en cámaras no cumplen con las necesidades reales de un sistema sin conductor.
La opinión de Electrek
Un incidente cercano a un accidente es solo una anécdota, no datos, pero creo que es un recordatorio importante de mantenerse atento.
Como he dicho muchas veces, el Tesla FSD v14 es un producto realmente impresionante. Claro, falla en comparación con lo que se vendía originalmente como FSD: convertirse en un sistema autónomo sin supervisión. No está ni cerca de eso y probablemente nunca lo esté. Eso seguirá siendo un problema y probablemente sea la peor decisión que ha tomado Tesla.
Pero si dejamos eso de lado y consideramos al FSD como un sistema de asistencia al conductor punto a punto, es realmente increíble.
No obstante, está tan avanzado que genera complacencia. Tesla no ayuda con declaraciones del CEO Elon Musk como “ahora puedes mirar tu teléfono mientras lo usas”.
Eso es obviamente imprudente. A medida que el sistema mejora, Tesla debe ser más hábil para convencer a los conductores de prestar atención debido a este problema de complacencia. No al revés.