Tesla FSD v14 без всякой причины резко сменила направление и попыталась врезаться мной в канаву.
Система полного автономного вождения Tesla версии v14.3.6 попыталась выехать с автомагистрали по выезду, который моя машина уже проехала, со скоростью 110 км/ч (68 миль/ч), и это чуть не привело к падению в канаву.
Я был готов взять управление на себя, и так и сделал, но это было страшно. Моя девушка, сидевшая на пассажирском сиденье, кричала от страха.
Что показывает камера
Это произошло в воскресенье вечером на автомагистрали 55 в регионе Мориси в Квебеке, при использовании системы FSD (с надзором) версии v14.3.6 — самой новой и совершенной версии Tesla FSD, работающей на самом современном оборудовании.
Автомобиль движется со скоростью 110 км/ч по правой полосе. Сухое покрытие, отсутствие транспорта в обоих направлениях, свежепокрашенные разметки, светоотражающие знаки над дорогой. Идеальные условия для FSD. Когда мы проезжаем под мостом у выезда 217, включается сигнал поворота направо, и автомобиль начинает двигаться к обочине; на экране по-прежнему отображается надпись «Автономное управление».
Проблема в том, что за нами уже отклеивалась асфальтовая плита. Если бы мы повернули в такой момент и при такой скорости, это привело бы к падению в канаву.
Показатель скорости падает до 110, затем 109, 107, 104 по мере выполнения маневра. Именно тогда я схватился за руль. Надпись «Автономное управление» исчезает с экрана при скорости 102 км/ч.
Это не было сбоем в определении положения полосы или моментом колебаний. Автомобиль решил включить поворотник и совершить выезд, на который ему вообще не следовало выезжать.
Это были идеальные условия для FSD.
Если бы вы разрабатывали самый простой возможный сценарий для системы Tesla, это бы он и был.
Двухполосная автомагистраль. Ночь, поэтому фары приближающихся автомобилей и светоотражатели на полосах хорошо видны. Нет никакого дорожного движения, которое нужно учитывать. Четкие разметки полос. Большие, хорошо освещенные знаки.
Исходя из всего, что я видел в версии v14, езда по автомагистрали ночью на пустой дороге — это ситуация, в которой система работает наилучшим образом. Я проехал тысячи километров именно в таких условиях, даже не трогая ничего. Именно поэтому я был уверен. Но именно эта уверенность стала ловушкой.
Я писал об этом риске еще в июне
Два с половиной месяца назад я опубликовал статью, в которой утверждал, что FSD v14 настолько хорош, что вызывает у меня опасную самодовольность. Тогда я писал, что «система, работающая почти идеально, создает ловушку — водители доверяют ей настолько, что перестают обращать внимание, но она все равно может давать неожиданные сбои, иногда критические».
Я готов подтвердить каждое своё слово — демонстрация состоялась в воскресенье вечером. Расстояние в несколько тысяч миль между критическими вмешательствами действительно свидетельствует о выдающихся инженерных достижениях. Именно такой промежуток времени заставляет мозг перестать постоянно сканировать окружающую обстановку.
В собственных записках к выпуску v14.3.6 от Tesla говорится, что компания «обновила этап обучения нейронной сети FSD с использованием метода усиленного обучения», переписала компилятор ИИ с использованием технологии MLIR для достижения «на 20% более быстрого времени реакции», а также улучшила способность автомобиля реагировать на сбои в работе системы, «сокращая ненужные отключения». Отключения становятся реже по мере улучшения программного обеспечения, а также когда водитель перестаёт вмешиваться. Tesla не публикует ничего, что позволило бы посторонним отличить один из этих факторов от другого.
А имеющиеся публичные данные не внушают уверенности. Tesla сообщила NHTSA о рекордном количестве 207 аварий с использованием функций Autopilot и FSD за один месяц, причем описание обстоятельств 99,9% из 3763 отчетов об авариях с участием систем помощи водителю с 2019 года было скрыто. Маск по-прежнему утверждает инвесторам, что система FSD без надзора станет широко распространенной в США к концу года, тогда как со-генеральный директор Waymo продолжает объяснять, почему системы самоуправления, основанные только на камерах, не соответствуют реальным требованиям к беспилотным транспортным средствам.
Мнение Electrek
Один случай чуть не произошедшей аварии — это лишь анекдот, а не данные, но я считаю, что это важное напоминание о необходимости оставаться бдительным.
Как я уже неоднократно говорил, Tesla FSD v14 — это по-настоящему впечатляющий продукт. Конечно, он сильно уступает тому, как изначально продавалась система FSD — как средство для полностью автономного вождения. Он далек от этого уровня и, возможно, никогда им не станет. Это останется проблемой и, вероятно, худшим шагом со стороны Tesla за всю ее историю.
Но если отбросить это и рассматривать FSD как систему помощи водителю для точечного управления, она действительно поразительна.
Однако она настолько удивительна, что порождает самодовольство. Компания Tesla не способствует решению этой проблемы, поскольку её генеральный директор Илон Маск говорит вроде того, что «теперь можно смотреть в телефон во время его использования».
Это явно безрассудно. По мере совершенствования системы Tesla должна лучше убеждать водителей сосредотачиваться на дороге из-за этой проблемы самодовольства. А не наоборот.