Tesla FSD v14 раптово змінила напрямок руху та намагалась виїхати мене у канаву без жодної причини.

Функція повного автономного керування Tesla версії v14.3.6 намагалась виїхати з автомагістралі через вихід, який моя машина вже пройшла, зі швидкістю 110 км/год (68 миль/год), що могло призвести до падіння прямо в канаву.

Я був готовий взяти керування під контроль, і так і зробив, але це було страшно. Моя дівчина, яка сиділа на пасажирському сидінні, кричала від страху.

Що показує камера

Це сталось у неділю ввечері на автомагістралі 55 у регіоні Морісі в Квебеку, коли була активована версія FSD (з наглядом) v14.3.6 — найновіша та найкраща версія Tesla FSD для найновішого обладнання.

Автомобіль рухається зі швидкістю 110 км/год у правій смузі. Суха дорога, відсутній рух у обох напрямках, свіжозмальовані лінії, відбивні знаки над дорогою. Ідеальні умови для FSD. Коли ми проїжджаємо під вантажопідйомником біля виїзду 217, увімкнюється сигнал повороту направо, і автомобіль починає рухатися до узбіччя, при цьому на екрані все ще відображається «Самокерування».

Проблема полягала у тому, що за нами вже почав відшаровуватися асфальт. Якби ми розвернулися в такий момент та з такою швидкістю, це призвело б до того, що ми врізалися б прямо у канаву.

Показник швидкості знижується до 110, 109, 107, 104 під час виконання маневру. Саме тоді я схопив кермо. При швидкості 102 км/год на екрані зникає позначка «Самокерування».

Це не було коливанням у виборі смуги чи миттєвою ваганням. Автомобіль вирішив увімкнути сповіщувач повороту та виїхати з виїзду, куди йому зовсім не слід було їхати.

Це були ідеальні умови для FSD.

Якби ви розробляли найпростіший можливий сценарій для системи Tesla, це був би саме він.

Дорога з розділювальною смугою. Ніч, тож протилежні фари та відбивачі смуг легко помітні. Жодного руху, про який потрібно було б думати. Чіткі маркування смуг. Великі, добре освітлені знаки.

Судячи з усього, що я бачив у версії v14, їзда по автостраді вночі на порожній дорозі — це ситуація, у якій система проявляє себе найкращим чином. Я пройшов тисячі кілометрів саме так, не торкаючись нічого. Саме тому я був впевнений. А ця впевненість і є всією пасткою.

Я писав про цей саме ризик у червні

Два з половиною місяці тому я опублікував статтю, у якій стверджував, що FSD v14 настільки хороший, що змушує мене ставати небезпечно самовдоволеним. Тоді я писав, що «система, яка працює майже ідеально, створює пастку — водії довіряють їй настільки, що перестають уважно стежити, але вона все одно може непередбачувано та іноді критично зламатися».

Я стою за кожним словом – неділя ввечері була саме такою демонстрацією. Кілька тисяч миль між критичними втручаннями – це справді вражаюча інженерна досягнення. Це також саме той проміжок часу, який змушує мозок припинити постійний сканування.

У власних примітках до версії v14.3.6 Tesla зазначає, що компанія „покращила етап посиленого навчання (Reinforcement Learning, RL) для тренування нейронної мережі FSD“, переписала компілятор ШІ на MLIR для „швидкішої у 20% реакції“ та покращила реакцію автомобіля на зниження продуктивності системи, „зменшуючи непотрібні вимкнення“. Кількість непотрібних вимкнень зменшується, коли програмне забезпечення покращується, а також тоді, коли водій припиняє втручатися. Tesla не публікує жодної інформації, яка дозволила б стороннім особам розрізнити ці два фактори.

А наявні публічні дані не є обнадійливими. Tesla повідомила до NHTSA про рекордну кількість — 207 аварій із використанням Autopilot та FSD протягом одного місяця, причому у 99,9% з 3 763 звітів про аварії за допомогою систем допомоги водієві з 2019 року опис причин було приховано. Маск все ще стверджує інвесторам, що система FSD без нагляду стане поширеною у США до кінця року, тоді як співгенеральний директор Waymo продовжує пояснювати, чому самокерування, засноване лише на камерах, не відповідає справжнім вимогам безводійної системи.

Думка Electrek

Одна невелика аварія — це лише анекдот, а не дані, але я вважаю, що це важливе нагадування про необхідність бути уважними.

Як я вже неодноразово казав, Tesla FSD v14 — це справді вражаючий продукт. Звісно, він значно поступається тому, як спочатку пропонувалося FSD — стати безнаглядною системою самокерування. Він далекий від цього та, можливо, ніколи не досягне цього. Це залишатиметься проблемою та, ймовірно, найгіршим кроком від Tesla.

Але якщо відкинути це та розглядати FSD як систему допомоги водієві типу «точка-до-точки», вона справді неймовірна.

Проте вона настільки неймовірна, що породжує самозадоволення. Tesla не допомагає у цьому, адже її генеральний директор Ілон Маск каже речі на кшталт «тепер ви можете дивитися у свій телефон під час його використання».

Це, очевидно, безрозсудно. У міру того, як система стає кращою, Tesla повинна краще переконувати водіїв зосереджуватися через цю проблему самозадоволення. А не навпаки.