Shanahan z drużyny 49ers rozbił swojego Teslę w trybie Autopilot, próbując dosięgnąć telefonu.

Trener drużyny San Francisco 49ers, Kyle Shanahan, spowodował wypadek ze swoim Tesla Model S 14 lipca, gdy samochód był w trybie Autopilot. Próbował dosięgnąć telefonu, który wypadł mu z ręki, przez co odwrócił wzrok od drogi.

W wyniku wypadku doznał stłuczenia mózgu, złamanej nosa, trzech złamanych żeber, złamanej lewej ręki oraz 40 szwów nad prawym okiem. Na jego cześć należy zaznaczyć, że nie obwinia samochodu.

Shanahan opisał dziennikarzom zdarzenie, które miało miejsce w tym tygodniu na obozie treningowym 49ers. Wydarzyło się około godziny 18:12 w pobliżu ulicy Alma Street i alei Hamilton Avenue w Palo Alto, gdy wracał do domu w Los Altos po wizycie u chiropraktyka. Jego iPhone spadł i utknął pomiędzy siedzeniem a konsolą. Spojrzał w dół na około dwie sekundy, by go podnieść, po czym wjechał na pas ruchu przeciwnego z prędkością około 20 mph i uderzył w 21-letnią kobietę prowadzącą SUV. Nie doznała poważnych obrażeń.

Baza danych policji początkowo odnotowała, że winna była druga kierowczyni. Shanahan sam to sprostował. „To ja ją uderzyłem. Nie wiem, dlaczego tak to zostało zgłoszone”, powiedział. Policja z Palo Alto później określiła tę informację jako błąd administracyjny, a przybyły funkcjonariusz zdecydował się nikogo nie karać.

Shanahan bierze winę na siebie – to właściwy instynkt

Tutaj trener zasługuje na uznanie. Nie ukrywał się za technologią.

„To zawsze twoja wina. Niezależnie od tego, czy jadziesz w trybie autopilota, czy nie, nie możesz odrywać wzroku od drogi” – powiedział Shanahan.

Słowo „zawsze” jest przesadne. Widzieliśmy przypadki, gdy systemy ADAS popełniały błędy, których nawet uważny kierowca nie mógłby naprawić, ale on ma rację co do zasady.

Bыł także szczery co do tego, czego nie wie: „Czy to się zepsuło, czy ja je wyłączyłem – jeszcze nie wiem. Kto wie, co się stało, gdy się odwróciłem?”

To bardziej szczere wyjaśnienie niż te, które podają większość kierowców Tesli po wypadku. Shanahan sięgnął po telefon, odwrócił wzrok i przyznał się do winy. Dodał nawet to, czego nikt od ciebie nie wymaga: „Każdy raz, gdy spowodujesz wypadek, którego można było uniknąć, czujesz się naprawdę głupio, zwłaszcza gdy istniała szansa, że skrzywdzisz kogoś innego”.

Ale właśnie w ten sposób systemy asystujące kierowcy mogą przynieść kłopoty

Najważniejszy szczegół kryje się w samym wyjaśnieniu Shanahana: „Od dziewięciu lat korzystam z autopilota, więc czuję się przy nim całkiem komfortowo.”

To właśnie ten komfort stanowi problem.

Autopilot to system asystujący kierowcy poziomu 2 firmy Tesla. Poziom 2 oznacza, że samochód może sam sterować, hamować i przyspieszać, ale kierowca pozostaje w pełni odpowiedzialny i musi być gotów natychmiast przejąć kontrolę w każdej chwili, bez żadnego uprzedzenia.

Problem polega na tym, że te systemy w większości przypadków działają na tyle dobrze, że kierowcy przestają zwracać na nie uwagę. Dziewięć lat jazdy samochodem, który w dużej mierze sam steruje, uczy nas mu ufać. Dlatego gdy spada telefon, spojrzenie w dół na dwie sekundy nie wydaje się ryzykowne. Tymczasem jest nim.

To jest główny problem automatyzacji poziomu 2, o którym badacze ds. bezpieczeństwa ostrzegają od lat. Im lepiej system radzi sobie z rutynową jazdą, tym bardziej skłania kierowcę do rozproszenia uwagi. Następnie w najgorszym możliwym momencie cicho przekazuje kontrolę z powrotem. Osoba, która przez ostatnie 20 minut była pasażerem, nie może w pół sekundy potrzebnej na przekroczenie linii środkowej znów stać się uważnym kierowcą.

Samodzielne dane Tesli pokazują skalę problemu. Liczba wypadków z udziałem Autopilota i FSD zgłoszonych do organów nadzoru osiągnęła rekordowe 207 w ciągu jednego miesiąca. A Tesla nadal promuje rozproszenie uwagi kierowcy. Elon Musk twierdzi, że kierowcy FSD mogą teraz pisać wiadomości podczas jazdy, co jest przeciwieństwem tego, czego wymaga system poziomu 2 od osoby za kierownicą.

Pogląd Electrek

Shanahan doznał poważnego wypadku, powiedział prawdę na ten temat i sprostował błędne informacje, gdy raport wskazywał na 21-letniego mężczyznę, który nie zrobił nic złego. To dowód większej odpowiedzialności niż większość kierowców, a szczerze mówiąc, więcej niż zwykle oferuje sama Tesla, gdy jej oprogramowanie jest aktywne podczas wypadku.

Jednak jego własne wyjaśnienie jest dowodem na to, jak działa dziś system jazdy poziomu 2. Dziewięć lat korzystania z Autopilota sprawiło, że czuł się „komfortowo”, na tyle komfortowo, by odwrócić wzrok przy prędkości 20 mph. To doświadczony i ostrożny człowiek, a mimo to mu się to przydarzyło. To nie jest problem Shanahana – to problem projektu. Sam tak powiedziałem po doświadczeniu z FSDD v14: system FSD Tesli jest tak dobry, że sprawia, iż stajesz się niebezpiecznie zaniedbujący ostrożność.

Nieprzyjemna prawda na temat Autopilota i FSD polega na tym, że są wystarczająco dobre, by was uspokoić, ale nie na tyle, by móc poruszać się samodzielnie. Przejmują nudne aspekty jazdy aż do chwili, gdy potrzebują w pełni skupionego kierowcy – dokładnie wtedy, gdy ten jest najmniej przygotowany. Shanahan miał szczęście: prędkość wynosiła 20 mph i nikt nie zginął. Tesla teraz promuje FSD jako coś, czemu można zaufać nawet przy utracie wzroku, mimo że funkcjonuje ono przy prędkościach 45, 65 i 75 mph.