Śledzenie śmiertelnych wypadków z udziałem Tesla Autopilot i FSD ukrytych w jej danych

Tesla zgłasza federalnemu rządowi informacje o wypadkach spowodowanych przez Autopilot oraz funkcję „Full Self-Driving”, jak to wymagane, a następnie zatuszowuje niemal wszystkie szczegóły w tych raportach, dzięki czemu opinia publiczna nigdy nie dowiaduje się, co dokładnie wydarzyło się w tych wypadkach. Tesla zawsze obwinia kierowcę.

Porównujemy te zredagowane raporty, jeden po drugim, z rzeczywistymi śmiertelnymi wypadkami, które były przedstawiane w mediach jako zwykłe wypadki. To trwające dochodzenie – każdy potwierdzony przez nas wypadek zostanie dodany na tę stronę. Można to postrzegać jako centrum informacyjne śledzące nasze bieżące dochodzenie.

Co pokazują dane

Zgodnie z rozporządzeniem NHTSA z 2021 roku, producenci samochodów muszą zgłaszać wypadki, w których system wspomagania kierowcy poziomu 2 był aktywny w ciągu 30 sekund od zderzenia, a ktoś doznał obrażeń, zginął lub pojazd został odholowany. Tesla odpowiada za około 85% wszystkich zgłoszeń w całej branży – prawie 4000 wypadków – a ta liczba rośnie z każdym rokiem.

Sądzimy, że dzięki FSD i Autopilotowi Tesla ma większą liczbę przebiegów z użyciem systemów ADAS niż jakikolwiek inny producent, więc większa liczba wypadków niekoniecznie stanowi problem, jednak nadal jest niepokojące, że co miesiąc osiągane są nowe rekordy w liczbie wypadków.

Problem polega na tym, co Tesla robi z tymi raportami. W praktycznie wszystkich z nich usuwa opis wypadku, wersję oprogramowania oraz informację o tym, czy droga znajdowała się w zatwierdzonej strefie działania systemu – wszystko to pod hasłem „tajnych informacji biznesowych”. Od 2019 roku co roku w 99,9% swoich raportów maskuje treść opisu wypadków.

Prawie żaden inny producent samochodów tego nie robi. GM, Ford, Honda i Toyota praktycznie w ogóle nie usuwają żadnych informacji z swoich raportów. Tesla jest jedynym producentem w dużych ilościach, który ukrywa wszystko.

Jak to robimy

Raporty pozostawiają kilka pól bez edycji: miasto, stan, miesiąc, pojazd, droga, prędkość przed wypadkiem oraz czas zdarzenia zapisany w UTC. To wystarcza, aby wiele z nich powiązać z konkretnymi, nazwanymi wypadkami opisanymi w lokalnej prasie.

Dokładnie tak robimy. Przekształcamy datę z UTC na czas lokalny i porównujemy ją z danymi podanymi przez policję; potwierdzamy miasto, pojazd oraz tragiczny wynik wypadku; sprawdzamy również, czy jest to jedyny pasujący wypadek w danym miesiącu. Gdy sprawa wydaje się wiarygodna, przedstawiamy ją w dwóch kolumnach – wszystko, co Tesla poinformowała rząd, oraz wszystko, co zostało przekazane opinii publicznej – i składamy wnioski o udostępnienie dokumentów publicznych do agencji śledczych w celu uzyskania informacji, których Tesla nie chce ujawnić, w tym tego, czy policja otrzymała surowe dane telemetryczne od Tesli, czy tylko jej własną interpretację tych danych.

Wypadki, które potwierdziliśmy do tej pory

Każdy z nich został publicznie zgłoszony jako zwykły wypadek, bez żadnej wzmianki o Autopilot lub FSD – dopóki własny, zredagowany raport Tesli dla NHTSA nie ujawnił, że system był aktywny.

Clute, Teksas – Steven Alvarez, 23 lata, zginął, gdy jego Model 3 zjechał z drogi i uderzył w basen w parku. Policja przypuszcza, że mogło chodzić o problem zdrowotny. Dane Tesli wskazują, że system wspomagania kierowcy był aktywny przy prędkości 104 mph – prędkości, której nie ma w żadnych publicznych rejestrach.

Lake Mary, Floryda – 43-letni mężczyzna zginął, gdy jego Model 3 stał nieruchomo na pasie ruchu autostrady I-4, a ciężarówka uderzyła w niego od tyłu. Policjanci stwierdzili, że nie potrafią wyjaśnić, dlaczego samochód stał w miejscu. Dane Tesli pokazują, że system wspomagania kierowcy był aktywny, przy prędkości 0 mph.

Mesa, Arizona – kilka tygodni później doszło do niemal identycznego incydentu: kolejny Model 3 z 2020 roku, który stał nieruchomo przy prędkości 0 mph na Loop 202 o 3 rano, został uderzony od tyłu, a jego kierowca zginął. Takie same cechy incydentu, system wspomagania kierowcy potwierdzony jako aktywny – a nagranie posiada Tesla.

Batavia, Illinois — Maggie Espinosa, 37-letnia nauczycielka i matka pięciorga dzieci, zginęła jako pasażerka, gdy Model Y skręcający w lewo na skrzyżowaniu zderzył się z pick-upem. Dane Tesli wskazują, że system asysty kierowcy był aktywny podczas skrętu – manewru, który świadczy o funkcji „Full Self-Driving”. Sprawa jest obecnie badana przez biuro prokuratora hrabstwa Kane, a wideo znajduje się w posiadaniu Tesli.

Będziemy aktualizować tę listę w miarę uzyskiwania dodatkowych informacji.

Dlaczego to ma znaczenie

To nie jest abstrakcyjna walka o przejrzystość. Tesla bardziej niż kiedykolwiek zachęca właścicieli, by traktowali system asysty kierowcy poziomu 2 jakby był autonomiczny. Sprzedaje ten oprogramowanie jako „Full Self-Driving”, Elon Musk wielokrotnie obiecuje, że autonomia bez nadzoru będzie dostępna za kilka miesięcy, a marketing zachęca kierowców do ufania temu, że samochód może prowadzić się sam.

Ale z prawnego i technicznego punktu widzenia nadal jest to poziom 2: kierowca jest osobą prowadzącą i odpowiada za wszystko w każdej chwili. Same działania Tesli potwierdzają tę luki – nie usunęła wymogu nadzoru w wersji FSD przeznaczonej dla konsumentów, a jej usługa robotaxi składa się nadal z niewielkiej liczby pojazdów pod ścisłą obserwacją. Technologia ta nie jest taka, jak twierdzi jej branding.

Ta luka jest niebezpieczna, ponieważ sprzyja lekceważeniu – kierowcy, którzy zbytnio ufają systemowi i przestają uważać. A gdy coś idzie nie tak, Tesla obwinia kierowców za nadużywanie systemu i publikuje ograniczone, zredagowane dane, przez co nawet nie wiemy, co się stało.

Tesla próbuje przekonać właścicieli, że samochód potrafi radzić sobie z sytuacjami sam; ukrywa dane, które pokazałyby, jak faktycznie zachowuje się system w trudnych warunkach. Od opinii publicznej wymaga się zaufania do marketingu, podczas gdy odmawia się jej dostępu do danych.

Opinia Electrek

Tesla ukrywa najważniejsze dane w federalnej bazie danych dotyczącej bezpieczeństwa – to, co robił jej samochód, jaki oprogramowanie był w użyciu oraz czy w ogóle powinien tak funkcjonować – w raportach o wypadkach, w których zginęły osoby. Usprawiedliwia to twierdzeniem, że doznałaby „szkód finansowych”, gdyby te informacje stały się publiczne. Innymi słowy, Tesla mówi organom regulacyjnym, że komercyjna wartość jej tajemnicy przeważa nad prawem społeczeństwa do wiedzy o tym, jak jej samochody zachowują się podczas śmiertelnych wypadków. To jest nie do obrony.

Nie można korzystać z dróg publicznych do testowania oprogramowania, które przyznaje się być „beta”, a potem trzymać społeczeństwo w niewiedzy, gdy to oprogramowanie zawodzi i ktoś umiera.

Jest to również selektywne. Gdy dane sprawiają, że oprogramowanie wygląda dobrze, lub Tesla może przedstawić te dane w taki sposób, by jej system wyglądał korzystnie – jak w fatalnym wypadku w Katy w Teksasie, gdzie Tesla mogła wskazać na to, że kierowca obejść system – informacje te zostają ujawnione. Gdy tak nie jest, raport pozostaje zamknięty. Firma pewna swojej technologii nie musiałaby ukrywać tego, co robiły jej samochody w sytuacjach kryzysowych, a jednocześnie publikować te informacje, gdy wszystko idzie dobrze.

Tesla jest już przedmiotem dochodzenia NHTSA dotyczącego sposobu raportowania tych wypadków, a jej własni trenerzy sztucznej inteligencji powiedzieli Reutersowi, że nie ufają jej statystykom bezpieczeństwa. Stanowisko Electrek jest proste: Tesla powinna przestać cenzurować swoje opisy wypadków SGO oraz wersje oprogramowania, a NHTSA powinna przestać akceptować takie cenzury. Dopóki raporty pozostaną zamknięte, będziemy musieli robić to w trudny sposób – porównywać pojedyncze wypadki i dodawać je tutaj.