Shanahan, do 49ers, acidentou seu Tesla no modo Autopilot ao tentar pegar seu telefone

O treinador do San Francisco 49ers, Kyle Shanahan, acidentou seu Tesla Model S em 14 de julho enquanto o carro estava no modo Autopilot. Ele tentava pegar um telefone que havia caído fora de seu alcance e tirou os olhos da estrada.

O acidente causou nele uma concussão, um nariz quebrado, três costelas quebradas, uma mão esquerda quebrada e 40 pontos no olho direito. E, para seu crédito, ele não está culpando o carro.

Shanahan explicou aos jornalistas o acidente que ocorreu no campo de treinamento dos 49ers nesta semana. Ele aconteceu por volta das 18h12, perto da Alma Street e da Hamilton Avenue, em Palo Alto, enquanto ele voltava para casa em Los Altos após um consultório com quiroprático. Seu iPhone escorregou e ficou preso entre o assento e a consola. Ele olhou para baixo por cerca de dois segundos para pegá-lo, entrou na pista contrária a uma velocidade de aproximadamente 20 mph e atingiu uma mulher de 21 anos que dirigia um SUV. Ela não se feriu gravemente.

Um banco de dados da polícia registrou inicialmente que o outro motorista era o culpado. Shanahan mesmo corrigiu isso. “Eu atingi ela. Não sei por que foi relatado daquele jeito”, disse ele. A polícia de Palo Alto posteriormente classificou o registro como um erro administrativo, e o oficial que atendeu à ocorrência decidiu não aplicar multa a ninguém.

Shanahan assume a culpa, e esse é o instinto certo

Aqui é que o treinador merece alguns elogios. Ele não se escondeu por trás da tecnologia.

“É sempre culpa sua. Esteja você no piloto automático ou não, não pode tirar os olhos da estrada”, disse Shanahan.

“Sempre” é um termo exagerado. Já vimos casos de sistemas ADAS cometendo erros que até mesmo um motorista atento não conseguiria corrigir, mas ele está certo em termos gerais.

Ele também foi honesto sobre o que não sabia: “Se houve falha no sistema ou se fui eu quem desliguei, ainda não sei. Quem sabe o que aconteceu quando virei?”

Essa é uma explicação mais direta do que a maioria dos motoristas da Tesla dá após um acidente. Shanahan pegou seu telefone, desviou o olhar e assumiu a responsabilidade pelo resultado. Ele até acrescentou aquilo que ninguém exige que você diga: “Sempre que causa um acidente que poderia ser evitado, sente-se bem estúpido, especialmente quando há risco de ferir outra pessoa.”

Mas é exatamente assim que os sistemas de assistência ao motorista levam a problemas

O detalhe mais importante está na própria explicação de Shanahan: “Eu uso o piloto automático há nove anos, então me sinto bastante confortável com ele.”

Esse conforto é o problema.

O piloto automático é o sistema de assistência ao motorista nível 2 da Tesla. Nível 2 significa que o carro pode dirigir, frear e acelerar sozinho, mas o motorista permanece totalmente responsável e precisa estar pronto para assumir o controle imediatamente, a qualquer momento, sem aviso prévio.

O problema é que esses sistemas funcionam bem o suficiente, na maioria das vezes, para que os motoristas parem de prestar atenção. Nove anos com um carro cuidando em grande parte da direção ensinam a confiar nele. Por isso, quando o celular cai, olhar para baixo por dois segundos não parece ser um risco. Na verdade, é um risco.

Esse é o principal defeito da automação de Nível 2, e os pesquisadores em segurança vêm alertando sobre isso há anos. Quanto melhor o sistema se torna no condução rotineira, mais ele incentiva o motorista a relaxar. Em seguida, devolve silenciosamente o controle no pior momento possível. Uma pessoa que esteve como passageiro nos últimos 20 minutos não consegue se tornar um motorista atento no meio segundo necessário para cruzar uma linha central.

Os próprios dados da Tesla mostram a gravidade da situação. Os acidentes com o Autopilot e o FSD relatados às autoridades atingiram um recorde de 207 em apenas um mês. E a Tesla continua a desestimular a atenção do motorista. Elon Musk afirmou que os usuários do FSD agora podem enviar mensagens enquanto dirigem, o que é o oposto do que um sistema de Nível 2 exige da pessoa ao volante.

Ponto de vista da Electrek

Shanahan sofreu um acidente grave, contou a verdade sobre o ocorrido e corrigiu os registros quando um relatório apontava para um jovem de 21 anos que não havia feito nada de errado. Isso demonstra mais responsabilidade do que a maioria dos motoristas mostra, e, honestamente, mais do que a própria Tesla costuma oferecer quando seu software está em funcionamento durante um acidente.

Mas sua própria explicação é a prova de como o sistema de direção de nível 2 funciona atualmente. Nove anos usando o Autopilot fizeram com que ele se sentisse “confortável”, confortável o suficiente para desviar o olhar em velocidade de 20 mph. Trata-se de um homem experiente e cauteloso, mas mesmo assim ele se envolveu no acidente. Esse não é um problema de Shanahan; é um problema de design. Eu mesmo disse isso após experimentar o FSDD v14: o FSD da Tesla é tão bom que torna as pessoas perigosamente complacentes.

A verdade incômoda sobre o Autopilot e o FSD é que eles são bons o suficiente para acalmar o motorista, mas não bons o suficiente para deixá-lo sozinho ao volante. Eles assumem as partes entediantes da direção até o momento em que precisam de uma intervenção humana total, que é exatamente quando o motorista está menos preparado. Shanahan teve sorte: a velocidade era de 20 mph e ninguém morreu. A Tesla agora comercializa o FSD como algo em que se pode confiar mesmo quando se perde a visão, mas ele funciona a 45, 65 e 75 mph.