O Tesla FSD v14 desviou de repente e tentou me empurrar para um vala sem motivo algum.

O sistema Full Self-Driving v14.3.6 da Tesla tentou pegar uma saída da rodovia que meu carro já havia passado, a 110 km/h (68 mph), e isso poderia ter nos levado diretamente para o barranco.

Eu estava pronto para assumir o controle, e assim fiz, mas foi assustador. Minha namorada, sentada no banco do passageiro, gritou de medo.

O que a câmera mostra

Isso aconteceu na noite de domingo na Autoestrada 55, na região de Mauricie, em Quebec, com o FSD (Supervisionado) v14.3.6 ativado — a versão mais recente e avançada do Tesla FSD, compatível com o hardware mais atual.

O carro está se deslocando a 110 km/h na pista da direita. Pavimento seco, sem tráfego em nenhum dos sentidos, linhas pintadas recentemente e sinalização refletiva acima da cabeça. Condições perfeitas para o FSD. Ao passarmos sob a passarela da saída 217, o pisca-alerta direito acende e o carro começa a se desviar em direção à berma, ainda exibindo “Autocondução” na tela.

O problema é que a rampa já estava se soltando atrás de nós. Isso nos levaria diretamente para o valão se fizéssemos a curva tão tarde e àquela velocidade.

A leitura da velocidade cai para 110, 109, 107, 104 à medida que o carro executa a manobra. Foi então que segurei o volante. A indicação “Autocondução” desaparece da tela aos 102 km/h.

Isso não foi um vacilo na posição da pista nem um momento de hesitação. O carro decidiu acender o pisca-alerta e pegar uma saída para a qual não deveria ter ido.

Essas eram condições ideais para o FSD.

Se você estivesse projetando o cenário mais simples possível para o sistema da Tesla, seria este.

Autoestrada dividida. Noite, então os faróis dos carros que se aproximam e os refletores das faixas são fáceis de identificar. Sem tráfego algum com o qual se preocupar. Marcas de faixa bem visíveis. Sinais grandes e bem iluminados.

Com base em tudo o que vi desde a versão v14, dirigir em autoestrada à noite em uma estrada vazia é quando o sistema está em seu melhor desempenho. Já percorri milhares de quilômetros exatamente assim sem precisar fazer nada. É por isso que eu tinha confiança. E essa confiança é toda a armadilha.

Eu escrevi sobre esse risco exato em junho

Há dois meses e meio, publiquei um artigo argumentando que o FSD v14 é tão bom que está me deixando perigosamente complacente. Naquela época, escrevi que “um sistema que funciona quase perfeitamente cria uma armadilha — os motoristas confiam nele o suficiente para parar de prestar atenção, mas ele ainda falha de maneira imprevisível e, às vezes, de forma crítica.”

Apoio cada palavra dita, e a noite de domingo foi a demonstração. Duas mil milhas entre intervenções críticas representam realmente uma engenharia impressionante. É também exatamente esse intervalo que faz o cérebro parar de escanear constantemente.

As notas de lançamento da versão v14.3.6 da Tesla afirmam que a empresa “atualizou a fase de Aprendizado por Reforço no treinamento da rede neural FSD”, reescreveu o compilador de IA com MLIR para obter “um tempo de resposta 20% mais rápido” e melhorou a reação do carro às degradações do sistema, “reduzindo desligamentos desnecessários”. Os desligamentos diminuem quando o software melhora, e também diminuem quando o motorista para de intervir. A Tesla não publica nada que permita a terceiros distinguir esses dois fatores.

E os números públicos que existem não são tranquilizadores. A Tesla relatou à NHTSA um recorde de 207 acidentes com o Autopilot e o FSD em um único mês, sendo que 99,9% dos seus 3.763 relatórios de acidentes com assistência ao motorista desde 2019 tiveram os detalhes omitidos. Musk continua dizendo aos investidores que o FSD sem supervisão se tornará amplamente utilizado nos EUA até o final do ano, enquanto o co-CEO da Waymo continua explicando por que sistemas autônomos baseados apenas em câmeras não atendem às reais necessidades de um sistema sem motorista.

Ponto de vista da Electrek

Um quase acidente é apenas uma anedota, não um dado, mas acho que é um lembrete importante de manter a atenção.

Como já disse muitas vezes, o Tesla FSD v14 é um produto verdadeiramente impressionante. Claro, ele falha em comparação com o que o FSD foi originalmente vendido como: um sistema autônomo sem supervisão. Ele está longe disso e provavelmente nunca estará. Isso continuará sendo um problema e, provavelmente, a pior decisão já tomada pela Tesla.

Mas se deixarmos isso de lado e considerarmos o FSD como um sistema de assistência ao motorista ponto a ponto, ele é realmente incrível.

No entanto, ele é tão incrível atualmente que gera complacência. A Tesla não ajuda com declarações do CEO Elon Musk, como “agora você pode olhar para o seu celular enquanto o usa”.

Isso é obviamente imprudente. À medida que o sistema melhora, a Tesla precisa se esforçar mais para convencer os motoristas a manterem a atenção devido a esse problema de complacência. E não o contrário.