“Condução autônoma” da Tesla é testada em crianças de verdade

Carmine Cupani queria esclarecer as coisas. Então ele pediu a seu filho para ficar na frente do seu carro Tesla enquanto ele dirigia em um estacionamento.

O residente do estado da Carolina do Norte, nos Estados Unidos, se propôs a refutar um vídeo amplamente divulgado de um Tesla com o software beta de “condução autônoma total” – que permite que o carro dirija, freie e acelere, mas requer um motorista humano atento e pronto para assumir o volante – avançando sobre manequins de tamanho infantil.

Dan O’Dowd, o CEO de uma empresa de software que publicou o vídeo no início deste mês, acredita que a Administração Nacional de Segurança no Trânsito dos EUA (NHTSA, na sigla em inglês) deve proibir a “condução autônoma total” até que o CEO da Tesla, Elon Musk, “prove que não vai atropelar crianças”.

Foi quando Cupani, que gerencia uma concessionária focada em importações e Teslas, se envolveu e recrutou seu filho. Embora se descreva como um “cara BMW”, Cupani diz que o software não pode se comparar ao que um Tesla oferece.

Também não foi a primeira vez que Cupani alistou seu filho, que segundo ele tem 11 anos, em um exercício automobilístico possivelmente viral: no início deste ano, ele postou um vídeo de seu filho dirigindo seu Model S Plaid — que pode chegar de 0 a 100 km/h em 1,99 segundos — em um estacionamento privativo. O vídeo já foi visto mais de 250 mil vezes.

“Algumas pessoas olham e dizem: ‘Olha esse pai maluco, o que ele está fazendo?'”, contou Cupani ao CNN. “Eu faço muitas coisas assim, mas sempre garantindo que meu filho não seja atingido”.

Cupani filmou o teste da “condução autônoma total” em um estacionamento. Seu filho ficou perto do fim de um corredor com um smartphone para filmar o teste. O pai então acelerou o Tesla do outro lado do estacionamento e ligou a “condução autônoma total”, chegando a 35 milhas por hora, ou quase 60 km/h. O Tesla freou com firmeza e parou completamente – bem à frente do filho.

Cupani fez outro teste com o filho numa rua usando o Autopilot, o software mais rudimentar de assistência ao motorista da Tesla, e descobriu que ele também parou para o filho.

“Esse Dan, esse cara diz que é especialista nisso, especialista naquilo”, comentou Cupani. “Bom, eu sou um especialista em tecnologia automotiva futura, um instrutor de condução profissional”.

Cupani está entre os muitos apoiadores da Tesla que se opuseram ao vídeo de O’Dowd e se propuseram a criar seus próprios testes. Alguns pediram ajuda aos filhos. Outros fizeram manequins caseiros ou usaram bonecos infláveis.

As defesas apaixonadas e as críticas à “condução autônoma total” mostram como a tecnologia se tornou um ponto de discussão na indústria. O Departamento de Veículos Automotores da Califórnia (DMV) disse recentemente que o termo “condução autônoma total” é enganoso e representa motivo para suspender ou revogar a licença da Tesla para vender veículos no estado. Ralph Nader, cuja crítica da década de 1960 à indústria automobilística ajudou a desencadear a criação da NHTSA, fez coro junto aos críticos da “condução autônoma total” neste mês.

Contudo, isso também é um exemplo das consequências não intencionais de lançar uma tecnologia disruptiva e inacabada – e mostra até onde alguns fiéis da Tesla estão dispostos a ir para defender a empresa. Tantas eram as pessoas conduzindo suas próprias experiências, que uma agência governamental tomou a extraordinária atitude de alertar as pessoas para não usarem crianças para testar a tecnologia de um carro.

“Consumidores não devem nunca criar seus próprios testes ou usar pessoas reais, especialmente crianças, para avaliar o desempenho da tecnologia

Teste de Teslas

No início deste mês, Tad Park, um morador da Califórnia, viu que outro entusiasta de carros Tesla queria testar a “condução autônoma total” com uma criança, e ofereceu dois de seus filhos. Park disse ao CNN Business que foi “um pouco difícil” fazer sua esposa concordar. Ela só aceitou quando ele prometeu que ele mesmo conduziria o veículo.

“Nunca vou ultrapassar os limites porque meus filhos são muito mais valiosos do que qualquer outra coisa”, afirmou Park. “Não vou arriscar a vida deles, de forma nenhuma”.

Os testes de Park, ao contrário dos de O’Dowd, começaram com o Tesla a 0 km/h. Em todos os testes de Park, o Tesla parou antes de seus dois filhos no vídeo, incluindo um de 5 anos. Park disse ainda que não se sentia à vontade para fazer um teste com seus filhos a uma velocidade superior a 65 km/h, como O’Dowd fez com os manequins.

Franklin Cadamuro, que mora em Toronto, no Canadá, criou um “box boy”, ou menino-caixa, uma figura de tamanho infantil feita de caixas de papelão usadas da Amazon. “Não me culpem pelo que o carro faz ou não faz”, postou no início do vídeo. “Sou um grande fã da Tesla”.

Seu Tesla desacelerou quando se aproximou do “box boy”, e depois acelerou novamente, atingindo o manequim de papelão. Cadamuro especula que isso pode ter acontecido porque as câmeras não conseguiam ver as caixas baixas quando estavam imediatamente na frente do para-choque e, assim, podiam esquecer que estavam lá.

Bebês humanos aprendem aos cerca de oito meses que um objeto fora de visão ainda existe, muitos anos antes de poderem ter uma carteira de motorista. Mas a habilidade ainda pode iludir alguns sistemas de inteligência artificial como a “condução autônoma total” da Tesla. Outro fã da montadora teve resultados semelhantes.

Cadamuro disse que seu vídeo começou como entretenimento, mas ele queria que as pessoas vissem que a “condução autônoma total” não é perfeita.

“Acho que muitas pessoas têm opiniões extremas sobre a ‘condução autônoma total’ beta”, disse Cadamuro. “Pessoas como Dan acham que é a pior coisa do mundo, mas eu tenho alguns amigos que acreditam que ela é quase perfeita”.

Cadamuro contou que também realizou outros testes em que seu Tesla, conduzido a velocidades mais altas, efetivamente desviou do “box boy”.

Para um sistema de visão computadorizado, como o que veículos Tesla utilizam, a detecção rápida e precisa de objetos menores, como crianças pequenas, geralmente será mais difícil do que a identificação de objetos grandes ou adultos, segundo Raj Rajkumar, um professor da Universidade Carnegie Mellon que estuda veículos autônomos.

Quanto mais pixels um objeto ocupa em uma imagem de câmera, mais informações o sistema tem para detectar recursos e identificar o objeto. O sistema também será afetado pelos dados com que é treinado, como a quantidade de imagens de crianças pequenas às quais é exposto, por exemplo.

“A visão computadorizada com aprendizado de máquina não é 100% infalível”, disse Rajkumar. “Assim como o diagnóstico de uma doença, sempre há falsos positivos e negativos”.

A Tesla não respondeu a um pedido de comentários e geralmente não se envolve com a imprensa profissional.

“Regras do caos do Velho Oeste”

Após críticas dos fãs da Tesla sobre seus testes originais, O’Dowd lançou outro vídeo neste mês.

Alguns apoiadores da Tesla criticaram o fato de O’Dowd usar cones como marcas de pista em seus testes originais, o que pode ter limitado a capacidade do sedan de dirigir ao redor do manequim. Outros alegaram que o piloto de teste de O’Dowd tinha forçado o Tesla a avançar sobre o manequim pisando no acelerador, o que não era visível nos vídeos divulgados por O’Dowd. Alguns entusiastas da Tesla também destacaram mensagens borradas na tela do carro, como uma indicação de que o motorista de O’Dowd estava pisando no acelerador para manipular os testes.

O’Dowd disse ao CNN Business que as mensagens borradas se referiam ao supercharging não disponível e ao desgaste irregular dos pneus. O CNN Business não conseguiu verificar de forma independente o que a mensagem dizia, pois O’Dowd não forneceu nenhum vídeo mais nítido do que aconteceu no carro durante os testes.

Em seu segundo vídeo, O’Dowd testou sem cones em uma rua residencial e mostrou o interior do Tesla, incluindo o pedal do acelerador. O Tesla, como nos outros testes de O’Dowd, bateu no manequim infantil.

No início deste ano, O’Dowd lamentou em entrevista ao CNN Business que nenhum órgão de testes da indústria examina o código para “condução autônoma total”. “O governo dos EUA não tem padrões de desempenho para a tecnologia automatizada de assistência ao motorista, como o Autopilot.

O’Dowd é o fundador do Projeto Amanhecer (ou Dawn Project, no original em inglês), um esforço para tornar os computadores seguros para a humanidade. Ele concorreu, sem sucesso, como candidato ao Senado dos EUA neste ano, em uma campanha focada exclusivamente em sua crítica da “condução autônoma total”.

Atualmente, a NHTSA está investigando a tecnologia de assistência ao motorista da Tesla, portanto mudanças podem estar a caminho.

“O software que controla bilhões de vidas de pessoas em carros autônomos deve ser o melhor software já escrito”, exigiu O’Dowd. “Estamos usando regras do caos do Velho Oeste e chegamos a algo que é terrível”.