Giro AmbientalNewsletter
Normas· 18 de novembro de 2026· 3 min de leitura

USP propõe teste com alucinações falsas para carros autônomos

Pesquisa da Poli-USP com Stanford e Miami injeta erros de percepção em simulações para medir quais falhas da IA oferecem mais risco de acidente.

Redação Giro Ambiental
USP propõe teste com alucinações falsas para carros autônomos

Pesquisadores do Grupo de Análise de Segurança (GAS), do Departamento de Engenharia de Computação e Sistemas Digitais (PCS) da Escola Politécnica (Poli) da USP, apresentaram uma estrutura de avaliação de segurança que provoca erros intencionais nos sistemas de inteligência artificial de veículos autônomos. O trabalho, feito em parceria com pesquisadores da Stanford University e da University of Miami, se chama "Injecting Hallucinations in Autonomous Vehicles: A Component-Agnostic Safety Evaluation Framework" e foi publicado em agosto de 2026, segundo o Jornal da USP.

A motivação é uma falha de percepção, e não um defeito de sensor. Alexandre Nascimento, pesquisador do GAS e um dos autores, conta que empresas como Waymo e Tesla coletaram durante anos dados de trânsito com câmeras, radares e outros sensores instalados nos veículos. Esses dados treinam modelos de inteligência artificial, que, segundo ele, acabam imitando o comportamento humano. Mesmo assim, o pesquisador afirma que veículos autônomos têm índices de segurança superiores à média dos carros convencionais conduzidos por pessoas, mas ainda podem interpretar mal o ambiente.

O estudo nasceu de uma situação concreta. Ao engatar a marcha à ré com a câmera de ré de um veículo, Nascimento viu, na imagem reconstruída de cima, um inseto parecido com uma mosca ou joaninha gigante, quase do tamanho do carro. Não havia nada daquele porte na cena. Já durante a pesquisa em Stanford, ele registrou casos com veículos da Tesla em que a IA identificou objetos inexistentes ou deixou de reconhecer elementos reais. Em um deles, o reflexo de um sinal vermelho nos trilhos de trem foi lido como cone de trânsito.

A técnica usada é a injeção de falhas, prática da engenharia de segurança para ver como um sistema reage a situações adversas. Nascimento usa como exemplo a perda de um motor em um carro ou de uma turbina em um avião. Nos veículos autônomos, porém, o problema não se limita a sensores e câmeras. Entra também o erro de interpretação da inteligência artificial.

Na simulação, os pesquisadores forçam o sistema a ver coisas que não existem, como um carro fantasma ou um pedestre onde não há ninguém. Também deixam de reconhecer carros e pedestres reais e induzem interpretações de imagem com atrasos e distorções angulares. Os testes envolvem milhares de combinações e situações simuladas. A partir daí, a equipe identifica quais tipos de falha oferecem maior risco de acidente e pode desenvolver mecanismos para evitar que esses erros aconteçam nas ruas.

O pesquisador afirma que os veículos autônomos precisam passar por testes rigorosos antes de circular. Alemanha, China e Estados Unidos já convivem com a tecnologia, cada um com regras e condições próprias de uso. No Brasil, a legislação de trânsito ainda exige um motorista humano atento e com as mãos no volante. O mercado nacional tem veículos semiautônomos, com recursos como frenagem automática e manutenção na faixa de rodagem.

Para o setor, o recado é que a avaliação de segurança de sistemas de percepção passa a incluir alucinações induzidas em simulação, e não só falhas físicas de sensores. Quem trabalha com homologação, auditoria de software embarcado ou análise de risco de sistemas autônomos tem, nesse método, um parâmetro para priorizar cenários de teste pelo grau de gravidade. Ainda não há, no material apurado, indicação de adoção do método por órgão regulador brasileiro.

Com informações de Jornal da USP.

Compartilhar:WhatsAppXLinkedIn

Leia também

O Giro na sua caixa de entrada

As notícias que importam para quem é da área ambiental, uma vez por semana. Sem spam.