veículos autônomos
Pesquisadores da USP desenvolvem método para identificar falhas de inteligência artificial em veículos autônomos Heather Diehl/Getty Images

Pesquisadores da Universidade de São Paulo (USP), em parceria com cientistas da Universidade Stanford e da Universidade de Miami, desenvolveram um método para avaliar falhas nos sistemas de percepção utilizados por veículos autônomos. A técnica provoca erros intencionais na inteligência artificial (IA) para analisar como os automóveis reagem diante de interpretações equivocadas do ambiente e identificar situações que podem provocar acidentes.

O estudo, intitulado Injecting Hallucinations in Autonomous Vehicles: A Component-Agnostic Safety Evaluation Framework, foi publicado em agosto de 2026 e envolve o Grupo de Análise de Segurança (GAS), vinculado ao Departamento de Engenharia de Computação e Sistemas Digitais da Escola Politécnica da USP. Os resultados foram apresentados pelo Jornal da USP em 18 de novembro.

Como A Inteligência Artificial Pode Interpretar O Ambiente Incorretamente

Os veículos autônomos utilizam câmeras, radares e outros sensores para coletar informações sobre o trânsito. Esses dados alimentam modelos de inteligência artificial responsáveis por interpretar o ambiente e orientar as decisões do automóvel, desde a identificação de obstáculos até a navegação pelas vias.

Entretanto, mesmo com os avanços tecnológicos, esses sistemas podem interpretar incorretamente determinadas imagens ou identificar objetos que não existem. Alexandre Nascimento, pesquisador do GAS e um dos autores do estudo, relatou situações que ajudaram a motivar a investigação.

Em uma experiência com uma câmera de ré, por exemplo, o sistema apresentou a imagem de um inseto de dimensões semelhantes às de um automóvel, embora não existisse nenhum animal daquele tamanho. Em outra situação observada durante suas pesquisas em Stanford, o reflexo de um sinal vermelho nos trilhos de uma ferrovia foi interpretado por um sistema da Tesla como um cone de trânsito.

Simulações Permitem Identificar Situações De Risco

Para investigar esses problemas, os pesquisadores adaptaram uma técnica conhecida na engenharia de segurança como injeção de falhas. O procedimento consiste em introduzir erros deliberadamente em um sistema, dentro de um ambiente controlado, para observar suas respostas diante de situações adversas.

No caso dos veículos autônomos, as simulações provocam diferentes tipos de alucinações na inteligência artificial. Entre os cenários testados estão a identificação de carros e pedestres inexistentes, a incapacidade de reconhecer objetos reais e a interpretação de imagens com distorções ou atrasos.

Os experimentos envolvem milhares de combinações e repetições, permitindo comparar as respostas dos sistemas e identificar quais falhas representam maior potencial de risco. Com esses resultados, os pesquisadores buscam estabelecer mecanismos de segurança capazes de reduzir a ocorrência de erros durante a circulação.

O Cenário Dos Veículos Autônomos No Brasil

Segundo Nascimento, embora os veículos autônomos apresentem índices de segurança superiores à média dos automóveis convencionais conduzidos por pessoas, ainda existem desafios relacionados à interpretação de situações incomuns.

No Brasil, a legislação de trânsito ainda exige a presença de um motorista humano atento e com as mãos no volante. O mercado nacional já dispõe de veículos semiautônomos, equipados com recursos como frenagem automática e assistência para manter o automóvel na faixa.

A pesquisa da USP contribui para o desenvolvimento de métodos de avaliação que permitem identificar vulnerabilidades antes que elas representem riscos nas ruas, reforçando a importância de testes rigorosos para o avanço da condução automatizada.