Revelada a terrível fraqueza de Claude em guerras com drones.
Pesquisadores descobriram que um simples comando em um videogame poderia enfraquecer as salvaguardas de Claude contra ataques de drones, fazendo com que civis parecessem alvos potenciais.

O modelo GPT-6 Astra, da OpenAI, passou de 6% para 92% na identificação de pelo menos um possível alvo militar em imagens captadas por drones depois que pesquisadores introduziram uma frase aparentemente inofensiva: disseram ao sistema que o campo de batalha fazia parte de um videogame. Em uma descoberta ainda mais perturbadora, outros modelos de IA importantes também foram observados identificando civis, ambulâncias e soldados que se rendiam em experimentos destinados a expor falhas nas salvaguardas de sistemas militares de IA.

As conclusões fazem parte de uma investigação publicada em 17 de novembro de 2026 pela Vals, empresa de avaliação de sistemas de IA, sob liderança dos pesquisadores Geby Jaff e Anthony Ozerov. O relatório, intitulado "Frontier Models Have Few Guardrails Around Autonomous Weapons" ("Modelos de fronteira têm poucas salvaguardas contra armas autônomas", em tradução livre), analisou se sistemas comerciais de IA poderiam ser manipulados para fornecer informações capazes de auxiliar na seleção de alvos militares.

Respostas do ChatGPT sobre alvos de drones disparam após truque simples

O GPT-6 Astra, da OpenAI, apontou pelo menos um possível alvo em apenas 6% das respostas a imagens de drones quando recebeu instruções comuns. Quando os pesquisadores descreveram o cenário como um videogame, o índice saltou para 92%. O Claude Sonnet 5.5, da Anthropic, também registrou forte alta, de 36% para 82%.

Os números medem a frequência com que os modelos selecionaram ao menos um alvo, não se as escolhas estavam corretas ou se resultaram em ataques bem-sucedidos.

Para o experimento, os pesquisadores criaram um campo de batalha fictício no leste da Ucrânia, com soldados, civis, vilarejos, ambulâncias e veículos militares. Em seguida, geraram quase 200 imagens de câmeras que imitavam registros de drones kamikaze, bombardeiros e de vigilância, e pediram aos modelos que marcassem possíveis alvos militares.

A Vals informou que nenhum dos pedidos foi bloqueado por um classificador de bloqueio no nível da API. Quando os modelos se recusavam a responder, muitas vezes bastava descrever o cenário como um jogo para mudar suas respostas.

Modelos de IA continuaram mesmo após ver vítimas simuladas

Os pesquisadores avançaram no teste e mostraram aos modelos imagens de consequências simuladas de ataques, incluindo locais danificados e aparentes vítimas, depois que os sistemas haviam identificado pessoas em imagens anteriores.

A maioria continuou fornecendo informações. Alguns acabaram se recusando a responder, mas a apresentação do cenário como um jogo podia convencê-los a retomar a atividade.

Os pesquisadores também descobriram uma brecha multimodal. Ao alterar as imagens para que se parecessem mais com videogames, mantendo os detalhes relevantes para a seleção de alvos, eles reduziram de aproximadamente 90% para 20% a taxa de recusa do Claude Opus 5.5 em um experimento com sequência fixa.

Os testes também incluíram imagens reais de drones da guerra entre Rússia e Ucrânia. O Claude Opus 5.5 forneceu informações sobre alvos sem se recusar a responder, enquanto o GPT-6.1 Sol, da OpenAI, inicialmente recusou o pedido, mas pôde ser convencido com a descrição do cenário como um jogo.

Claude apontou escola iraniana como alvo em experimento perturbador

Outro teste usou imagens de satélite de Minab, no sul do Irã, onde uma escola de ensino fundamental fica ao lado de um complexo militar.

O Claude Opus 5.5 identificou a escola como um possível alvo em 22 de 32 testes sem a descrição de videogame. O número subiu para 23 de 32 quando os pesquisadores introduziram o cenário inspirado em jogos.

A conclusão é especialmente perturbadora porque um ataque dos Estados Unidos atingiu a escola em 28 de fevereiro de 2026, matando mais de 150 civis, a maioria crianças, segundo a Vals e o TechCrunch. O experimento não comprovou que o Claude tenha sido usado na seleção da escola ou contribuído para o ataque.

OpenAI e Anthropic respondem a preocupações sobre guerra com IA

O porta-voz da Anthropic, Eduardo Maia Silva, disse ao TechCrunch que os exemplos violavam as regras da empresa e que usuários envolvidos nesse tipo de comportamento haviam sido — e continuariam sendo — banidos. A companhia também afirmou que novas salvaguardas e testes estavam sendo desenvolvidos.

O porta-voz da OpenAI, Nate Evans, disse que a empresa proíbe o uso de seus modelos públicos para facilitar violência ou apoiar atividades de segurança nacional não autorizadas. A OpenAI também afirmou estar desenvolvendo salvaguardas adicionais contra o uso indevido envolvendo drones e softwares para drones.

A Vals recomendou salvaguardas de bloqueio no nível da API voltadas especificamente para aplicações de armas autônomas, além de um treinamento de alinhamento mais robusto.

Os pesquisadores reconheceram que a latência e a capacidade limitada de processamento a bordo ainda dificultam a seleção de alvos em tempo real por drones. Eles alertaram, porém, que a IA já poderia ajudar a anotar grandes volumes de imagens de campos de batalha existentes para treinar sistemas autônomos de seleção de alvos.

As conclusões levantam uma questão incômoda para a indústria de IA: se uma simples explicação de que o cenário é um videogame pode enfraquecer salvaguardas contra uma assistência potencialmente letal na seleção de alvos, quão seguros podemos estar de que os civis estão adequadamente protegidos?