IA

Uma investigação de seis meses realizada pela organização de direitos digitais Open Rights Group (ORG) concluiu que as ferramentas de IA do Home Office britânico geram erros em mais de um a cada cinco resultados submetidos a verificações pontuais — e que a avaliação de qualidade da segunda ferramenta foi totalmente interrompida. Os dois sistemas funcionam com o GPT-4o, da OpenAI, por meio do Azure AI Foundry, da Microsoft, são usados em todos os processos de asilo analisados pelo Reino Unido e nunca foram informados aos solicitantes cujos depoimentos eles resumem. A investigação completa, intitulada "Discriminação automatizada: desvendando o ambiente digital hostil", foi publicada hoje pela ORG, após uma apuração de seis meses que combinou pedidos de acesso a informações, perguntas parlamentares e análise jurídica especializada.

As conclusões surgem em um momento em que tribunais, comissões parlamentares e pesquisadores de vários países discutem até que ponto governos podem delegar responsavelmente decisões de grande impacto à IA generativa — e qual nível de erro pode ser tolerado. O caso do Home Office oferece um dos registros públicos mais detalhados sobre como essa delegação funciona na prática: taxas de erro que mais que dobraram entre o projeto-piloto e a operação, fiscalização baseada em menos de um terço de 1% dos resultados, nenhum plano de auditoria independente e nenhum aviso às pessoas mais afetadas.

Duas ferramentas, uma mesma arquitetura e erros crescentes

No centro da controvérsia estão dois sistemas de IA generativa incorporados pelo Home Office a todos os processos de asilo: a ferramenta de Resumo de Casos de Asilo, conhecida como ACS, e a ferramenta de Pesquisa de Políticas de Asilo, chamada APS. Ambas são baseadas no modelo de linguagem de grande escala GPT-4o, da OpenAI, disponibilizado pelo serviço de nuvem corporativa Azure AI Foundry, da Microsoft.

A APS foi disponibilizada a todos os responsáveis por decisões de asilo em julho de 2025. Ela oferece uma interface de conversa pela qual os funcionários podem consultar as informações do governo sobre políticas de cada país — documentos usados como evidência nas audiências de asilo e que descrevem as condições nos países de origem dos solicitantes. A ACS entrou em operação em abril de 2026 para automatizar o resumo das transcrições das entrevistas de asilo, que podem ter 50 páginas ou mais, antes da análise pelos responsáveis pelas decisões.

A distinção técnica que preocupa a ORG é fundamental: as duas ferramentas são generativas, e não baseadas em recuperação de informação. Um sistema de recuperação localiza o que já está no documento de origem; um sistema generativo reescreve, sintetiza e pode filtrar ou omitir fatos desse documento, dependendo do quanto os resultados do modelo se afastam do registro original. Em decisões de asilo — baseadas em relatos detalhados de depoimentos individuais — essa diferença é muito mais relevante do que seria em um corretor ortográfico ou uma ferramenta de formatação.

Taxas de erro mais que dobraram entre o piloto e a operação

A avaliação do projeto-piloto da ACS feita pelo próprio Home Office e publicada em abril de 2025 concluiu que 9% dos resumos eram imprecisos ou omitiam informações importantes o bastante para que fossem retirados do teste. O índice, já preocupante em um contexto jurídico de alto risco, parece ter piorado significativamente depois que a ferramenta foi implantada em larga escala.

Documentos obtidos pela ORG por meio de pedidos de acesso a informações mostram que especialistas do Home Office realizaram posteriormente uma amostragem de 203 resumos da ACS gerados entre abril e julho de 2026. Os resumos eram classificados como reprovados quando continham o que os próprios critérios do Home Office definiam como "múltiplos erros factuais ou deturpações" ou "imprecisões, contradições ou declarações falsas significativas". Na primeira etapa da análise, 45 dos 203 resumos — cerca de 22% — foram reprovados, e outros 19 foram encaminhados para uma avaliação adicional. Em uma segunda etapa, 15% dos resumos da amostra não atingiram o padrão de qualidade.

A diferença entre os 9% do projeto-piloto e a faixa de 15% a 22% observada na operação não é incomum em sistemas de IA generativa: o comportamento do modelo pode mudar quando a distribuição dos dados de entrada em uso real diverge das condições do piloto. O que chama atenção, segundo a ORG, é que o Home Office implantou a ferramenta em escala total mesmo ciente da taxa de erro do piloto, sem criar mecanismos de controle de qualidade capazes de detectar a aparente deterioração.

Há ainda outra limitação. Pelos critérios de reprovação do Home Office, um resumo que omite fatos relevantes do caso ainda pode ser aprovado se o conteúdo incluído estiver correto. A pertinência do que o modelo escolheu incluir não é avaliada como motivo para reprovação — o que significa que um resumo preciso, mas incompleto, do depoimento de um solicitante pode ser considerado aceitável mesmo se a informação omitida for o elemento mais importante do caso.

Como auditar uma IA testada em apenas 0,3% dos casos?

Os 203 resumos examinados por especialistas representam aproximadamente 0,3% dos cerca de 70 mil processos de asilo analisados pelo Home Office entre abril e julho de 2026, os meses posteriores à disponibilização da ACS para todos os funcionários. A própria avaliação de impacto sobre a proteção de dados da ACS informa que, em média, 17.515 casos são processados por mês, evidenciando a dimensão dos resultados gerados pela IA que não passam por auditoria.

Com uma taxa de reprovação de 22% na primeira etapa, a implicação é direta: aproximadamente 3.500 resumos por mês que seriam reprovados em uma avaliação de qualidade nunca são verificados. A insuficiência estatística do regime de amostragem não é apenas uma questão de recursos — é consequência estrutural do tamanho da amostra. Com n=203 e uma taxa observada de erro de 22%, o intervalo de confiança de 95% para a taxa real varia aproximadamente de 16,6% a 27,4%. O método não consegue distinguir, com confiança significativa, uma taxa de erro de 18% de uma de 26%.

A ORG afirma ainda que os resultados da amostragem foram "discutidos principalmente de forma verbal" em um grupo de trabalho interno, em vez de documentados em avaliações públicas. Um relatório provisório de testes pontuais foi entregue a um conselho interno, mas não foi divulgado. O Home Office confirmou a parlamentares que não planeja uma auditoria independente do sistema ACS.

Por que o GPT-4o é estruturalmente suscetível a erros nesse contexto

As taxas de erro documentadas pela ORG não são principalmente um problema de implementação — elas refletem uma característica arquitetônica da classe de modelos usada pela ACS e pela APS. Modelos de linguagem de grande escala, como o GPT-4o, são sistemas generativos treinados para produzir textos fluidos e coerentes prevendo continuações prováveis de sequências de entrada. Eles não recuperam fatos de um documento de origem e os transcrevem; sintetizam um novo texto que reflete padrões estatísticos dos dados de treinamento e do contexto imediato do comando.

Por isso, o GPT-4o pode produzir um texto fluente e factualmente incorreto — não por causa de um defeito, mas porque fluência e precisão factual são propriedades diferentes, e o treinamento não garante que elas coincidam. Na literatura jurídica e acadêmica, o fenômeno é chamado de alucinação: o modelo apresenta conteúdo inventado ou distorcido com a mesma confiança usada para apresentar informações corretas. Uma base global de acompanhamento de alucinações jurídicas, mantida por pesquisadores da HEC Paris e da Sciences Po, registrou mais de 1.300 casos em várias jurisdições. Em julho de 2026, um juiz britânico citou especificamente a alucinação de IA como provável causa de uma negativa de asilo baseada em uma política inexistente — uma nota sobre política de um país que não existia.

Usar o GPT-4o em ambiente de produção não elimina essa tendência; ela é administrada por meio de engenharia de comandos, testes e controles de qualidade. A principal conclusão da investigação da ORG é que os controles do Home Office — amostragem de 0,3% dos resultados, nenhuma auditoria independente e ausência de testes contínuos da APS por especialistas — são estruturalmente insuficientes para controlar o risco arquitetônico da classe de modelo escolhida.

APS: testes foram totalmente interrompidos

A situação da ferramenta de Pesquisa de Políticas de Asilo é, na avaliação da ORG, pior que a da ACS, porque nunca foi estabelecido um processo contínuo equivalente de controle de qualidade. A APS funciona como uma interface generativa sobre documentos de políticas de cada país, atuando como um assistente de IA consultado pelos funcionários para encontrar informações relevantes sobre as condições de determinado país. Esses dados formam uma parte importante da base probatória das decisões de asilo.

Anna Turley, ministra de Estado para Segurança de Fronteiras e Asilo, confirmou em agosto de 2026 que os testes especializados da APS haviam sido totalmente interrompidos. A ORG afirma não ter encontrado evidências de qualquer verificação sistemática da qualidade dos resultados da APS desde sua implantação completa. O Home Office não forneceu à ORG nem a parlamentares os comandos usados para instruir o modelo, os critérios internos de avaliação do sistema ou detalhes sobre o treinamento dado aos funcionários para reconhecer e lidar com erros nos resultados — informações que o departamento se recusou a divulgar em resposta a pedidos de acesso a informações.

A interrupção dos testes da APS é significativa porque sua taxa de erro em operação é completamente desconhecida. Diferentemente da ACS, para a qual o índice de 22% ao menos dimensiona o problema, a APS não produziu dados equivalentes desde que entrou em operação, em julho de 2025. A ferramenta é usada diariamente há mais de 15 meses sem nenhum mecanismo contínuo de qualidade confirmado.

Uma camada de análise especializada foi removida

A investigação da ORG chama atenção para outra consequência da implantação da ACS que recebeu menos atenção pública que as taxas brutas de erro. Segundo a avaliação de impacto sobre a proteção de dados da ferramenta, a ACS foi desenvolvida para automatizar um trabalho antes realizado por especialistas técnicos — funcionários que liam e resumiam os arquivos completos dos casos antes de encaminhá-los aos responsáveis pelas decisões. A implicação é que esses especialistas deixaram de fazer a análise integral dos arquivos; o resumo produzido pela IA os substituiu.

Se estiver correta, essa substituição elimina uma camada de análise humana especializada que antes existia de forma independente do responsável pela decisão. O Home Office afirma que os funcionários que usam a ACS também devem ler todos os documentos originais. Mas, segundo a ORG, essa afirmação é difícil de conciliar com os ganhos de produtividade citados pelo departamento para justificar a ferramenta — uma economia de 23 minutos por caso em um sistema no qual a leitura completa de uma transcrição de 50 páginas levaria consideravelmente mais tempo do que o período supostamente economizado.

As decisões iniciais mensais sobre pedidos de asilo também caíram cerca de 42% entre abril e julho de 2026 em comparação com o mesmo período de 2025, enquanto o tempo médio entre a entrevista e a decisão aumentou 29%. Os ganhos de eficiência projetados pelo Home Office não parecem ter se materializado nos dados agregados de produção — o que sugere que os efeitos da implantação sobre o tempo de decisão são mais complexos do que indica a economia por caso.

Nenhuma das duas ferramentas aparece no registro oficial de IA

Dois problemas estruturais de transparência atravessam as conclusões da ORG. Primeiro, os solicitantes de asilo não são informados quando ferramentas de IA são usadas para resumir seus depoimentos ou pesquisar documentos de políticas relevantes para seus casos. Uma opinião jurídica encomendada pela ORG em março de 2026 concluiu que essa omissão provavelmente viola a legislação britânica de proteção de dados. O Home Office afirma que seu aviso de privacidade explica que partes do processamento podem envolver automação, mas a ORG e a opinião jurídica sustentam que essa divulgação genérica não é suficiente para cumprir as obrigações relativas a dados em uma atividade de processamento com esse impacto.

Segundo, nem a ACS nem a APS foram incluídas no Hub do Padrão de Registro de Transparência Algorítmica — o registro público mantido pelo próprio governo para ferramentas de IA usadas por órgãos públicos. Caroline Selman, pesquisadora sênior do Public Law Project, documentou que ACS e APS estão entre 11 sistemas de IA de alto risco usados pelo governo que não aparecem no repositório público. A ausência significa que o público, os parlamentares e os representantes legais dos solicitantes de asilo não receberam aviso oficial sobre a existência das ferramentas, muito menos sobre suas taxas de erro.

"Decidir se uma pessoa pode ou não buscar refúgio no Reino Unido é uma das decisões mais sérias e capazes de mudar a vida de alguém que o Estado pode tomar sobre um indivíduo", disse Sara Alsherif, gerente do programa de justiça digital para migrantes da ORG. "Os processos que levam a essa decisão precisam ser transparentes, justos e responsáveis. Mas o Home Office continua testando IA em pessoas que buscam asilo no Reino Unido sem sequer informá-las."

Órgãos de controle começam a investigar

A publicação do relatório levou dois órgãos de supervisão a agir. O inspetor-chefe independente de Fronteiras e Imigração informou à ORG que está solicitando informações adicionais à organização enquanto define as prioridades de inspeção para 2027 — um sinal de que uma inspeção formal sobre o uso de ferramentas de IA pelo Home Office em processos de asilo está sendo considerada. Uma inspeção desse órgão teria peso relevante: seus relatórios são apresentados ao Parlamento, e o Home Office é obrigado a responder publicamente às recomendações.

Separadamente, o Escritório do Comissário de Informação (ICO) investiga a conduta do Home Office ao se recusar a divulgar detalhes do treinamento dos funcionários para a ACS e a APS. A apuração examina se o tratamento dado pelo departamento aos pedidos de acesso a informações da ORG cumpriu suas obrigações previstas na legislação britânica de proteção de dados. Se o ICO decidir contra o Home Office, poderá exigir a divulgação das informações e possivelmente provocar uma auditoria mais ampla da governança de IA do departamento.

A dupla fiscalização reflete um padrão mais amplo documentado pela ORG: o Home Office tem invocado sistematicamente exceções relacionadas à segurança nacional para resistir a pedidos de transparência sobre o uso de IA em funções de imigração. A investigação de seis meses da ORG dependeu da combinação de dez pedidos de registros públicos, 11 perguntas parlamentares e duas cartas ministeriais para montar o quadro apresentado no relatório.

Uma infraestrutura mais ampla de IA criada sem transparência

O relatório vai além da ACS e da APS. "Discriminação automatizada" mapeia o que a ORG descreve como um catálogo em rápida expansão de aplicações de IA no sistema de imigração britânico, implantadas em "sigilo quase total". Entre elas estão reconhecimento facial ao vivo e vigilância por drones nas fronteiras britânicas; um sistema para estimar a idade de solicitantes de asilo sem base técnica divulgada; buscas assistidas por IA nos celulares de recém-chegados; e a ferramenta de Identificação e Priorização de Casos de Imigração, ou IPIC, um sistema algorítmico de priorização cujos critérios não foram divulgados publicamente.

O autor do relatório, Fabio Chiusi, jornalista e pesquisador que estuda IA e sociedade, apresenta o acúmulo dessas ferramentas em termos explicitamente políticos: o relatório afirma que retratar a migração como uma emergência permanente a ser administrada por sistemas algorítmicos normaliza o chamado ambiente hostil, formulado pela então ministra do Interior Theresa May em 2012. A deputada trabalhista Bell Ribeiro-Addy, que ajudou na investigação da ORG, disse que o relatório representa uma oportunidade "de romper com o histórico tóxico de fracassos do Home Office". O deputado do SNP Pete Wishart também criticou o departamento por não informar aos solicitantes de asilo quando a IA é usada em seus casos.

Resposta do Home Office

Em resposta às conclusões do relatório, um porta-voz do Home Office afirmou que as decisões continuam sob controle humano. "As decisões de asilo são tomadas por funcionários treinados, e as ferramentas de IA são usadas apenas para ajudar na navegação pelos registros das entrevistas e pelas informações sobre políticas. Elas não podem ser usadas isoladamente e não tomam decisões sobre os pedidos. Monitoramos regularmente o desempenho dessas ferramentas juntamente com nossos processos estabelecidos de garantia de qualidade e já nos comprometemos a publicar avaliações atualizadas sobre sua implantação."

O departamento não respondeu diretamente aos números da ORG sobre as taxas de erro, à interrupção dos testes especializados da APS, à ausência das duas ferramentas no registro do ATRS ou à questão de saber se especialistas técnicos continuam fazendo análises completas dos arquivos independentemente dos resumos da IA.

O que a ORG exige

A ORG pede que o governo suspenda a ACS e a APS até a realização de uma auditoria independente e implemente uma proibição total do uso de ferramentas de IA generativa em pedidos de asilo — área na qual, segundo a organização, os riscos aos direitos fundamentais são graves demais para permitir o atual nível de tolerância a erros. Entre suas reivindicações mais amplas estão uma legislação mais forte de acesso a informações, uma definição legal mais restrita de segurança nacional, que não possa ser invocada rotineiramente para bloquear a divulgação de detalhes da governança de IA, e um registro público obrigatório dos sistemas de IA governamentais, com detalhes técnicos suficientes para permitir uma avaliação independente.

As ferramentas no centro da controvérsia não são modelos experimentais de fronteira. Elas funcionam com um modelo de linguagem de grande escala comercialmente disponível, por meio de um serviço corporativo padrão de computação em nuvem. A estrutura técnica não é extraordinária. O que chama atenção é que ferramentas que geram erros em algo entre 15% e 22% dos resultados amostrados — com cobertura de testes pontuais inferior a um terço de 1% do volume operacional, nenhum plano de auditoria independente e nenhum aviso às pessoas afetadas — foram implantadas em todos os processos de asilo analisados pelo governo britânico.

À medida que os sistemas de IA se tornam mais rápidos, baratos e capazes, a questão de governança é saber se as instituições públicas conseguem criar estruturas de responsabilização com velocidade suficiente para acompanhar esse avanço. A investigação da ORG sugere que, ao menos nesse setor do governo britânico, elas ainda estão longe disso.

Perguntas frequentes

Como a IA afeta as decisões de asilo no Reino Unido?

O Home Office usa duas ferramentas de IA generativa — a ferramenta de Resumo de Casos de Asilo (ACS) e a ferramenta de Pesquisa de Políticas de Asilo (APS) — em todos os processos de asilo que analisa. A ACS produz resumos de transcrições de entrevistas que podem ter 50 páginas ou mais; a APS responde a consultas dos funcionários sobre documentos de políticas de cada país usados como evidência nas audiências. As duas ferramentas são baseadas no GPT-4o, da OpenAI, e funcionam por meio do Azure, da Microsoft. O Home Office afirma que todas as decisões são tomadas por funcionários e que eles devem ler os documentos originais, mas as taxas de erro e a eliminação da análise independente por especialistas técnicos levantam dúvidas sobre como essa supervisão funciona na prática.

O que é a ferramenta de Resumo de Casos de Asilo e qual é sua precisão?

A ACS é uma ferramenta de IA generativa que produz resumos de transcrições de entrevistas de asilo antes que elas cheguem aos responsáveis pelas decisões. Em uma avaliação-piloto realizada em 2025, 9% dos resumos eram imprecisos ou omitiam informações importantes. Em verificações pontuais durante a operação, entre abril e julho de 2026, o índice subiu para 22% na primeira análise e 15% após uma segunda verificação — faixa baseada nos próprios critérios de qualidade do Home Office. As ferramentas não avaliam se os resumos omitem fatos relevantes, apenas se os fatos incluídos estão corretos; portanto, um resumo seletivamente incompleto ainda pode ser aprovado.

A ferramenta de IA do Home Office para asilo é legal?

Uma opinião jurídica de março de 2026 encomendada pela ORG a Robin Allen KC, Dee Masters e Joshua Jackson concluiu que o uso da ACS e da APS pelo Home Office é "provavelmente ilegal" segundo a legislação britânica vigente de proteção de dados, principalmente porque os solicitantes de asilo não são informados quando a IA é usada no processamento de seus casos e, portanto, não podem exercer seus direitos sobre os dados. O Escritório do Comissário de Informação investiga separadamente a recusa do Home Office em divulgar detalhes do treinamento dos funcionários para as duas ferramentas. Nenhum tribunal decidiu ainda sobre a questão, e o Home Office contesta a análise jurídica.

Solicitantes de asilo podem contestar decisões em casos nos quais a IA foi usada?

Os solicitantes de asilo no Reino Unido não são avisados quando a ACS ou a APS é usada em seus casos. Sem essa informação, eles e seus representantes legais não conseguem identificar se um resumo gerado por IA ou uma pesquisa de políticas contribuiu para uma decisão desfavorável, nem contestar sua precisão. A opinião jurídica da ORG argumenta que essa lacuna de notificação é, por si só, o núcleo da ilegalidade: não é possível exercer direitos de proteção de dados contra um processamento que não foi informado. Representantes legais que suspeitem do uso de IA podem levantar a questão em recursos, mas, sem divulgação formal, dependem do que vier à tona por meio de pedidos de acesso a informações ou perguntas parlamentares.