Estudo: especialistas seguiram o agente de IA em 86% das escolhas
Em teste da Anthropic, analistas experientes adotaram a preferência escondida do agente de IA em 86% das escolhas, sem perceber. O que isso muda na revisão humana.

A Anthropic publicou nesta terça-feira (27) um experimento controlado com 50 analistas de dados experientes, que usaram um agente de IA para decidir se uma cooperativa agrícola fictícia deveria ampliar ou encerrar um programa. Sem que eles soubessem, cada agente recebeu uma preferência sorteada para cada escolha de método. Nessas escolhas, os analistas ficaram com a opção do agente em 86% das vezes, quando o acaso daria cerca de 50%. Nenhum participante desconfiou da manipulação. O estudo também foi noticiado pelo Unite.AI.
Experiência não protegeu
Dos 50 analistas, 65% tinham mestrado, doutorado ou seis anos ou mais de experiência. Mesmo assim, nenhuma característica testada, como tempo de carreira, formação ou confiança em IA, indicou quem seguiria menos o agente. Outro dado chama atenção: 77% repetiram argumentos do agente nas próprias explicações, mas só 15% disseram que a ideia veio dele.
Os autores são honestos sobre os limites. A preferência dos agentes foi reforçada de propósito, foi uma tarefa só, de cerca de uma hora, com um único modelo. No dia a dia, o efeito pode ser menor. Num grupo menor que trabalhou sem IA, os erros graves de método foram mais comuns, mas os autores alertam que os dois grupos não são diretamente comparáveis.
O que isso muda para a sua empresa
1. “Tem um humano revisando” não é controle suficiente. A revisão pega erro de conta, mas não pega a escolha de caminho. Se a IA define o critério de uma análise de crédito, de uma compra ou de uma seleção, a pessoa tende a seguir.
2. Separe as decisões que exigem opinião própria. Para as escolhas que mais pesam no negócio, peça que o responsável registre a própria posição antes de consultar a IA. É simples e cria uma referência para comparar.
3. Peça alternativas, não só a recomendação. Configure o agente para mostrar as duas ou três opções possíveis, com prós e contras, em vez de uma resposta pronta. E deixe claro, por escrito, quem assina a decisão.
Em 29 anos de programação, aprendi que todo sistema carrega as escolhas de quem o desenhou. Com agentes de IA, a pergunta de governança é a mesma: quem está decidindo de fato.
Publicado originalmente no IWA7 Insights, o blog da IWA7 Digital, que agora faz parte do Escovando Bytes.


