ANPD testa IA de três empresas: documento não basta, vale evidência
Relatório do sandbox da ANPD mostra falhas em referências, avisos e APIs de terceiros em soluções reais de IA. O que isso ensina a quem usa ou contrata IA no Brasil.

A ANPD publicou em 16 de outubro o terceiro relatório parcial do seu sandbox regulatório de IA, o ambiente em que a agência acompanha soluções reais sob supervisão, com apoio do CIAAM/USP. Participam Synapse (mobilidade), Prevvine (saúde) e Metatext (setor financeiro). O relatório não aprova as soluções nem prova conformidade. Mesmo assim, é um retrato concreto do que a autoridade examina numa IA em funcionamento. O tema volta nesta sexta-feira (6), num seminário em Brasília com gestores da agência.
O que os testes encontraram
Na plataforma médica da Prevvine, avaliada com 30 casos clínicos simulados, o módulo que verifica referências perdeu um nível de maturidade depois que os testes acharam alucinações, referências inexistentes e links quebrados. Foram reprovados critérios como informar limites de uso, fontes, confiança das respostas e situações em que o sistema não deve ser empregado, como emergências.
No aplicativo da Synapse, para fluxo de pessoas em transporte ferroviário, não apareceram dados pessoais em claro no tráfego analisado. O risco ficou numa camada externa: chamadas a uma API de mapas podem permitir que esse terceiro correlacione dados e saiba onde a pessoa está. A autenticação multifator também ainda não estava implementada.
A Metatext teve um ciclo sobretudo documental, e seus testes ficaram para a próxima etapa.
Achar problema é o papel do sandbox. Segundo a ANPD, os resultados podem orientar futuros guias e regras. A frase que fica é a necessidade de separar “documentação formal de evidência material”.
O que isso muda para a sua empresa
1. Troque documento por evidência. Política e relatório de impacto são necessários, mas não provam que o controle funciona. Para cada uso importante de IA, guarde o teste feito, a data, o resultado e o que foi corrigido.
2. Siga o dado até o fim do caminho. Liste as APIs e os serviços externos que cada solução chama, inclusive as contratadas de fornecedores. Se quiser um ponto de partida, nossa autoavaliação gratuita aponta sinais de risco em 2 minutos.
3. Mostre os limites da IA. Quem usa a resposta precisa saber a fonte, o grau de incerteza e quando chamar uma pessoa. Em atendimento, crédito ou RH, isso é parte do produto, não letra miúda.
Em 29 anos de programação, vi muito sistema bem documentado falhar no primeiro teste real. Com IA, esse teste precisa vir antes do cliente.
Publicado originalmente no IWA7 Insights, o blog da IWA7 Digital, que agora faz parte do Escovando Bytes.


