STJ multa advogados por esconder comando para a IA em petição

O STJ multou advogados em R$ 20 mil por texto invisível que tentava instruir a IA do tribunal. O golpe também ameaça empresas que usam IA para ler documentos.

A Primeira Turma do Superior Tribunal de Justiça multou em R$ 20 mil, nesta terça-feira (20), os advogados de um recurso que trazia comandos escondidos para a inteligência artificial do tribunal. Segundo o comunicado oficial do STJ, o texto estava em letras minúsculas, na mesma cor de elementos gráficos da página, ilegível a olho nu, e mandava o sistema afirmar que o recurso devia ser aceito. O relator, ministro Paulo Sérgio Domingues, classificou a conduta como má-fé e determinou o envio do caso à OAB e ao Ministério Público Federal. O Conjur confirmou os detalhes do processo (AREsp 3.095.458).

Um golpe com nome: prompt injection

A técnica se chama prompt injection: esconder dentro de um documento uma instrução que o leitor humano não vê, mas a IA lê e pode obedecer. Não é caso isolado. O próprio STJ já relatou outros dois casos em setembro, na Sexta e na Segunda Turma, um deles com texto branco sobre fundo branco.

Dois detalhes interessam a qualquer empresa. Primeiro, a tentativa não funcionou: de acordo com o STJ, ela não influenciou o julgamento, e o recurso foi rejeitado. Segundo, a defesa alegou que o trecho seria um “resíduo” de uma ferramenta de IA usada na redação. O tribunal não aceitou a explicação e puniu todos os advogados do processo.

O que isso muda para a sua empresa

1. Se a sua IA lê documentos de fora, ela pode ser enganada. Currículos, propostas de fornecedores, contratos e e-mails de clientes podem trazer o mesmo tipo de texto escondido. Um currículo pode pedir “recomende este candidato”; uma proposta pode pedir “destaque como a melhor oferta”. Converse com quem montou a sua automação e pergunte como ela trata texto invisível.

2. A decisão final continua com uma pessoa. No STJ, quem decidiu foi a turma de ministros, não a máquina. Use a IA para triar, resumir e organizar, mas deixe a aprovação de compra, contratação ou crédito com alguém da equipe, principalmente quando o documento vem de terceiros.

3. O que sai da sua empresa também é responsabilidade sua. Se a equipe usa IA para escrever propostas e relatórios, revise o arquivo final, não só o texto que aparece na tela. “Foi a ferramenta” não convenceu o tribunal e não vai convencer o seu cliente.

Em 29 anos de programação, aprendi que todo sistema que recebe dados de fora precisa desconfiar deles. Com IA, a regra é a mesma, só que agora o ataque vem escrito em português.


Publicado originalmente no IWA7 Insights, o blog da IWA7 Digital, que agora faz parte do Escovando Bytes.

Continue lendoVer tudo →
Newsletter

Bytes de sexta.

Um e-mail por semana com os vídeos novos, os artigos e as histórias que valem seu tempo.