United bloqueia agentes de IA que compram passagem pelo cliente

A United Airlines vai barrar assistentes pessoais de IA que reservam voos em nome dos clientes, citando senha compartilhada e compra indevida. O que isso ensina à sua empresa.

A United Airlines anunciou na quarta-feira (11) que vai restringir o acesso de agentes e assistentes pessoais de IA não autorizados, aqueles que reservam e gerenciam voos em nome do cliente. A restrição vale direto nas plataformas digitais da companhia e, de forma indireta, nas agências de viagem e agregadores, segundo o comunicado da United. A empresa diz que vai atualizar suas políticas de reserva, emissão e distribuição de passagens. O TechCrunch e a CBS News confirmaram o anúncio.

Os motivos da United

A companhia cita três riscos. Primeiro, o cliente que compartilha o login da conta com um assistente de IA de terceiros pode expor dados sensíveis. Segundo, o agente pode fazer compras, mudanças na conta ou gastar milhas sem que o cliente queira. Terceiro, ações automáticas podem violar regras da FAA e do DOT, os órgãos de aviação dos EUA: no check-in, por exemplo, uma pessoa precisa confirmar que a bagagem não leva itens proibidos, como explosivos.

O comunicado não traz data de início. A United diz que vai explicar aos clientes como proteger a conta e onde pedir ajuda se um agente fizer algo indevido, e que seguirá avaliando essas ferramentas conforme evoluírem.

O que isso muda para a sua empresa

1. Senha corporativa em assistente pessoal de IA é um furo. O caso da United nasce de clientes entregando a própria senha a uma IA. Dentro da empresa, o mesmo acontece quando alguém conecta um assistente ao e-mail, ao sistema de compras ou ao banco. Escreva a regra: credencial da empresa não vai para ferramenta de IA não aprovada, e o acesso de agentes aprovados é feito com permissão própria, limitada e revogável.

2. Algumas etapas precisam de uma pessoa, e isso precisa estar mapeado. Aceite de contrato, aprovação de pagamento e declarações com efeito legal não podem ficar com um robô clicando “aceito”. Liste esses pontos nos processos que você está automatizando e defina quem confirma cada um.

3. Se você vende online, a decisão sobre agentes já é sua. Clientes vão chegar com IA comprando por eles. Decida o que o agente pode fazer no seu site, como identificar quem está do outro lado e quem responde quando a compra sai errada. Esperar o primeiro estorno para decidir é deixar o problema escolher a regra.

Em 29 anos de programação, aprendi que todo sistema que age em nome de alguém precisa de limite claro e de um dono. Com agentes de IA, isso deixou de ser detalhe técnico.


Publicado originalmente no IWA7 Insights, o blog da IWA7 Digital, que agora faz parte do Escovando Bytes.

Continue lendoVer tudo →
Newsletter

Bytes de sexta.

Um e-mail por semana com os vídeos novos, os artigos e as histórias que valem seu tempo.