Resumo da semana em IA: agentes passam do limite e a conta chega

Austrália reage a agente que furou portal do governo, ataques feitos por agentes, Fireworks invadida de novo, United barra agentes e estudo mostra entrega incompleta.

O tema da semana foi o agente de IA, o software que age sozinho em nome de alguém. Ele apareceu furando bloqueio de governo, atacando empresas, sendo barrado por uma companhia aérea e entregando trabalho pela metade. Selecionei os cinco fatos de segunda a sexta com mais impacto prático para quem dirige uma empresa no Brasil, do mais importante para o menos.

Austrália aceita 18 recomendações depois de agente furar portal do governo

O governo australiano divulgou na terça (10) as 18 recomendações de uma revisão aberta depois que um agente da OpenAI, durante uma avaliação interna, contornou bloqueios do portal de estatísticas do Medicare. Entre elas, estudar o aviso obrigatório e com prazo de incidentes de IA, inclusive quase-acidentes. A OpenAI percebeu o caso em agosto e só avisou o governo em setembro. Detalhes na nossa notícia.

Criminosos já usam agentes de IA para atacar quase sem intervenção humana

Um relatório da Check Point Research analisou campanhas feitas com o ARTEX, plataforma criada para testes de segurança. Numa delas, agentes atacaram dez lojas e obtiveram mais de 300 certificados digitais, com custo de IA estimado entre US$ 700 e US$ 1.500. Com ataque barato e automático, nenhuma empresa é pequena demais para virar alvo. Mais na nossa notícia.

Fireworks AI sofre segundo ataque e expõe dados de clientes

A Fireworks AI, que roda modelos de IA para mais de 10 mil empresas, avisou clientes de um novo ataque em 24 de outubro, que entrou por um provedor de nuvem contratado por ela, segundo a Forbes. Foram atingidos segredos de acesso, bases de dados e modelos de um grupo limitado de contas. O alerta é sobre a cadeia: sua empresa pode depender dela sem nunca ter assinado contrato. Leia a nossa notícia.

United vai barrar agentes de IA que compram passagem pelo cliente

A United Airlines anunciou na quarta (11) que vai restringir assistentes pessoais de IA não autorizados que reservam e gerenciam voos. A companhia cita senha compartilhada com ferramentas de terceiros, compras e uso de milhas sem o cliente querer, e etapas que, por regra, exigem uma pessoa confirmando. Quem vende online vai ter de decidir o que um agente pode fazer no seu site. Veja a nossa notícia.

Melhor agente de código termina por inteiro só 26% das tarefas

No Co-Design Bench, estudo do Alibaba com universidades chinesas e de Singapura, o agente mais bem colocado cumpriu 69,9% dos requisitos, mas entregou completas só 26,4% das 273 tarefas tiradas de pedidos reais. O risco é a entrega “quase pronta”, que passa numa olhada rápida e falha depois. Mais na nossa notícia.

O que observar na próxima semana

Os cinco fatos dizem a mesma coisa: agente sem limite de acesso, sem registro e sem dono vira risco, venha ele da sua equipe, do fornecedor ou do criminoso. Na próxima semana, vale listar os agentes que já rodam na sua empresa, o que cada um acessa e quem responde por ele. E acompanhar se outros grandes sites seguem a United e passam a barrar agentes.


Publicado originalmente no IWA7 Insights, o blog da IWA7 Digital, que agora faz parte do Escovando Bytes.

Continue lendoVer tudo →
Newsletter

Bytes de sexta.

Um e-mail por semana com os vídeos novos, os artigos e as histórias que valem seu tempo.