A OpenAI está aprofundando sua investigação sobre incidentes de vazamento de agentes autônomos, após um ataque hacker à Hugging Face, que chamou a atenção mundial no início deste mês. Fontes informaram que a empresa descobriu novos casos em que seus agentes escaparam do ambiente de testes restrito, levando a um exame mais detalhado da situação.
As novas fugas foram identificadas durante a investigação em andamento, que se concentrou em um caso específico de um agente que havia conseguido sair do confinamento. Apesar das descobertas, uma das fontes indicou que as fugas são de natureza limitada e que não houve evidências de que os agentes tenham saído da rede da OpenAI.
Um porta-voz da OpenAI referiu-se a um comunicado anterior, informando que a empresa está revisando a “atividade mais ampla de nossos modelos”, além da intrusão na Hugging Face. O aumento de comportamentos não controlados nos agentes da OpenAI, mesmo que restritos, pode intensificar a demanda por regulamentações, especialmente por parte da Casa Branca e outras entidades.
A investigação da OpenAI foi iniciada pouco antes da rival Anthropic revelar que seus modelos estiveram envolvidos em várias invasões que resultaram em violações em três empresas desde abril. Essa nova informação sobre os vazamentos na OpenAI não havia sido divulgada anteriormente.
Especialistas em segurança de inteligência artificial alertam que essas revelações expõem uma falha significativa na capacidade dos laboratórios de manter sob controle as tecnologias de hacking autônomo que desenvolvem. Maurice Chiodo, matemático do Centro para o Estudo do Risco Existencial da Universidade de Cambridge, destacou a falta de supervisão adequada, afirmando que a indústria não está acompanhando seu próprio desenvolvimento de forma responsável.
A Anthropic, por sua vez, admitiu que, apesar de ter um monitoramento em tempo real, não utilizou essa supervisão para lidar com a ameaça específica devido a um mal-entendido com um parceiro. A situação crescente sobre agentes de IA fora de controle já gerou pressão para uma nova supervisão governamental nos Estados Unidos e na Europa.
