A Anthropic, empresa criada por ex-funcionários da OpenAI, está revisando seu princípio fundamental de segurança em inteligência artificial. A nova estrutura de segurança adotada pela companhia não é vinculativa e pode ser alterada. A mudança foi anunciada em um blog da empresa e surge em um momento de competição acirrada no setor de IA.
O anúncio se dá na mesma semana em que a Anthropic se envolve em uma disputa com o Pentágono dos Estados Unidos. O secretário de Defesa dos EUA, Pete Hegseth, teria dado um ultimato ao CEO da Anthropic, Dario Amodei, para reverter as medidas de segurança ou arriscar a perda de um contrato de US$ 200 milhões. O Pentágono também ameaçou colocar a Anthropic em uma “lista negra” do governo americano.
A empresa reconheceu que a política de segurança anterior visava criar consenso na indústria sobre a mitigação de riscos, mas afirmou que essas medidas foram ignoradas. A política anterior previa a suspensão do treinamento de modelos mais poderosos se suas capacidades fossem além do controle da empresa, uma exigência que foi removida na nova abordagem.
A Anthropic defende que desenvolvedores responsáveis que interrompem o crescimento em face de concorrentes menos cautelosos podem contribuir para um ambiente mais inseguro. A nova política inclui um “Roteiro de Segurança de Fronteira”, delineando diretrizes para a indústria de IA, com a expectativa de que incentive outras empresas a adotar medidas de segurança adequadas.
