O secretário de Defesa dos Estados Unidos, Pete Hegseth, deu ao CEO da Anthropic, Dario Amodei, um prazo até sexta-feira (27) para atender às exigências de flexibilização das medidas de segurança no modelo de IA da companhia, sob pena de perder um contrato com o Pentágono.

Ele também ameaçou incluir a empresa de IA em uma lista que poderia ser considerada uma “lista negra do governo”.

A questão central são as restrições impostas pela Anthropic ao modelo de IA Claude. O Pentágono, que possui um contrato de US$ 200 milhões com a Anthropic, quer que a empresa remova as restrições para que as Forças Armadas possam usar o modelo para “todo uso legal”, de acordo com uma fonte familiarizada com as discussões.

Mas a Anthropic tem preocupações com duas questões que não está disposta a abandonar, destacou a fonte: armas controladas por IA e vigilância doméstica em massa de cidadãos americanos. De acordo com uma fonte familiarizada com o assunto, a Anthropic acredita que a IA não é confiável o suficiente para operar armas e que ainda não existem leis ou regulamentações que abranjam como a IA poderia ser usada em vigilância em massa.

Uma fonte familiarizada com a reunião afirma que o Pentágono disse que rescindiria o contrato da Anthropic se a empresa não concordasse com os termos até sexta-feira (27). Autoridades do Pentágono também alertaram que usariam a Lei de Produção de Defesa (DPA) contra a Anthropic ou a designariam como um risco para a cadeia de suprimentos caso a empresa não cumprisse as exigências.

A DPA é uma lei que concede ao governo a capacidade de influenciar empresas em prol da defesa nacional, recentemente invocada pelo governo de Donald Trump durante a pandemia de COVID-19. A designação de risco para a cadeia de suprimentos geralmente é reservada para empresas consideradas extensões de adversários estrangeiros, como a Rússia ou a China. Isso poderia impactar severamente os negócios da Anthropic, pois clientes corporativos com contratos governamentais teriam que garantir que os projetos governamentais não envolvam as ferramentas da Anthropic.

Durante a reunião, o tom foi cordial e respeitoso, sem discussões acaloradas, compartilhou a fonte, acrescentando que Hegseth elogiou os produtos da Anthropic e afirmou que os EUA desejam trabalhar com a empresa.

Mas Amodei reiterou as ressalvas da Anthropic sobre armas autônomas e vigilância em massa, e uma fonte familiarizada com o assunto disse que a Anthropic não tem planos de ceder e acatar as exigências do Pentágono.

Um porta-voz da Anthropic descreveu a reunião à CNN como uma conversa de “boa-fé” sobre o uso da tecnologia da empresa.

“O CEO da Anthropic, Dario Amodei, reuniu-se com o secretário Hegseth no Pentágono esta manhã. Durante a conversa, Dario expressou apreço pelo trabalho do Departamento e agradeceu ao secretário pelos serviços”, destacou a Anthropic em um comunicado à CNN. “Continuamos as conversas de boa-fé sobre nossa política de uso para garantir que a Anthropic possa continuar apoiando a missão de segurança nacional do governo, de acordo com o que nossos modelos podem fazer de forma confiável e responsável”, continuou.

As negociações estão em andamento há alguns meses, afirmou a fonte, mas nas últimas semanas começaram a surgir relatos sobre as tensões entre as duas partes.

Na semana passada, o Axios noticiou que Hegseth estava perto de rescindir o contrato do Pentágono com a Anthropic e designar a empresa como um “risco na cadeia de suprimentos”.

“A Anthropic está comprometida em usar IA de ponta em apoio à segurança nacional dos EUA”, declarou o porta-voz da Anthropic. “É por isso que fomos a primeira empresa de IA de ponta a colocar nossos modelos em redes classificadas e a primeira a fornecer modelos personalizados para clientes de segurança nacional”.

Um oficial do Pentágono confirmou à CNN que a reunião com a Anthropic estava acontecendo, mas não forneceu mais comentários.

A Anthropic há muito se posiciona como a empresa de IA mais preocupada com a segurança da IA. Os fundadores eram todos ex-funcionários da OpenAI que deixaram a empresa devido a divergências sobre a direção, a abordagem de segurança e o ritmo de desenvolvimento de IA da criadora do ChatGPT. A Anthropic também anunciou recentemente que está doando US$ 20 milhões para um grupo político que faz campanha por mais regulamentação da IA.

*Kaanita Iyer, da CNN, contribuiu com esta matéria