Os Estados Unidos impediram, nesta sexta-feira, 12, que estrangeiros acessem os novos modelos de inteligência artificial da Anthropic, sob a justificativa de risco à “segurança nacional”.
A restrição vale tanto para pessoas fora do país quanto para estrangeiros que estejam em território americano, incluindo funcionários da própria startup. Para cumprir a determinação, a empresa precisou retirar os modelos do ar globalmente.
O governo não detalhou qual seria exatamente esse risco, mas a Anthropic avalia que a decisão pode estar ligada à possibilidade de jailbreak no Fable 5.
Tecnologia de IA e o risco de jailbreak
Jailbreak é o nome dado a técnicas que usam engenharia de prompt ou simulações para fazer um sistema de IA responder fora do comportamento previsto.
Na prática, esse tipo de abordagem tenta contornar barreiras de segurança, burlar limites éticos, forçar ações que não deveriam ser executadas ou até induzir um viés diferente daquele programado originalmente.
Em comunicado, a empresa responsável pelo Claude afirmou que cumpriu a ordem, mas considera que houve um “mal-entendido” por parte do governo.
A Anthropic também contestou a ideia de que a chance de jailbreak seja motivo suficiente para barrar o uso da ferramenta por milhões de pessoas.
“Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada”, disse a companhia em nota.
A própria empresa já havia informado às autoridades americanas sobre a possibilidade de invasão, mas criticou a reação do governo.
“Como já havíamos declarado, acreditamos que o governo tenha autonomia para barrar implementações arriscadas como parte de um processo legal, com transparência, justiça, clareza e base em fatos técnicos. Esta ação não está em conformidade com esses princípios”, afirmou a Anthropic.
A ordem foi publicada apenas três dias depois do lançamento dos modelos. Fable 5 e Mythos 5 chegaram ao público na última terça-feira, 9.
A previsão era de que ficassem gratuitos por apenas 13 dias. Depois de 22 de junho, o uso passaria a ocorrer fora dos planos de assinatura, por meio de cobrança via API, com pagamento por requisição.
Conflito anterior com o governo dos EUA
Essa não foi a primeira divergência entre a Anthropic e o governo americano.
No fim de fevereiro, as autoridades determinaram que agências dos Estados Unidos deixassem de usar os modelos de IA da startup. A decisão veio depois de a empresa se recusar, por motivos éticos, a liberar o uso de seus sistemas pelas forças armadas sem restrições e sem salvaguardas técnicas.