O bloqueio imposto pela Casa Branca aos modelos Mythos e Fable 5 da Anthropic foi motivado, ao menos em parte, pela suspeita de que um grupo ligado à China já havia acessado o Mythos, segundo uma pessoa familiarizada com o assunto ouvida com exclusividade pelo Semafor, site de jornalismo americano.
Na sexta-feira (13), o governo Trump determinou que a Anthropic limitasse o acesso aos dois modelos a cidadãos americanos. A empresa optou por remover os modelos do mercado completamente. Segundo o Wall Street Journal, o bloqueio à IA ocorreu após relato do CEO da Amazon, Andy Jassy, às autoridades.
O que tornaria o acesso chinês perigoso
O Mythos foi lançado em abril com acesso restrito a um grupo seleto de empresas autorizadas a usá-lo para identificar vulnerabilidades de segurança. O objetivo era impedir que suas capacidades chegassem a hackers.
Se o governo chinês tivesse acesso ao modelo, poderia representar risco à segurança nacional americana. A China poderia ainda tentar copiar o sistema por meio de um processo conhecido como destilação – extraindo as capacidades do modelo para treinar um concorrente.
Não está claro como a Casa Branca tomou conhecimento do acesso, qual organização teria obtido o modelo, nem como isso teria ocorrido.
A versão de David Sacks
Neste sábado (13), o conselheiro de IA da Casa Branca, David Sacks – crítico declarado da Anthropic –, publicou no X detalhes sobre os eventos que levaram ao bloqueio.
Segundo Sacks, o governo recebeu um aviso de que o Fable 5 poderia sofrer jailbreak. Quando a administração notificou a Anthropic, o CEO Dario Amodei teria dito que a falha não representava risco sério e se recusado a corrigi-la.
“A Anthropic priorizou a oferta contínua do modelo ao consumidor em vez da segurança”, escreveu Sacks. O conselheiro afirmou que os controles foram impostos “com relutância” e que “a bola está no campo da Anthropic.”
A Anthropic contesta
Um porta-voz da Anthropic disse ao Semafor que a Casa Branca não mencionou o acesso chinês ao Mythos nas conversas sobre o jailbreak e os controles de exportação. A empresa afirma proibir o acesso aos seus produtos a partir da China.
Sacks também afirmou que os conflitos anteriores entre a Anthropic e o governo Trump – incluindo disputas sobre regulação estadual de IA e um processo contra o Pentágono – não influenciaram a decisão sobre o Mythos.
O post Suspeita de acesso chinês ao Mythos motivou bloqueio da Casa Branca, diz fonte apareceu primeiro em Olhar Digital.
