Was the Mythos Ban Justified? (Good Idea. Bad Execution.)
Cal Newport analisa a polêmica decisão do governo Trump de bloquear o modelo Fable 5 da Anthropic, questionando se Mythos é realmente uma ameaça à segurança nacional e defendendo uma regulação transparente e consistente para IA, que responsabilize as empresas por seus produtos e discursos alarmistas.
Cal Newport (host, autor e professor de ciência da computação)
O bloqueio do Fable 5 pelo governo Trump foi arbitrário e opaco, mas levanta questões legítimas sobre regulação de IA.
Mythos não representa um salto revolucionário em capacidade de encontrar bugs; é uma evolução incremental, e a campanha de medo da Anthropic foi marketing.
Guardrails em LLMs são frágeis e facilmente contornáveis por jailbreaks, como demonstrado por pesquisadores independentes.
Empresas de IA não deveriam poder alarmar o público com alegações de perigo extremo e depois liberar o mesmo produto sem restrições.
O governo deve exigir revisões de segurança obrigatórias para modelos de fronteira, incluindo a análise do discurso público das empresas.
Modelos menores e especializados são suficientes para a maioria das aplicações; os modelos gigantes são como carros de F1 desnecessários para o consumidor comum.
A regulação transparente e consistente forçaria as empresas a focar em produtos específicos e seguros, reduzindo o alarmismo e os riscos econômicos.
O dano psicológico causado pelo alarmismo constante das empresas de IA é enorme e justifica intervenção governamental.
O que aconteceu com Mythos e Fable 5
Em abril, Anthropic anunciou Claude Mythos como um modelo tão bom em encontrar bugs que seria perigoso liberar ao público, citando riscos à economia, segurança pública e nacional.
Semanas depois, Anthropic lançou Fable 5, uma versão protegida de Mythos com guardrails, tornando-o amplamente disponível.
O governo Trump, via David Sacks (ex-czar de IA), afirmou que um pesquisador independente de confiança contornou facilmente os guardrails do Fable 5.
O Departamento de Comércio colocou Fable 5 e Mythos em uma lista de controle de exportação, suspendendo o acesso de estrangeiros, incluindo funcionários da Anthropic com vistos.
Anthropic temporariamente desativou o acesso aos dois modelos em resposta.
A decisão gerou críticas generalizadas por ser arbitrária e opaca, com The Economist chamando-a de 'caprichosa e caótica'.
Os guardrails são realmente eficazes?
Guardrails em LLMs geralmente envolvem fine-tuning com reinforcement learning para desviar respostas indesejadas para respostas seguras pré-definidas.
Também podem incluir pattern matching simbólico para bloquear perguntas específicas antes de enviá-las ao modelo.
Jailbreaks funcionam ao formular perguntas de maneiras que não ativam os neurônios associados às perguntas proibidas, evitando os desvios de segurança.
Exemplo: contextos longos podem fazer o modelo perder o padrão de segurança e responder a perguntas que normalmente recusaria.
Nunca houve um guardrail que não pudesse ser quebrado; é uma questão de tempo e engenharia de prompt.
Portanto, é plausível que o pesquisador independente tenha contornado os guardrails do Fable 5.
Mythos é realmente uma ameaça única à segurança nacional?
Newport argumenta que não: Mythos é uma evolução incremental, não revolucionária, na capacidade de encontrar bugs.
Modelos anteriores (como Opus) já encontravam centenas de vulnerabilidades zero-day, e a Anthropic usou a mesma linguagem assustadora antes.
Pesquisadores independentes replicaram as descobertas de bugs da Mythos com modelos menores e mais antigos.
O próprio software da Anthropic continua cheio de bugs, contradizendo a ideia de que Mythos é um 'localizador de bugs supremo'.
A campanha de medo foi marketing: a Anthropic queria gerar manchetes e justificar preços mais altos para o modelo, enquanto simultaneamente o liberava.
Bug finding não era uma capacidade que as empresas de IA destacavam antes; Mythos foi uma tentativa de criar um 'evento' em torno de uma melhoria incremental.
Por que o governo Trump agiu? Três explicações
Corrupção: laços do governo com a OpenAI (concorrente) e desavenças anteriores com a Anthropic podem ter motivado a ação punitiva.
Preocupação legítima de segurança nacional: medo de que a China usasse o Fable 5 para encontrar vulnerabilidades em infraestrutura crítica dos EUA.
Chamando o bluff da Anthropic: a empresa passou semanas alertando que Mythos era uma 'arma cibernética' e depois tentou liberá-la sem restrições; o governo disse 'não, você não pode fazer isso'.
Newport considera a corrupção injustificável, mas as outras duas justificativas são válidas em princípio, desde que aplicadas de forma transparente e consistente.
O governo deve regular a IA? Sim, mas com transparência
Newport defende que a regulação de IA é necessária, especialmente para modelos de fronteira (definidos por tamanho de parâmetros).
A revisão de segurança deve ser obrigatória, não voluntária, e incluir a análise do discurso público da empresa sobre o modelo.
Se uma empresa alega que seu modelo é perigoso, o governo deve exigir que ela prove que é seguro antes de liberá-lo — ou não liberá-lo.
A regulação deve ser transparente, com regras consistentes e independente de influências políticas ou financeiras.
Newport compara com laboratórios de virologia: se você alega que sua pesquisa pode causar uma pandemia, o governo pode pará-la.
A regulação também deve permitir revogação de licenças se surgirem evidências de danos após a liberação.
O impacto do alarmismo das empresas de IA
As empresas de IA (Anthropic, OpenAI) têm uma estratégia deliberada de manter o público em estado de ansiedade e medo, o que Newport chama de 'psyops'.
Esse alarmismo causa danos psicológicos massivos à população, muito maiores do que qualquer benefício real da IA até agora.
As empresas usam o medo para se sentirem importantes e para impulsionar IPOs e valuation elevados.
Newport argumenta que o governo tem o direito de intervir quando uma empresa causa danos psicológicos generalizados com alegações infundadas.
A regulação forçaria as empresas a serem responsáveis por seu discurso e a focar em produtos específicos e seguros, em vez de modelos gigantes e assustadores.
O futuro desejável: modelos menores e especializados
Modelos de fronteira (como Mythos) são como carros de F1: impressionantes, mas desnecessários para a maioria das aplicações.
Modelos menores (ex.: 50 bilhões de parâmetros) podem ser tão eficazes quanto para tarefas específicas, como encontrar bugs ou gerar código, com o harness certo.
Empresas como a Cursor já estão descobrindo que modelos customizados e menores são suficientes e mais baratos.
O foco em modelos gigantes é uma estratégia de marketing para manter a vantagem competitiva e justificar valuations altos.
Um regime regulatório que exija justificativa de segurança e utilidade forçaria a indústria a criar produtos mais específicos, seguros e acessíveis.
Isso reduziria o alarmismo e os riscos econômicos de bolhas especulativas.
A necessidade de uma regulação transparente e consistente
Newport concorda com críticos como Gary Marcus e Dean Ball: a ação do governo Trump foi arbitrária e carece de transparência.
Uma regulação eficaz precisa de mecanismos claros, previsíveis e imunes a influências políticas diretas.
O governo deve tratar empresas de IA como empresas de produtos de consumo comuns, sujeitas a regras de segurança e responsabilidade.
A regulação deve incluir a obrigação de as empresas provarem a segurança de seus modelos antes do lançamento, com consequências para alegações falsas ou exageradas.
Newport sugere que o governo poderia aprender com a regulação de outros setores, como farmacêutico ou automotivo.
Passos práticos
Apoie políticas de regulação de IA que exijam revisões de segurança obrigatórias e transparentes para modelos de fronteira.
Questione alegações alarmistas de empresas de IA; busque fontes independentes e evidências concretas.
Prefira ferramentas de IA especializadas e menores para tarefas específicas, em vez de modelos gigantes e genéricos.
Incentive a discussão pública sobre os danos psicológicos causados pelo alarmismo constante da indústria de IA.
Fique atento a mudanças regulatórias e participe de consultas públicas sobre políticas de IA.
Frases marcantes
"Make no mistake, post mythos, the United States has a licensing regime for AI, it's just informal with no consistent rules or firm boundaries on state power or public transparency. — Dean Ball"
"Whatever you may think of Dario or Anthropic, Friday's decision and the impetuousness and arbitrariness of it was a terrible mistake that has left a stain that will last. — Gary Marcus"
"You do not get without restriction to run a psyops on 300 million people because you think either it makes you feel important or you think it's going to help you and a small number of early investors become richer than Mammon."
"The onus for safety has to go back on the AI companies themselves just like with every other consumer product we see."
"We need the normal consumer cars. And these companies are still working on the F1 cars to try to impress everyone so their IPOs can succeed."
"The damages being caused right now psychologically have been massive. The damages economically that are going to happen if both OpenAI and Anthropic have big IPOs and then the bottom drops out on this, the impact that's going to have on 401Ks that are holding index funds is also going to be calamitous."
Mencionados no episódio
Anthropic (empresa de IA, criadora do Claude)
Claude Mythos (modelo de linguagem de grande escala da Anthropic)
Fable 5 (versão protegida do Mythos)
David Sacks (ex-czar de IA do governo Trump)
Dean Ball (ex-senior policy advisor para IA)
Gary Marcus (pesquisador e crítico de IA)
The Economist (revista)
OpenAI (concorrente da Anthropic)
GPT-3.5, GPT-5 (modelos da OpenAI)
Opus 47 (modelo anterior da Anthropic)
NeurIPS (conferência de aprendizado de máquina)
Cursor (ferramenta de codificação com IA)
Tom Friedman (colunista do New York Times)
Departamento de Comércio dos EUA
Executive Order on Promoting Advanced Artificial Intelligence Innovation and Security (ordem executiva de Trump de 2 de junho)