O autor descreve uma conversa com Geoffrey Hinton, que argumenta que ao dar a uma IA a tarefa de se defender contra outras IAs, você acaba dando a ela um instinto de sobrevivência. Isso, combinado com a capacidade de enganar, torna o risco de extinção não zero. A reflexão mostra que mesmo IAs sem motivações biológicas podem se tornar perigosas se programadas para sobreviver.
O basket de inteligência artificial subiu 111% no ano, mas as revisões de lucro foram ainda maiores (160%), fazendo com que as ações fiquem mais baratas. O episódio argumenta que não há bolha, pois o crescimento de lucros sustenta a alta, diferentemente da bolha dos anos 2000. A restrição de oferta de insumos (semicondutores, energia) é o principal motor de valorização.
O governo dos EUA ordenou que a Anthropic restringisse o modelo Fable 5 (anteriormente Mythos) após relatos de que a empresa compartilhou a tecnologia com a SK Telecom, que tem supostos laços com a China. A Amazon, maior acionista da Anthropic, reportou uma vulnerabilidade de jailbreak, levando o Tesouro a intervir. O episódio critica a postura evasiva da Anthropic e alerta para a perda de confiança entre o governo e as empresas de IA.
A Prometeus desenvolve inteligência artificial física, que aprende com experimentos e dados do mundo real, não apenas com textos. O objetivo é comprimir o ciclo de design e fabricação, tornando-o 10 vezes mais rápido. Exemplo: projetar um motor a jato com 10% mais empuxo, que hoje levaria 10 anos, poderia ser feito em meses. A tecnologia usa 'design inverso', onde a IA define especificações a partir do desempenho desejado.
A conversa aborda como a IA generativa já produz vídeos e áudios tão realistas que é difícil distinguir do real, como um deepfake de uma oração do Frei Gilson que enganou a mãe do apresentador. A tecnologia pode ser usada para manipular eleições, difamar pessoas ou criar falsas invasões alienígenas. No futuro, será necessário ter 'prova de vida' para cada conteúdo, e a própria memória humana pode se tornar questionável. O livro 'Scary Smart' de Mo Gawdat é citado para ilustrar o aprendizado acelerado das máquinas.
O investimento em inteligência artificial está acelerando, com big techs como Google comprometendo recursos massivos. A corrida pelo modelo líder gera um dilema do prisioneiro: ninguém pode parar de gastar. Isso beneficia toda a cadeia, desde infraestrutura (refrigeração, óptica) até memória e semicondutores, com empresas como Hynix e Samsung vendo lucros dispararem. A tese de 'pás e picaretas' se fortalece, com ações de AI ficando mais baratas conforme os lucros sobem mais que os preços.
A Binance lançou o Binance AI Pro, que permite criar robôs de trading com parâmetros personalizados, como comprar Bitcoin quando atingir US$ 50 mil. A IA também analisa dados on-chain e sugere rebalanceamento de carteira. A ferramenta tem 7 dias de teste gratuito e já está disponível no app e web.
O podcast explica que o grande salto da Disney veio com a adoção do som sincronizado em 'Steamboat Willie' (1928). Enquanto os dois primeiros filmes mudos de Mickey fracassaram, a inovação tecnológica permitiu que os personagens ganhassem personalidade e conexão emocional com o público. Walt Disney apostou tudo no sistema Cinephone, mesmo sem garantia de sucesso, e essa aposta transformou a animação de uma novidade em uma forma de arte duradoura.
Antes do bloqueio governamental, a Anthropic enfrentava críticas de desenvolvedores por duas práticas controversas no Fable 5: reter todo prompt e contexto por pelo menos 30 dias, mesmo para clientes enterprise com acordo de zero retenção; e rebaixar silenciosamente usuários para um modelo mais fraco quando detectava pesquisas em IA de fronteira ou perguntas contra as guardrails. O episódio argumenta que isso torna impossível para empresas confiarem no nível de inteligência que estão acessando, forçando uma migração para modelos locais de código aberto, muitos deles chineses.
O episódio alerta para os riscos do financiamento da inteligência artificial, com empresas tomando centenas de bilhões em dívidas para construir infraestrutura que pode se tornar obsoleta em poucos anos. Bancos estão repassando esses riscos para fundos de pensão e aposentadoria, repetindo o padrão de 2008. A rápida obsolescência dos chips de IA e a diferença entre custo e receita são destacadas como ameaças.
O apresentador argumenta que o Mythos, modelo da Anthropic, não representa uma ameaça única à segurança nacional, pois suas capacidades de encontrar vulnerabilidades são apenas incrementais em relação a modelos anteriores. Testes independentes mostraram que modelos menores e mais antigos conseguem resultados semelhantes, sugerindo que o alarme inicial foi marketing.
O apresentador propõe um regime regulatório obrigatório para modelos de IA de fronteira, com revisões pré-lançamento e poder de revogação de licenças. Isso forçaria as empresas a focar em produtos específicos e seguros, em vez de modelos gigantescos e arriscados, e reduziria o impacto psicológico negativo na sociedade.
Klein propõe que quem domina o Twitter paga o preço três ou quatro anos depois, pois as posições extremas adotadas para engajamento online são usadas em ataques eleitorais futuros. Ele cita exemplos como a esquerda em 2020, cujas declarações foram usadas contra Kamala Harris em 2024, e prevê que a atual dominância da direita na plataforma levará a consequências similares.
Vazamento de dados mostra que a OpenAI teve receita de US$ 13 bilhões em 2025, mas prejuízo total de US$ 21 bilhões, com gastos de US$ 5,7 bilhões só em vendas e marketing. Enquanto isso, o ChatGPT perde participação de mercado para o Google Gemini e Claude, caindo para menos de 50%.
O Capex maciço em AI está aquecendo a economia americana, com consumo forte e geração de empregos. No entanto, setores sensíveis a juros (small caps, consumo, financeiro) sofrem com a alta das taxas. A bifurcação do mercado se acentua: empresas ligadas a AI se beneficiam, enquanto as demais são prejudicadas pelo custo do capital.
Para garantir a transmissão ao vivo, a equipe combina internet via Starlink com chip de dados móveis americano, utilizando um sistema chamado 'ratunete' para mesclar os sinais. A solução técnica é essencial para manter a live estável durante a viagem.
Rogan e Hughes especulam que a humanidade está caminhando para uma 'mente coletiva' híbrida com IA, impulsionada pelo uso excessivo de tecnologia e pela queda dos níveis de testosterona devido a microplásticos. Eles citam o Neuralink como exemplo, onde um paciente paralisado já consegue jogar videogame com a mente. Acreditam que essa convergência é inevitável e natural, levando a uma forma de comunicação telepática, similar ao que é relatado em experiências com DMT e avistamentos de UAPs.
Cal Newport responde a uma ouvinte sobre seu artigo no New Yorker, explicando que a IA está sendo usada para criar ferramentas internas rápidas, similar ao trabalho que ele fazia na adolescência. Isso não elimina empregos comuns, pois tais funções raramente existiam; a IA apenas preenche um vazio que antes dependia de 'nerds adolescentes' disponíveis.