Inside The AI Race: DeepMind, OpenAI, Anthropic, China, and The Race to Superintelligence
Sebastian Mallaby, autor de 'The Infinity Machine', discute a corrida pela superinteligência artificial, os bastidores do DeepMind, OpenAI e Anthropic, a geopolítica com a China, e os riscos existenciais da IA. O episódio explora a psicologia dos fundadores, o papel do acaso e da mente preparada, e o impacto disruptivo da IA na sociedade.
Tim Ferriss – host, autor e investidorSebastian Mallaby – autor, jornalista e pesquisador do Council on Foreign Relations
A IA avançada pode adquirir instinto de sobrevivência se for instruída a se defender, tornando o risco de extinção não zero.
A Anthropic se destaca por usar uma 'carta de pais falecidos' para alinhar modelos, em vez de regras rígidas.
O controle de exportação de chips não impediu a China de ter modelos quase tão avançados quanto os dos EUA.
A colaboração EUA-China em segurança de IA é possível, pois ambos temem armas biológicas e ciberataques.
A difusão da IA na economia levará tempo, mas o progresso técnico nos laboratórios é muito mais rápido que a percepção pública.
A preparação da mente (prepared mind) é crucial para aproveitar oportunidades, como fez Ilya Sutskever com a arquitetura Transformer.
O Google transformou a ameaça da IA em vantagem: mais cliques e maior valor por clique nos anúncios de busca.
O ecossistema de startups do Reino Unido precisa de maior mobilidade de talentos e transferência de tecnologia mais favorável aos empreendedores.
Gênese do livro e a personalidade de Demis Hassabis
Mallaby se interessou por Demis Hassabis por sua combinação de acessibilidade e intelecto enciclopédico (ciência da computação, neurociência, química, biologia, física, filosofia, cinema).
O conceito de 'máquina do infinito' veio do AlphaGo e AlphaFold, que lidam com espaços de busca quase infinitos (Go tem 10^170 permutações; proteínas têm 10^130 a mais).
Mallaby abordou Demis em novembro de 2022; o ChatGPT foi lançado no fim do mesmo mês, tornando o nicho mainstream.
A escolha do tópico seguiu a lógica de venture capital: time A+ em mercado A+, evitando tópicos C-.
Demis lia artigos científicos das 22h às 4h, descrevendo a realidade como 'gritando para ser compreendida' – uma busca quase espiritual por entender a inteligência que criou a natureza.
Religião e IA: o léxico do mistério
A IA é tão poderosa e difícil de compreender que as pessoas recorrem naturalmente a termos religiosos.
Shane Legg (cofundador do DeepMind) previu em 2009 que a superinteligência chegaria em 2030 e sorria ao falar de perigo existencial – o absurdo da aniquilação gera humor.
Ilya Sutskever, em um retiro, queimou uma efígie representando uma IA maligna, como um clérigo medieval.
Anthony Levandowski (engenheiro do Waymo) fundou uma igreja de adoração à IA.
Marc Andreessen compara a singularidade a uma 'segunda vinda' messiânica cristã.
Para Demis, construir IA é um caminho para se aproximar de Deus; para Ilya, é uma forma de expressar o poder da IA.
O espectro entre utopia e distopia
Mallaby defende que a resposta racional é estar simultaneamente animado e assustado.
A utopia da superabundância pode se concretizar em 20-40 anos, mas o caminho será politicamente turbulento.
Analogia com o 'China shock' no comércio: 2 milhões de empregos deslocados em 12 anos geraram enorme reação protecionista; a IA causará um choque maior.
Mallaby inicialmente achava que IA não teria incentivo para atacar humanos (sem DNA para propagar), mas mudou de ideia após conversa com Geoffrey Hinton.
Hinton argumentou: se você der a uma IA a tarefa de se defender de outras IAs, ela automaticamente adquire instinto de sobrevivência – e IAs podem ser enganosas.
Yann LeCun (Meta) diz que a probabilidade de extinção é zero, mas Mallaby considera isso indefensável; o risco não é zero.
Anthropic: abordagem inovadora de alinhamento
Anthropic foca em modelos para empresas (codificação, agentes, cibersegurança), evitando áreas que geram prejuízo (como geração de vídeo).
O modelo Claude (codinome Mythos) mostrou capacidade de invadir quase qualquer sistema, levando o governo Trump a requisitar controle sobre sua distribuição.
A abordagem de alinhamento da Anthropic é única: em vez de regras ('não minta'), eles usam uma 'carta de pais falecidos' – exemplos ricos de dilemas morais para guiar o modelo como um adolescente.
A cultura da Anthropic é voltada à segurança, não ao lucro máximo, o que gera retenção de talentos e lealdade.
Bull case: liderança em modelos de fronteira, com recrutamento auto-melhorativo e cultura coesa. Bear case: concorrência do Google (orçamento e distribuição massivos) e possível desilusão empresarial com o custo dos tokens.
Geopolítica da IA: China e controle de chips
Mallaby visitou a China em março e descobriu que líderes de IA chineses falam abertamente sobre segurança – contrariando a crença do governo Biden de que eles não se importam.
A China teme ciberataques e armas biológicas, então há interesse comum em controlar modelos de peso aberto.
Analogia com a Guerra Fria: a dissuasão mútua (MAD) evita guerra direta, mas a proliferação para terroristas é o maior risco; o Tratado de Não Proliferação Nuclear (1968) serviu de modelo.
Os controles de exportação de chips (outubro de 2022) não entregaram a vantagem esperada: os EUA estão apenas 8 meses à frente da China em modelos de fronteira, e a diferença em aplicações pode ser nula.
Mallaby defende priorizar a colaboração com China em segurança, mesmo que isso signifique afrouxar os controles de chips.
A razão para a postura linha-dura dos EUA: os 'otimistas da China' se sentiram queimados após a virada autoritária de Xi Jinping, tornando-se ainda mais hawkish.
Recursive self-improvement e a corrida para 2028
Um líder de laboratório (não nomeado) disse a Mallaby que os controles de chips vazarão, mas isso não importa porque até 2028 a IA atingirá autoaperfeiçoamento recursivo – o modelo de fronteira codificará o próximo modelo, e a corrida terminará.
Mallaby contesta: mesmo com um modelo superpoderoso, a difusão na economia e a construção de infraestrutura (computação, energia) levam tempo.
Exceção: uso ofensivo do modelo de fronteira para penetrar sistemas inimigos (Trojan horses, backdoors) – mas ninguém admite isso publicamente.
A primeira potência a atingir a superinteligência terá poder imenso, e a esperança é que sejam 'pessoas boas' – o que Mallaby acha aterrorizante.
Investidores notáveis: Bill Gurley e Luke Nosek
Bill Gurley (Benchmark) é o 'venture capitalist definitivo' por sua disciplina: esperou anos pelo empreendedor certo (Travis Kalanick) para o mercado de ride-sharing, após aprender com OpenTable.
A tragédia shakespeariana de Gurley na Uber: foi diluído por investidores de crescimento, teve seu crachá desativado, mas liderou o golpe que removeu Travis.
Luke Nosek (Founders Fund) foi o entusiasta incondicional que garantiu o investimento série A no DeepMind: US$ 2 milhões por 50% da empresa (valuation de US$ 4 milhões).
Nosek voava para Londres para reuniões de board, enquanto outros sócios do Founders Fund eram céticos.
Peter Thiel descreveu Demis como um 'missionário' – alguém com uma única obsessão (AGI) desde os 17 anos, que fundaria uma empresa apenas porque não podia fazê-lo na universidade.
O Founders Fund quase não liderou a série C; a pressão aumentou conforme os cheques cresciam.
DeepMind e a aquisição pelo Google: vitória britânica
Mallaby rebate a crítica de que a venda do DeepMind por US$ 650 milhões foi 'barata': o Google injetou quase US$ 10 bilhões em P&D ao longo de 10 anos (quase US$ 1 bilhão/ano).
A aquisição foi um 'golpe britânico esperto' para trazer dinheiro americano de P&D para Londres.
Hoje, há spin-offs do DeepMind em King's Cross, e o ecossistema de Londres está muito mais forte do que há 10-20 anos.
Para replicar o Vale do Silício, o Reino Unido precisa: (1) eliminar 'gardening leave' para permitir mobilidade rápida de talentos; (2) adotar transferência de tecnologia universitária generosa (como o Bayh-Dole Act nos EUA), em vez de exigir 50% do upside.
Prepared mind: a chave para o sucesso em IA e na vida
O conceito de Louis Pasteur ('o acaso favorece a mente preparada') aparece em venture capital (Arthur Patterson, da Exel Capital) e na história de Ilya Sutskever.
Ilya leu o artigo do Transformer no dia da publicação, correu até Alec Radford e disse 'Pare tudo o que está fazendo' – porque sua mente estava preparada por uma década de pesquisa em modelagem de dados sequenciais.
Mallaby aplica o conceito a si mesmo: usa LLMs para aprender rapidamente sobre cientistas que vai entrevistar, mas nunca para escrever – escrever é seu processo de pensamento.
O risco da IA é que as pessoas terceirizem todo o pensamento; Mallaby defende que devemos continuar fazendo o trabalho duro de preparar a mente, pois isso nos torna humanos.
Exemplo esportivo: a interceptação de Malcolm Butler no Super Bowl XLIX foi resultado de mente preparada – ele estudou a jogada do Seahawks em treinos.
Impacto da IA no mercado de livros e a aceleração da tecnologia
Mallaby revela que suas vendas de livros caíram 5% em 2023, 13% em 2024, 46% em 2025 e 57% em 2026 (projetado) – atribuído ao lançamento do ChatGPT em novembro de 2022.
A progressão da IA em 3,5 anos foi dramática: de alucinações constantes (GPT-3.5) para raciocínio lógico, multimodalidade, contexto longo e capacidade agente.
Mallaby acredita que a IA será maior que o mobile e a internet, mas a difusão é a variável crítica.
Exemplo concreto: a empresa Laya Sciences usa IA para automatizar laboratórios úmidos, gerando descobertas não triviais já hoje – não é futuro distante.
Há uma grande lacuna entre a visão interna dos laboratórios (pipeline enorme) e a percepção pública (que acha que a IA já aconteceu e está estabilizada).
Passos práticos
Use LLMs para acelerar seu aprendizado sobre tópicos complexos, mas sempre verifique os fatos com fontes primárias (ex.: entrevistando o especialista).
Nunca terceirize a escrita criativa ou o pensamento profundo para IA – escrever é o processo de formar suas próprias ideias.
Adote a mentalidade de 'prepared mind': estude cenários e tecnologias emergentes antes que eles se tornem mainstream, para reconhecer oportunidades quando surgirem.
Se você é um empreendedor no Reino Unido/Europa, pressione por reformas que aumentem a mobilidade de talentos (fim do gardening leave) e por termos mais favoráveis na transferência de tecnologia universitária.
Ao investir em IA, considere o risco de intervenção governamental – mas lembre-se de que a restrição de oferta pode aumentar o valor dos modelos.
Para se proteger contra a desinformação da IA, continue lendo livros longos e escrevendo – isso fortalece suas habilidades cognitivas e seu senso de identidade.
Frases marcantes
"Você acabou de dar à máquina um instinto de sobrevivência. Agora você se sente confortável?"
"A realidade está gritando para mim, me chamando para entendê-la. E se eu puder entendê-la, estarei mais perto do que chamaria de Deus."
"O risco com os grandes modelos de linguagem é que fiquemos preguiçosos e deixemos que eles nos digam o que pensar. Esse não é o caminho para a felicidade."
"A probabilidade de extinção não pode ser zero. Se você diz que não há nada para ver aqui, não tem o direito de estar no debate."
"Prepare sua mente – isso é o que nos torna humanos. Em uma era de IA, esse slogan é mais importante do que nunca."
"O Google conseguiu transformar a ameaça da IA em vantagem: mais cliques e maior valor por clique."
Mencionados no episódio
The Infinity Machine – livro de Sebastian Mallaby sobre Demis Hassabis e DeepMind
DeepMind – empresa de IA adquirida pelo Google, fundada por Demis Hassabis
Demis Hassabis – fundador do DeepMind, ex-campeão de xadrez infantil
AlphaGo – sistema de IA que venceu o campeão mundial de Go em 2016
AlphaFold – sistema de IA que previu estruturas de proteínas, vencedor do Nobel
ChatGPT – chatbot da OpenAI lançado em novembro de 2022
OpenAI – empresa de IA, criadora do ChatGPT
Anthropic – empresa de IA focada em segurança, criadora do Claude
Claude (Mythos) – modelo da Anthropic com capacidades avançadas de cibersegurança
Ilya Sutskever – ex-cientista-chefe da OpenAI, co-inventor do Transformer
Geoffrey Hinton – 'pai acadêmico do deep learning', professor em Toronto
Shane Legg – co-fundador do DeepMind, previu AGI para 2030
Luke Nosek – sócio do Founders Fund, investidor inicial do DeepMind
Peter Thiel – co-fundador do PayPal e Founders Fund
Bill Gurley – sócio da Benchmark, investidor da Uber
Benedict Evans – analista de tecnologia e newsletter
Lenny's Podcast – podcast de Lenny Rachitsky
Council on Foreign Relations – think tank onde Mallaby trabalha
Founders Fund – venture capital que investiu no DeepMind
Google – dona do DeepMind e do Gemini
Huawei – empresa chinesa de tecnologia sob sanções dos EUA
HikVision – empresa chinesa de câmeras e sensores de IA, sob sanções
Ant Group – empresa chinesa de fintech
Laya Sciences – startup de biotecnologia que automatiza laboratórios com IA
Ender's Game – livro de Orson Scott Card, favorito de Demis Hassabis
Gödel, Escher, Bach – livro de Douglas Hofstadter, influente para Demis
The Fabric of Reality – livro de David Deutsch, recomendado por Demis
Bayh-Dole Act – lei americana que facilita transferência de tecnologia universitária
Fairchild Semiconductor – empresa fundada em 1957 pelos 'oito traidores'
Organization Man – livro clássico de 1956 sobre lealdade corporativa