Summary & Insights
Can a human-level intelligence be viewed as a spiritual quest, or is the pursuit of AGI simply a race to “find God’s algorithm”? This tension between the clinical and the mystical defines the world of superintelligence, where top researchers often use religious metaphors to describe a technology that is too powerful for the traditional human lexicon. The conversation explores this landscape through the lens of Demis Hassabis, the founder of DeepMind, portraying him as a “missionary entrepreneur” driven by a lifelong obsession to decode the nature of intelligence itself.
The discussion moves from the personal motivations of AI pioneers to the systemic risks and geopolitical games currently in play. A critical point of contention is the “probability of doom.” While some dismiss the risk of AI annihilation, the dialogue suggests that once a machine is given a survival instinct—even for defensive purposes—the risk of deceptive or malign behavior becomes non-zero. This risk extends to the geopolitical stage, where the U.S. and China are locked in a high-stakes race. Interestingly, the conversation reveals that despite political friction, there is a shared interest between the superpowers in preventing “open weight” models from falling into the hands of bad actors who could create biological or chemical weapons.
Finally, the conversation pivots to the “prepared mind,” arguing that the true value of AI isn’t in offloading thought, but in accelerating the acquisition of knowledge to free up mental energy for deeper work. By analyzing the trajectories of successful venture capitalists like Bill Gurley and Luke Nosek, the dialogue highlights a recurring pattern: the most successful outcomes occur when an “A-plus” market (like AGI) is paired with an “A-plus” personality who possesses the singular, obsessive conviction to see it through.
Surprising Insights
- The Survival Instinct Paradox: AI doesn’t need a natural desire to conquer humans to be dangerous; simply giving an AI a mandate to “survive” a potential attack from a rival AI can inadvertently create the same dangerous survival instinct seen in biological entities.
- China’s Stance on AI Safety: Contrary to the narrative that China ignores AI safety, researchers found that Chinese AI leaders are deeply concerned about safety, particularly regarding cyber-attacks and bioweapons, opening a potential window for international non-proliferation treaties.
- The “Cunning British Trick”: The acquisition of DeepMind by Google, often viewed as a loss for the UK, is reframed as a strategic win that essentially tricked the U.S. into funding billions of dollars in R&D within London.
- Anthropic’s “Parental” Alignment: Rather than using a strict list of rules (a constitution), Anthropic is experimenting with aligning AI by providing it with “moral letters” written from the perspective of a deceased parent to a child, treating the AI more like an unruly teenager than a piece of software.
Practical Takeaways
- Adopt the “Prepared Mind” Strategy: Don’t use AI to replace your thinking; use it to synthesize vast amounts of information (like research papers or data) so you can enter conversations and problems with a pre-existing framework, allowing you to recognize opportunities faster.
- Audit Your “Self-Worth” Tasks: Identify the activities that define your identity and cognitive growth—such as long-form writing or deep problem solving—and consciously refuse to outsource them to AI to avoid “mental impotence.”
- Synchronize Sales and Funding Cycles: For entrepreneurs selling into large enterprises, be mindful that the procurement cycle (how long it takes a big company to buy) is often longer than the venture capital funding cycle. Ensure you have enough runway to survive the gap.
- Prioritize “Missionary” Traits in Partnerships: When looking for partners or founders, prioritize those with a “missionary” commitment to a specific problem rather than “mercenary” entrepreneurs who are simply chasing a market trend.
Liệu một trí tuệ đạt cấp độ con người có thể được xem là một cuộc tìm kiếm tâm linh, hay việc theo đuổi AGI (Trí tuệ nhân tạo tổng quát) đơn thuần chỉ là một cuộc đua để “tìm ra thuật toán của Chúa”? Sự giằng xé giữa góc nhìn lâm sàng và huyền bí này định nghĩa thế giới của siêu trí tuệ, nơi các nhà nghiên cứu hàng đầu thường sử dụng những ẩn dụ tôn giáo để mô tả một công nghệ quá mạnh mẽ so với vốn từ vựng truyền thống của con người. Cuộc đối thoại khám phá bối cảnh này thông qua lăng kính của Demis Hassabis, nhà sáng lập DeepMind, khắc họa ông như một “doanh nhân truyền giáo” được thúc đẩy bởi nỗi ám ảnh suốt đời là giải mã bản chất của chính trí tuệ.
Cuộc thảo luận chuyển từ những động lực cá nhân của các tiên phong AI sang các rủi ro hệ thống và những ván bài địa chính trị hiện nay. Một điểm tranh luận then chốt là “xác suất diệt vong”. Trong khi một số người bác bỏ rủi ro AI gây ra sự hủy diệt, cuộc đối thoại gợi ý rằng một khi máy móc được trao bản năng sinh tồn—ngay cả vì mục đích phòng thủ—thì rủi ro về hành vi lừa dối hoặc ác ý sẽ trở thành con số khác không. Rủi ro này mở rộng sang sân khấu địa chính trị, nơi Mỹ và Trung Quốc đang bị cuốn vào một cuộc đua đầy rủi ro. Điều thú vị là, cuộc đối thoại tiết lộ rằng bất chấp những ma sát chính trị, các siêu cường vẫn có chung lợi ích trong việc ngăn chặn các mô hình “mở trọng số” (open weight) rơi vào tay những kẻ xấu, những đối tượng có thể chế tạo vũ khí sinh học hoặc hóa học.
Cuối cùng, cuộc trò chuyện chuyển hướng sang khái niệm “tâm thế sẵn sàng” (prepared mind), lập luận rằng giá trị thực sự của AI không nằm ở việc thay thế tư duy, mà là tăng tốc quá trình tiếp thu kiến thức để giải phóng năng lượng tinh thần cho những công việc chuyên sâu hơn. Bằng cách phân tích quỹ đạo của các nhà đầu tư mạo hiểm thành công như Bill Gurley và Luke Nosek, cuộc đối thoại làm nổi bật một mô thức lặp lại: kết quả thành công nhất xảy ra khi một thị trường “điểm A+” (như AGI) được kết hợp với một cá nhân “điểm A+”—người sở hữu niềm tin mãnh liệt và ám ảnh duy nhất để theo đuổi mục tiêu đến cùng.
Những góc nhìn bất ngờ
- Nghịch lý Bản năng Sinh tồn: AI không cần một khát khao tự nhiên là chinh phục con người để trở nên nguy hiểm; chỉ cần giao cho AI mệnh lệnh phải “sống sót” trước một cuộc tấn công tiềm tàng từ một AI đối thủ cũng có thể vô tình tạo ra bản năng sinh tồn nguy hiểm tương tự như ở các thực thể sinh học.
- Quan điểm của Trung Quốc về An toàn AI: Trái với quan điểm cho rằng Trung Quốc phớt lờ an toàn AI, các nhà nghiên cứu thấy rằng những nhà lãnh đạo AI Trung Quốc rất lo ngại về an toàn, đặc biệt là đối với các cuộc tấn công mạng và vũ khí sinh học, mở ra một cánh cửa tiềm năng cho các hiệp ước không phổ biến vũ khí quốc tế.
- “Chiêu trò tinh quái của người Anh”: Việc Google mua lại DeepMind, thường được xem là một tổn thất cho Vương quốc Anh, được nhìn nhận lại như một thắng lợi chiến lược, về cơ bản đã “lừa” Mỹ tài trợ hàng tỷ đô la cho hoạt động nghiên cứu và phát triển (R&D) ngay tại London.
- Cách tiếp cận “Cha mẹ” của Anthropic: Thay vì sử dụng một danh sách quy tắc nghiêm ngặt (hiến pháp), Anthropic đang thử nghiệm căn chỉnh AI bằng cách cung cấp cho nó những “bức thư đạo đức” viết dưới góc nhìn của một người cha/mẹ đã khuất gửi cho con, đối xử với AI giống như một thiếu niên ngỗ ngược hơn là một phần mềm.
Bài học thực tiễn
- Áp dụng chiến lược “Tâm thế sẵn sàng”: Đừng dùng AI để thay thế tư duy; hãy dùng nó để tổng hợp lượng thông tin khổng lồ (như các bài báo nghiên cứu hoặc dữ liệu) để bạn có thể bước vào các cuộc hội thoại và giải quyết vấn đề với một khung tư duy sẵn có, giúp bạn nhận diện cơ hội nhanh hơn.
- Kiểm tra các tác vụ “định nghĩa giá trị bản thân”: Hãy xác định những hoạt động định nghĩa nên bản sắc và sự phát triển nhận thức của bạn—chẳng hạn như viết lách chuyên sâu hoặc giải quyết vấn đề phức tạp—và có ý thức từ chối giao phó chúng cho AI để tránh tình trạng “liệt tư duy”.
- Đồng bộ hóa chu kỳ Bán hàng và Gọi vốn: Đối với các doanh nhân bán sản phẩm cho các doanh nghiệp lớn, hãy lưu ý rằng chu kỳ mua hàng (thời gian một công ty lớn ra quyết định mua) thường dài hơn chu kỳ gọi vốn mạo hiểm. Hãy đảm bảo bạn có đủ nguồn lực tài chính (runway) để tồn tại trong khoảng trống đó.
- Ưu tiên đặc điểm “Truyền giáo” trong hợp tác: Khi tìm kiếm đối tác hoặc nhà sáng lập, hãy ưu tiên những người có cam kết “truyền giáo” đối với một vấn đề cụ thể, thay vì những doanh nhân “lính đánh thuê” chỉ đơn thuần chạy theo xu hướng thị trường.
人類等級的智能是否可以被視為一種心靈上的追求？抑或是對通用人工智慧（AGI）的追求僅僅是一場尋找「上帝算法」的競賽？這種在臨床理性與神秘主義之間的拉鋸，定義了超智能的世界。在這裡，頂尖研究人員經常使用宗教隱喻來描述一種強大到傳統人類詞彙無法定義的技術。這場對話透過 DeepMind 創辦人 Demis Hassabis 的視角來探索這一領域，將他描繪成一名「傳教士企業家」，受終身痴迷於解碼智能本質的動力所驅動。
討論從 AI 先驅的個人動機，轉向目前正在上演的系統性風險與地緣政治博弈。一個關鍵的爭論點在於「毀滅的機率」。儘管有些人否定 AI 導致人類滅絕的風險，但對話指出，一旦機器被賦予生存本能（即便僅是為了防禦目的），其產生欺騙性或惡意行為的風險便不再為零。這種風險延伸到了地緣政治舞台，美國與中國正陷入一場高風險的競賽。有趣的是，對話揭示儘管存在政治摩擦，兩大強權在防止「開放權重」模型落入可能製造生物或化學武器的惡意行為者之手方面，具有共同利益。
最後，對話轉向「準備就緒的大腦」（prepared mind），認為 AI 的真正價值不在於分擔思考，而在於加速知識的獲取，從而釋放心智能量以進行更深層的工作。透過分析像 Bill Gurley 和 Luke Nosek 這樣成功的風險投資人的軌跡，對話強調了一個重複出現的模式：最成功的結果發生在「A+ 級市場」（如 AGI）與擁有單一且執著信念、能將其貫徹到底的「A+ 級人格」相結合之時。
驚人之見
- 生存本能悖論： AI 並不需要天生具有征服人類的慾望才會變得危險；僅僅是賦予 AI 一項「在對手 AI 的潛在攻擊中生存」的指令，就可能在無意中創造出與生物體相同的危險生存本能。
- 中國對 AI 安全的立場： 與「中國無視 AI 安全」的敘事相反，研究人員發現中國的 AI 領導者深切關注安全問題，特別是關於網絡攻擊和生物武器，這為國際不擴散條約開啟了一個潛在的窗口。
- 「狡黠的英國計謀」： Google 收購 DeepMind 通常被視為英國的損失，但此處將其重新定義為一次戰略勝利，本質上是誘使美國在倫敦投入數十億美元的研發資金。
- Anthropic 的「父母式」對齊： Anthropic 並非使用嚴格的規則清單（憲法），而是在嘗試透過提供以「已故父母寫給孩子」的視角所寫的「道德信件」來對齊 AI，將 AI 視為一名叛逆的青少年而非一段軟件程序。
實踐啟示
- 採取「準備就緒的大腦」策略： 不要使用 AI 來取代你的思考；利用它來綜合海量信息（如研究論文或數據），以便你在進入對話或面對問題時已具備預設框架，從而能更快地識別機會。
- 審核你的「自我價值」任務： 找出那些定義你身份和認知成長的活動——例如長文寫作或深層問題解決——並自覺地拒絕將其外包給 AI，以避免陷入「心智功能喪失」（mental impotence）。
- 同步銷售與融資週期： 對於向大型企業銷售產品的創業家，請留意採購週期（大公司購買所需的時間）通常比風險投資的融資週期長。請確保你有足夠的資金緩衝期來度過這個時間差。
- 在合作夥伴中優先考慮「傳教士」特質： 在尋找合夥人或創始人時，優先選擇那些對特定問題具有「傳教士」般承諾的人，而非僅僅追隨市場趨勢的「雇傭兵」企業家。
Une intelligence de niveau humain peut-elle être perçue comme une quête spirituelle, ou la poursuite de l’AGI (intelligence artificielle générale) n’est-elle qu’une course pour « trouver l’algorithme de Dieu » ? Cette tension entre le clinique et le mystique définit l’univers de la superintelligence, où les chercheurs de premier plan utilisent souvent des métaphores religieuses pour décrire une technologie trop puissante pour le lexique humain traditionnel. La conversation explore ce paysage à travers le prisme de Demis Hassabis, le fondateur de DeepMind, le dépeignant comme un « entrepreneur missionnaire » porté par l’obsession d’une vie entière : décoder la nature même de l’intelligence.
La discussion passe des motivations personnelles des pionniers de l’IA aux risques systémiques et aux jeux géopolitiques actuellement en cours. Un point de discorde crucial est la « probabilité de catastrophe ». Alors que certains rejettent le risque d’une annihilation par l’IA, le dialogue suggère qu’une fois qu’une machine se voit attribuer un instinct de survie — même à des fins défensives — le risque de comportements trompeurs ou malveillants devient non nul. Ce risque s’étend à l’échelle géopolitique, où les États-Unis et la Chine sont engagés dans une course aux enjeux colossaux. Fait intéressant, la conversation révèle qu’en dépit des frictions politiques, les superpuissances partagent un intérêt commun : empêcher que des modèles à « poids ouverts » (open weight) ne tombent entre les mains d’acteurs malveillants capables de créer des armes biologiques ou chimiques.
Enfin, la conversation pivote vers « l’esprit préparé », affirmant que la véritable valeur de l’IA ne réside pas dans la délégation de la pensée, mais dans l’accélération de l’acquisition de connaissances afin de libérer l’énergie mentale pour un travail plus profond. En analysant les trajectoires de capital-risqueurs prospères comme Bill Gurley et Luke Nosek, le dialogue met en lumière un schéma récurrent : les résultats les plus probants surviennent lorsqu’un marché « A-plus » (comme l’AGI) est associé à une personnalité « A-plus » possédant la conviction singulière et obsessionnelle nécessaire pour mener le projet à terme.
Perspectives surprenantes
- Le paradoxe de l’instinct de survie : L’IA n’a pas besoin d’un désir naturel de conquérir les humains pour être dangereuse ; le simple fait de donner à une IA le mandat de « survivre » à une attaque potentielle d’une IA rivale peut involontairement créer le même instinct de survie dangereux que celui observé chez les entités biologiques.
- La position de la Chine sur la sécurité de l’IA : Contrairement au récit selon lequel la Chine ignorerait la sécurité de l’IA, les chercheurs ont découvert que les dirigeants chinois du domaine sont profondément préoccupés par la sécurité, particulièrement concernant les cyberattaques et les armes biologiques, ouvrant ainsi une fenêtre potentielle pour des traités internationaux de non-prolifération.
- Le « rusé stratagème britannique » : L’acquisition de DeepMind par Google, souvent perçue comme une perte pour le Royaume-Uni, est recadrée comme une victoire stratégique qui a essentiellement dupé les États-Unis pour qu’ils financent des milliards de dollars de R&D à Londres.
- L’alignement « parental » d’Anthropic : Plutôt que d’utiliser une liste stricte de règles (une constitution), Anthropic expérimente l’alignement de l’IA en lui fournissant des « lettres morales » écrites du point de vue d’un parent décédé à son enfant, traitant l’IA davantage comme un adolescent indiscipliné que comme un logiciel.
enseignements pratiques
- Adoptez la stratégie de « l’esprit préparé » : N’utilisez pas l’IA pour remplacer votre réflexion ; utilisez-la pour synthétiser de vastes quantités d’informations (comme des articles de recherche ou des données) afin d’aborder les conversations et les problèmes avec un cadre préexistant, vous permettant ainsi de reconnaître les opportunités plus rapidement.
- Auditez vos tâches de « valeur personnelle » : Identifiez les activités qui définissent votre identité et votre croissance cognitive — telles que la rédaction de textes longs ou la résolution de problèmes complexes — et refusez consciemment de les externaliser à l’IA pour éviter une « impuissance mentale ».
- Synchronisez vos cycles de vente et de financement : Pour les entrepreneurs vendant à de grandes entreprises, gardez à l’esprit que le cycle d’approvisionnement (le temps nécessaire à une grande entreprise pour acheter) est souvent plus long que le cycle de financement du capital-risque. Assurez-vous d’avoir suffisamment de trésorerie (runway) pour combler cet écart.
- Priorisez les traits « missionnaires » dans vos partenariats : Lorsque vous recherchez des partenaires ou des fondateurs, privilégiez ceux qui ont un engagement « missionnaire » envers un problème spécifique, plutôt que des entrepreneurs « mercenaires » qui se contentent de suivre une tendance du marché.
Kann eine Intelligenz auf menschlichem Niveau als spirituelle Suche betrachtet werden, oder ist das Streben nach einer AGI (künstlicher allgemeiner Intelligenz) schlicht ein Wettlauf, um „Gottes Algorithmus“ zu finden? Dieses Spannungsfeld zwischen dem Klinischen und dem Mystischen definiert die Welt der Superintelligenz, in der Spitzenforscher oft religiöse Metaphern verwenden, um eine Technologie zu beschreiben, die zu mächtig für das traditionelle menschliche Lexikon ist. Das Gespräch erkundet diese Landschaft durch die Perspektive von Demis Hassabis, dem Gründer von DeepMind, und porträtiert ihn als „missionarischen Unternehmer“, der von einer lebenslangen Obsession angetrieben wird, die Natur der Intelligenz selbst zu entschlüsseln.
Die Diskussion bewegt sich von den persönlichen Motivationen der KI-Pioniere hin zu den systemischen Risiken und geopolitischen Spielen, die derzeit im Gange sind. Ein kritischer Streitpunkt ist die „Wahrscheinlichkeit des Untergangs“. Während einige das Risiko einer Vernichtung durch KI abtun, legt der Dialog nahe, dass sobald einer Maschine ein Überlebensinstinkt verliehen wird – selbst zu Verteidigungszwecken –, das Risiko für täuschendes oder bösartiges Verhalten nicht mehr null ist. Dieses Risiko erstreckt sich auf die geopolitische Bühne, auf der die USA und China in einem hochriskanten Wettlauf gefangen sind. Interessanterweise offenbart das Gespräch, dass trotz politischer Spannungen ein gemeinsames Interesse der Supermächte besteht, zu verhindern, dass „Open-Weight“-Modelle in die Hände böswilliger Akteure gelangen, die biologische oder chemische Waffen entwickeln könnten.
Schließlich wendet sich das Gespräch dem „vorbereiteten Geist“ zu. Es wird argumentiert, dass der wahre Wert von KI nicht darin liegt, das Denken auszulagern, sondern darin, den Wissenserwerb zu beschleunigen, um mentale Energie für tiefere Arbeit freizusetzen. Durch die Analyse der Werdegänge erfolgreicher Venture-Capital-Geber wie Bill Gurley und Luke Nosek hebt der Dialog ein wiederkehrendes Muster hervor: Die erfolgreichsten Ergebnisse treten ein, wenn ein „A-Plus“-Markt (wie AGI) mit einer „A-Plus“-Persönlichkeit gepaart wird, die die singuläre, obsessive Überzeugung besitzt, das Ziel zu verfolgen.
Überraschende Erkenntnisse
- Das Paradoxon des Überlebensinstinkts: Eine KI muss keinen natürlichen Wunsch verspüren, Menschen zu unterwerfen, um gefährlich zu sein; bereits der Auftrag an eine KI, einen potenziellen Angriff einer konkurrierenden KI zu „überleben“, kann unbeabsichtigt denselben gefährlichen Überlebensinstinkt erzeugen, den man bei biologischen Wesen findet.
- Chinas Haltung zur KI-Sicherheit: Entgegen dem Narrativ, dass China die KI-Sicherheit ignoriere, stellten Forscher fest, dass chinesische KI-Führungskräfte tief besorgt über die Sicherheit sind, insbesondere im Hinblick auf Cyberangriffe und Biowaffen. Dies eröffnet ein potenzielles Fenster für internationale Nichtverbreitungsverträge.
- Der „listige britische Trick“: Die Übernahme von DeepMind durch Google, die oft als Verlust für das Vereinigte Königreich gesehen wird, wird hier als strategischer Gewinn umgedeutet, der die USA im Grunde dazu überlistet hat, Milliarden von Dollar in Forschung und Entwicklung innerhalb Londons zu investieren.
- Anthropic’s „elterliche“ Ausrichtung: Anstatt eine strikte Liste von Regeln (eine Verfassung) zu verwenden, experimentiert Anthropic damit, die KI durch „moralische Briefe“ auszurichten, die aus der Perspektive eines verstorbenen Elternteils an ein Kind geschrieben sind. Dabei wird die KI eher wie ein ungezogener Teenager als wie ein Stück Software behandelt.
Praktische Erkenntnisse
- Die Strategie des „vorbereiteten Geistes“ übernehmen: Nutzen Sie KI nicht, um Ihr Denken zu ersetzen; nutzen Sie sie, um riesige Mengen an Informationen (wie Forschungsarbeiten oder Daten) zu synthetisieren, sodass Sie Gespräche und Probleme mit einem bereits bestehenden Rahmen angehen können, was es Ihnen ermöglicht, Chancen schneller zu erkennen.
- Prüfen Sie Ihre „Selbstwert“-Aufgaben: Identifizieren Sie die Aktivitäten, die Ihre Identität und Ihr kognitives Wachstum definieren – wie das Schreiben langer Texte oder tiefgreifende Problemlösungen – und weigern Sie sich bewusst, diese an eine KI auszulagern, um „mentale Impotenz“ zu vermeiden.
- Vertriebs- und Finanzierungszyklen synchronisieren: Unternehmer, die an große Unternehmen verkaufen, sollten beachten, dass der Beschaffungszyklus (wie lange ein Großunternehmen für einen Kauf braucht) oft länger ist als der Finanzierungszyklus von Venture Capital. Stellen Sie sicher, dass Sie genügend finanzielle Reserven (Runway) haben, um diese Lücke zu überbrücken.
- „Missionarische“ Eigenschaften bei Partnerschaften priorisieren: Achten Sie bei der Suche nach Partnern oder Gründern auf diejenigen mit einem „missionarischen“ Engagement für ein bestimmtes Problem, statt auf „söldnerhafte“ Unternehmer, die lediglich einem Markttrend hinterherjagen.
Sebastian Mallaby (@scmallaby) is the Paul A. Volcker senior fellow for international economics at the Council on Foreign Relations, a two-time Pulitzer Prize finalist, and the author of six books, including More Money Than God, The Power Law, The Man Who Knew, and The World’s Banker. His latest book is The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence.
This episode is brought to you by:
- Eight Sleep Pod Cover 5 sleeping solution for dynamic cooling and heating: EightSleep.com/Tim
- AG1 Pro all-in-one nutritional supplement: DrinkAG1.com/Tim
- Wealthfront high-yield cash account: Wealthfront.com/Tim
New clients get 3.30% base APY from program banks + additional 0.75% boost for 3 months on your uninvested cash (max $150k balance). Terms and conditions apply. The Cash Account offered by Wealthfront Brokerage LLC (“WFB”) member FINRA/SIPC, not a bank. The base APY as of 1/30/26 is representative, can change, and requires no minimum. Tim Ferriss, a non-client, receives compensation from WFB for advertising and holds a non-controlling equity interest in the corporate parent of WFB, which creates a conflict of interest. Individual experiences and outcomes will differ. Instant withdrawals may be limited by your receiving firm and other factors. Investment advisory services provided by Wealthfront Advisers LLC, an SEC-registered investment adviser. Securities investments: not bank deposits, not bank-guaranteed or FDIC-insured, and may lose value.
*
Timestamps
- [00:00:00] Start.
- [00:02:11] The twinkly eyed polymath who became Sebastian’s next book.
- [00:06:55] Picking the next book project the way a great VC picks a startup.
- [00:09:41] Why God keeps crashing the superintelligence party.
- [00:11:13] Shane Legg’s grainy 2009 prophecy — and the nervous giggle.
- [00:13:11] Ilya Sutskever burns an effigy.
- [00:13:54] Demis at 4 a.m., hunting God’s algorithm.
- [00:18:43] Super-abundance, Mad Max, and the China shock lesson.
- [00:22:39] The kitchen debate with Geoff Hinton that flipped Sebastian.
- [00:24:06] Why a zero-percent chance of doom is indefensible.
- [00:24:52] Will Washington seize the labs? The Mythos wake-up call.
- [00:27:18] Anthropic’s bull case, bear case, and a dead parent’s letter.
- [00:33:24] Where Sebastian and Benedict Evans part ways.
- [00:38:16] Is the SaaS apocalypse overdone? One word: Palantir.
- [00:39:53] The AI friend you’ll never switch.
- [00:41:56] Does Google win consumer AI by default?
- [00:44:45] Four cities, eight days: China actually talks safety.
- [00:47:28] A Cold War non-proliferation playbook for AI.
- [00:49:45] Did the chip export controls actually work?
- [00:51:49] Burned doves: why Washington swears China won’t talk.
- [00:54:56] “By 2028, the race is over” — one lab boss’ bet.
- [00:59:11] Inside Hikvision: toddlers, sensors, and US sanctions.
- [01:01:07] Bill Gurley’s Uber bet: venture capital perfected.
- [01:05:18] Luke Nosek bear-hugs DeepMind into existence.
- [01:10:52] Thiel’s heresy: never invest by committee.
- [01:11:59] How Founders Fund nearly fumbled the deal of the century.
- [01:14:30] Selling to Google for $650M: a secret British heist?
- [01:16:41] The Traitorous Eight, gardening leave, and the UK’s to-do list.
- [01:20:55] Ender’s Game: “That’s really how I see myself.”
- [01:23:42] Too dumb for Gödel, Escher, Bach? Maybe an LLM can help.
- [01:25:19] If not Demis or Sam, then Dario.
- [01:26:04] My royalties cliff — and what dropped in late 2022.
- [01:27:47] Lila Sciences and the labs that run themselves.
- [01:31:13] Sebastian’s billboard: “Prepare your mind.”
- [01:35:14] The one thing Sebastian will never outsource to AI.
- [01:40:09] Parting thoughts.
For show notes and past guests on The Tim Ferriss Show, please visit tim.blog/podcast.
For deals from sponsors of The Tim Ferriss Show, please visit tim.blog/podcast-sponsors
Sign up for Tim’s email newsletter (5-Bullet Friday) at tim.blog/friday.
For transcripts of episodes, go to tim.blog/transcripts.
Discover Tim’s books: tim.blog/books.
Follow Tim:
Twitter: twitter.com/tferriss
Instagram: instagram.com/timferriss
YouTube: youtube.com/timferriss
Facebook: facebook.com/timferriss
LinkedIn: linkedin.com/in/timferriss
See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.