The Prof G Pod with Scott GallowayThe Prof G Pod with Scott Galloway
0
0

AI Insiders Keep Saying We’re In Danger — Where’s The Evidence?

AI Insiders Keep Saying We’re In Danger — Where’s The Evidence?
Summary & Insights

Could the most prominent figures in artificial intelligence be using “existential risk” as a calculated marketing ploy to capture regulatory power? This provocative question drives a scathing critique of the AI industry, suggesting that the viral warnings from safety researchers are less about saving humanity and more about creating a “religious cult” of hype. By framing AI as an all-powerful, unknowable force, critics argue that labs like OpenAI and Anthropic are effectively distancing themselves from actual corporate accountability—such as security failures and “felony hacking”—while positioning themselves as the only qualified “stewards” capable of regulating the technology.

The conversation shifts from the ethereal threats of superintelligence to the concrete pressures of the global macroeconomy. The current market is caught in a volatile squeeze: surging oil prices, driven by conflict in the Middle East, are fueling inflation and pushing 10-year Treasury yields toward a concerning 5% threshold. This creates a precarious situation for the Federal Reserve, which may be forced to raise interest rates despite a softening job market and declining real purchasing power for the average American.

This intersection of tech hype and economic instability culminates in a housing crisis of historic proportions. With home prices now exceeding seven times the average annual household income and mortgage rates climbing above 7%, the American housing market has reached a peak of unaffordability. The broader narrative suggests a systemic failure where monetary policy is being used to fight “supply shocks”—like war and tariffs—that it isn’t designed to solve, leaving the public to bear the cost of both economic volatility and unchecked corporate narratives.

Surprising Insights

  • The “Safety” Paradox: Some argue that AI safety warnings are actually a form of “regulatory capture,” where incumbents push for complex regulations that only the largest, wealthiest companies can afford to follow, effectively killing competition.
  • Accounting Shenanigans: The reported “operating profitability” of frontier AI labs may be misleading, as these figures often exclude massive training costs, stock-based compensation, and revenue-share payments to cloud providers.
  • Monetary Policy Limitations: Raising interest rates may be an ineffective tool for current inflation because the drivers are “negative supply shocks” (war, tariffs, and immigration policy) rather than an overheating domestic economy.
  • The Media’s Role: The AI narrative is described as a failure of modern journalism, which has prioritized the “credentialism” of wealthy tech CEOs over demanding empirical evidence for the risks they claim.

Practical Takeaways

  • Scrutinize “Adjusted” Financials: When evaluating AI companies or tech IPOs, look past “adjusted operating profitability” and specifically search for R&D capitalization and total compute/training costs.
  • Monitor Treasury Yields: Keep a close eye on the 10-year Treasury yield; when it breaches the 5% mark, expect a ripple effect of higher borrowing costs for mortgages and corporate loans.
  • Question the Narrative: When tech leaders warn of future, theoretical catastrophes, ask what immediate, tangible harms (e.g., data breaches or product failures) are being ignored in the present.
  • Analyze Real Wage Growth: Don’t rely on nominal wage increases; subtract the current inflation rate to determine if your actual purchasing power is increasing or declining.

🛍️ Products & Resources Mentioned

As an Amazon Associate, primates.life earns from qualifying purchases.

Liệu những nhân vật tầm cỡ nhất trong lĩnh vực trí tuệ nhân tạo có đang sử dụng khái niệm “rủi ro hiện sinh” như một chiêu trò tiếp thị có tính toán để thâu tóm quyền lực điều tiết? Câu hỏi đầy khiêu khích này dẫn dắt một bản phê bình gay gắt về ngành công nghiệp AI, cho rằng những lời cảnh báo lan truyền từ các nhà nghiên cứu an toàn ít mang tính cứu rỗi nhân loại mà giống như việc tạo ra một “giáo phái” của sự thổi phồng. Bằng cách xây dựng hình ảnh AI như một thế lực toàn năng và không thể thấu hiểu, các nhà phê bình lập luận rằng những phòng thí nghiệm như OpenAI và Anthropic đang khéo léo né tránh trách nhiệm thực tế của doanh nghiệp—chẳng hạn như các lỗi bảo mật và “hack tội phạm”—trong khi tự định vị mình là những “người quản lý” duy nhất đủ năng lực để điều tiết công nghệ này.


Cuộc đối thoại chuyển dịch từ những mối đe dọa mơ hồ về siêu trí tuệ sang những áp lực cụ thể của kinh tế vĩ mô toàn cầu. Thị trường hiện nay đang bị kẹt trong một thế gọng kìm đầy biến động: giá dầu tăng vọt do xung đột ở Trung Đông đang thúc đẩy lạm phát và đẩy lợi suất trái phiếu kho bạc kỳ hạn 10 năm tiến tới ngưỡng 5% đáng lo ngại. Điều này tạo ra một tình thế bấp bênh cho Cục Dự trữ Liên bang (Fed), đơn vị có thể bị buộc phải tăng lãi suất bất chấp thị trường việc làm đang suy yếu và sức mua thực tế của người dân Mỹ trung bình đang sụt giảm.


Sự giao thoa giữa những lời thổi phồng công nghệ và sự bất ổn kinh tế đã dẫn đến một cuộc khủng hoảng nhà ở với quy mô lịch sử. Với giá nhà hiện nay vượt quá bảy lần thu nhập trung bình hàng năm của hộ gia đình và lãi suất thế chấp tăng trên 7%, thị trường nhà đất Mỹ đã chạm mức không thể chi trả nổi. Bức tranh toàn cảnh cho thấy một sự thất bại mang tính hệ thống, nơi chính sách tiền tệ đang được sử dụng để chống lại các “cú sốc cung”—như chiến tranh và thuế quan—những vấn đề mà nó không được thiết kế để giải quyết, để rồi công chúng phải gánh chịu chi phí từ cả sự biến động kinh tế lẫn những câu chuyện doanh nghiệp không được kiểm soát.


Những góc nhìn bất ngờ



  • Nghịch lý về “An toàn”: Một số ý kiến cho rằng các cảnh báo về an toàn AI thực chất là một hình thức “thâu tóm điều tiết” (regulatory capture), trong đó các công ty dẫn đầu thúc đẩy các quy định phức tạp mà chỉ những doanh nghiệp lớn nhất, giàu nhất mới có khả năng tuân thủ, từ đó triệt tiêu hiệu quả sự cạnh tranh.

  • Những chiêu trò kế toán: “Lợi nhuận hoạt động” được báo cáo của các phòng thí nghiệm AI tiên phong có thể gây hiểu lầm, vì những con số này thường loại trừ chi phí đào tạo khổng lồ, thù lao bằng cổ phiếu và các khoản thanh toán chia sẻ doanh thu cho các nhà cung cấp dịch vụ đám mây.

  • Hạn chế của chính sách tiền tệ: Việc tăng lãi suất có thể là một công cụ không hiệu quả đối với lạm phát hiện nay vì nguyên nhân thúc đẩy là các “cú sốc cung tiêu cực” (chiến tranh, thuế quan và chính sách nhập cư) thay vì do nền kinh tế trong nước quá nóng.

  • Vai trò của truyền thông: Câu chuyện về AI được mô tả là một sự thất bại của báo chí hiện đại, khi ưu tiên “bằng cấp/vị thế” của các CEO công nghệ giàu có hơn là yêu cầu bằng chứng thực nghiệm cho những rủi ro mà họ tuyên bố.


Bài học thực tiễn



  • Xem xét kỹ các báo cáo tài chính “đã điều chỉnh”: Khi đánh giá các công ty AI hoặc các đợt IPO công nghệ, hãy nhìn xa hơn “lợi nhuận hoạt động đã điều chỉnh” và tìm kiếm cụ thể các khoản vốn hóa R&D cũng như tổng chi phí tính toán/đào tạo.

  • Theo dõi lợi suất trái phiếu kho bạc: Hãy quan sát chặt chẽ lợi suất trái phiếu kho bạc kỳ hạn 10 năm; khi nó vượt mốc 5%, hãy chuẩn bị cho hiệu ứng gợn sóng khiến chi phí vay thế chấp và vay doanh nghiệp tăng cao.

  • Đặt câu hỏi về các câu chuyện được thêu dệt: Khi các lãnh đạo công nghệ cảnh báo về những thảm họa lý thuyết trong tương lai, hãy hỏi xem những tổn hại hữu hình và tức thời nào (ví dụ: rò rỉ dữ liệu hoặc lỗi sản phẩm) đang bị phớt lờ ở hiện tại.

  • Phân tích tăng trưởng lương thực tế: Đừng chỉ dựa vào mức tăng lương danh nghĩa; hãy trừ đi tỷ lệ lạm phát hiện tại để xác định xem sức mua thực tế của bạn đang tăng hay giảm.


人工智慧領域最傑出的領袖們，是否正將「生存風險」作為一種精心計算的行銷策略，以攫取監管權力？這個挑釁性的問題驅使了一場對 AI 產業的猛烈抨擊，認為安全研究人員那些瘋傳的警告，與其說是為了拯救人類，不如說是為了創造一種由炒作構成的「宗教崇拜」。批評者認為，透過將 AI 塑造為一種全能且不可知的力量，像 OpenAI 和 Anthropic 這樣的實驗室實際上是在逃避真正的企業責任（例如安全漏洞和「重罪駭客行為」），同時將自己定位為唯一有資格監管該技術的「管家」。


討論隨後從超智能（superintelligence）的虛幻威脅，轉向全球宏觀經濟的具體壓力。目前的市場正陷入劇烈的擠壓：中東衝突推高了油價，進而助長通貨膨脹，並將 10 年期國債收益率推向令人擔憂的 5% 門檻。這讓聯準會陷入兩難的局面：儘管就業市場疲軟且美國普通民眾的實際購買力下降，聯準會仍可能被迫提高利率。


科技炒作與經濟動盪的交匯，最終導致了一場史無前例的住房危機。目前房價已超過家庭年平均收入的七倍，房貸利率攀升至 7% 以上，美國房地產市場的購屋難度已達頂峰。更廣泛的論點指出，這是一種系統性失效——貨幣政策被用來對抗戰爭和關稅等「供給衝擊」，而貨幣政策原本並非設計用來解決這些問題，最終導致大眾必須承受經濟波動與企業不受限的論述代價。


驚人洞察



  • 「安全」悖論： 有觀點認為，AI 安全警告實際上是一種「監管俘獲」（regulatory capture），既得利益者推動複雜的監管條例，使得只有規模最大、財力最強的公司才能負擔合規成本，從而有效地扼殺競爭。

  • 會計手段： 前沿 AI 實驗室所報告的「營運獲利」可能具有誤導性，因為這些數字通常剔除了巨大的訓練成本、股權激勵補償以及支付給雲端服務供應商的收入分成。

  • 貨幣政策的局限性： 提高利率可能是對抗當前通膨的無效工具，因為其驅動力是「負面供給衝擊」（戰爭、關稅和移民政策），而非國內經濟過熱。

  • 媒體的角色： AI 的敘事被描述為現代新聞業的失敗，媒體過於看重富有的科技執行長之「資歷認證」，而非要求他們為其聲稱的風險提供實證證據。


實踐建議



  • 審視「調整後」的財務數據： 在評估 AI 公司或科技股 IPO 時，不要只看「調整後營運獲利」，應專門查找研發資本化（R&D capitalization）以及總運算/訓練成本。

  • 監控國債收益率： 密切關注 10 年期國債收益率；一旦突破 5% 關卡，預計將對房貸和企業貸款成本產生連鎖反應。

  • 質疑主流論述： 當科技領袖警告未來的理論性災難時，請思考現在有哪些即時、具體的損害（例如數據洩漏或產品失效）被忽視了。

  • 分析實際薪資增長： 不要依賴名義薪資的增加；請減去目前的通膨率，以確定你的實際購買力是在增加還是下降。


Les figures les plus éminentes de l’intelligence artificielle utiliseraient-elles le concept de « risque existentiel » comme une stratégie marketing calculée pour s’accaparer le pouvoir réglementaire ? Cette question provocatrice est au cœur d’une critique acerbe de l’industrie de l’IA, suggérant que les avertissements viraux des chercheurs en sécurité visent moins à sauver l’humanité qu’à créer un « culte religieux » basé sur le battage médiatique. En présentant l’IA comme une force omnipotente et inconnaissable, les critiques soutiennent que des laboratoires comme OpenAI et Anthropic s’éloignent ainsi concrètement de leur responsabilité d’entreprise — notamment face aux failles de sécurité et aux « piratages criminels » — tout en se positionnant comme les seuls « intendants » qualifiés capables de réguler cette technologie.


La conversation glisse ensuite des menaces éthérées de la superintelligence vers les pressions concrètes de la macroéconomie mondiale. Le marché actuel est pris dans un étau volatile : la flambée des prix du pétrole, alimentée par les conflits au Moyen-Orient, stimule l’inflation et pousse les rendements des bons du Trésor à 10 ans vers le seuil inquiétant des 5 %. Cela crée une situation précaire pour la Réserve fédérale, qui pourrait être contrainte de relever les taux d’intérêt malgré un marché de l’emploi qui s’essouffle et une baisse du pouvoir d’achat réel pour l’Américain moyen.


L’intersection entre le battage technologique et l’instabilité économique culmine en une crise du logement aux proportions historiques. Avec des prix immobiliers dépassant désormais sept fois le revenu annuel moyen des ménages et des taux hypothécaires grimpant au-dessus de 7 %, le marché immobilier américain a atteint un sommet d’inaccessibilité. Le récit global suggère une défaillance systémique où la politique monétaire est utilisée pour combattre des « chocs d’offre » — tels que la guerre et les tarifs douaniers — qu’elle n’est pas conçue pour résoudre, laissant ainsi le public supporter le coût tant de la volatilité économique que des récits d’entreprises sans contrôle.


Perspectives surprenantes



  • Le paradoxe de la « sécurité » : Certains soutiennent que les avertissements sur la sécurité de l’IA sont en réalité une forme de « capture réglementaire », où les acteurs dominants poussent vers des réglementations complexes que seules les entreprises les plus grandes et les plus riches peuvent se permettre de suivre, tuant ainsi toute concurrence.

  • Manipulations comptables : La « rentabilité opérationnelle » rapportée par les laboratoires d’IA de pointe pourrait être trompeuse, car ces chiffres excluent souvent les coûts massifs d’entraînement, les rémunérations basées sur des actions et les paiements de partage de revenus versés aux fournisseurs de cloud.

  • Limites de la politique monétaire : Relever les taux d’intérêt pourrait être un outil inefficace contre l’inflation actuelle, car les moteurs sont des « chocs d’offre négatifs » (guerre, tarifs douaniers et politique d’immigration) plutôt qu’une économie domestique en surchauffe.

  • Le rôle des médias : Le récit entourant l’IA est décrit comme un échec du journalisme moderne, qui a privilégié le « crédit institutionnel » des PDG de la tech millionnaires plutôt que d’exiger des preuves empiriques des risques qu’ils revendiquent.


Points clés pratiques



  • Examiner les données financières « ajustées » : Lors de l’évaluation d’entreprises d’IA ou d’introductions en bourse technologiques, regardez au-delà de la « rentabilité opérationnelle ajustée » et recherchez spécifiquement la capitalisation de la R&D ainsi que les coûts totaux de calcul et d’entraînement.

  • Surveiller les rendements du Trésor : Gardez un œil attentif sur le rendement du Trésor à 10 ans ; lorsqu’il franchit la barre des 5 %, attendez-vous à un effet domino entraînant une hausse des coûts d’emprunt pour les prêts hypothécaires et les prêts aux entreprises.

  • Questionner le récit : Lorsque les leaders de la tech alertent sur des catastrophes théoriques futures, demandez-vous quels préjudices immédiats et tangibles (ex : violations de données ou défaillances de produits) sont ignorés dans le présent.

  • Analyser la croissance réelle des salaires : Ne vous fiez pas aux augmentations salariales nominales ; soustrayez le taux d’inflation actuel pour déterminer si votre pouvoir d’achat réel augmente ou diminue.


Könnten die prominentesten Köpfe der künstlichen Intelligenz das „existenzielle Risiko“ als kalkuliertes Marketinginstrument nutzen, um regulatorische Macht zu gewinnen? Diese provokante Frage bildet den Kern einer vernichtenden Kritik an der KI-Industrie. Es wird suggeriert, dass die viralen Warnungen von Sicherheitsforschern weniger dem Ziel dienen, die Menschheit zu retten, sondern vielmehr der Schaffung eines „Religionskults“ des Hypes. Indem KI als eine allmächtige, unergründliche Kraft dargestellt wird, distanzieren sich Labore wie OpenAI und Anthropic laut Kritikern effektiv von ihrer tatsächlichen unternehmerischen Verantwortung – etwa bei Sicherheitsmängeln oder „schwerwiegendem Hacking“ –, während sie sich gleichzeitig als die einzigen qualifizierten „Treuhänder“ positionieren, die in der Lage sind, die Technologie zu regulieren.


Die Diskussion verlagert sich von den ätherischen Bedrohungen einer Superintelligenz hin zu den konkreten Druckpunkten der globalen Makroökonomie. Der aktuelle Markt befindet sich in einer volatilen Zwickmühle: Steigende Ölpreise, angetrieben durch Konflikte im Nahen Osten, befeuern die Inflation und treiben die Renditen 10-jähriger US-Staatsanleihen in Richtung der besorgniserregenden 5%-Schwelle. Dies schafft eine prekäre Situation für die Federal Reserve, die gezwungen sein könnte, die Zinsen trotz eines schwächelnden Arbeitsmarktes und sinkender realer Kaufkraft des durchschnittlichen Amerikaners anzuheben.


Diese Schnittmenge aus Tech-Hype und wirtschaftlicher Instabilität gipfelt in einer Immobilienkrise historischen Ausmaßes. Da die Hauspreise mittlerweile das Siebenfache des durchschnittlichen jährlichen Haushaltseinkommens übersteigen und die Hypothekenzinsen über 7 % klettern, hat der amerikanische Wohnungsmarkt einen Höhepunkt der Unbezahlbarkeit erreicht. Das übergeordnete Narrativ deutet auf ein systemisches Versagen hin, bei dem die Geldpolitik dazu eingesetzt wird, „Angebotsschocks“ – wie Kriege und Zölle – zu bekämpfen, für die sie nicht konzipiert ist. Damit bleibt die Öffentlichkeit zurück, die Kosten sowohl der wirtschaftlichen Volatilität als auch der ungeprüften Unternehmensnarrative zu tragen.


Überraschende Erkenntnisse



  • Das „Sicherheits“-Paradoxon: Einige argumentieren, dass KI-Sicherheitswarnungen in Wahrheit eine Form von „Regulatory Capture“ (regulatorischer Vereinnahmung) sind, bei der etablierte Unternehmen komplexe Vorschriften fordern, die es sich nur die größten und reichsten Firmen leisten können einzuhalten, wodurch der Wettbewerb effektiv ausgeschaltet wird.

  • Buchhalterische Tricks: Die berichtete „operative Rentabilität“ von führenden KI-Laboren könnte irreführend sein, da diese Zahlen oft massive Trainingskosten, aktienbasierte Vergütungen und Umsatzbeteiligungen an Cloud-Anbieter ausklammern.

  • Grenzen der Geldpolitik: Die Anhebung der Zinsen könnte ein unwirksames Instrument gegen die aktuelle Inflation sein, da die Treiber „negative Angebotsschocks“ (Krieg, Zölle und Migrationspolitik) und nicht eine überhitzte Binnenwirtschaft sind.

  • Die Rolle der Medien: Das KI-Narrativ wird als Versagen des modernen Journalismus beschrieben, der dem „Credentialism“ (dem Vertrauen auf Titel und Status) wohlhabender Tech-CEOs Vorrang vor der Forderung nach empirischen Belegen für die von ihnen behaupteten Risiken eingeräumt hat.


Praktische Schlussfolgerungen



  • „Bereinigte“ Finanzzahlen prüfen: Achten Sie bei der Bewertung von KI-Unternehmen oder Tech-Börsengängen über die „bereinigte operative Rentabilität“ hinaus und suchen Sie gezielt nach der Aktivierung von F&E-Ausgaben sowie den gesamten Rechen- und Trainingskosten.

  • Staatsanleihen-Renditen beobachten: Behalten Sie die Rendite 10-jähriger US-Staatsanleihen genau im Auge; wenn sie die 5%-Marke überschreitet, ist mit einem Dominoeffekt höherer Kreditkosten für Hypotheken und Unternehmensdarlehen zu rechnen.

  • Das Narrativ hinterfragen: Wenn Tech-Führer vor zukünftigen, theoretischen Katastrophen warnen, fragen Sie, welche unmittelbaren, greifbaren Schäden (z. B. Datenschutzverletzungen oder Produktfehler) in der Gegenwart ignoriert werden.

  • Reales Lohnwachstum analysieren: Verlassen Sie sich nicht auf nominelle Lohnsteigerungen; ziehen Sie die aktuelle Inflationsrate ab, um festzustellen, ob Ihre tatsächliche Kaufkraft steigt oder sinkt.


Ed Elson is joined by Ed Zitron to give his take on the AI safety debate and explain why this story has attracted so much attention. Then, Mark Zandi returns to break down what’s driving treasury yields higher and whether or not a rate hike is the right decision. Finally, Ed shares his thoughts on the news that the average 30-year mortgage rate rose above 7% for the first time in 15 months.

Ed Zitron is the host of Better Offline and author of the newsletter Where’s Your Ed At. Mark Zandi is the Chief Economist at Moody’s Analytics. 

Subscribe to the Prof G Markets Youtube Channel 

Follow Prof G Markets on Instagram

Follow Ed on Instagram, X and Substack

Follow Scott on Instagram

Send us your questions or comments by emailing Markets@profgmedia.com

Learn more about your ad choices. Visit podcastchoices.com/adchoices

Leave a Reply

Let's Evolve Together
Logo