Is AI a Bubble? | Gavin Baker on Data Centers, GPUs, and the AI Economy

Summary & Insights

Can we judge the current AI boom by comparing it to the dot-com crash of 2000? Gavin Baker, CIO of Atreides Management, argues that the two eras are fundamentally different. While the year 2000 was defined by “dark fiber”—massive amounts of physical infrastructure that sat unused—today’s landscape has “no dark GPUs.” Every chip being produced is being pushed to its limit, often to the point of melting, because the demand for compute is real and immediate.

The conversation explores the strategic “arms race” among the tech giants, where the stakes are existential. For companies like Google and Meta, the massive capital expenditure on data centers isn’t just a bet on a new product; it’s a survival tactic. Baker suggests that for these incumbents, the risk of bankruptcy is preferable to the risk of losing the AI race. This intensity has shifted the focus toward a battle between NVIDIA and Google’s TPU (Tensor Processing Unit), with NVIDIA evolving from a mere chipmaker into a full-stack systems and data-center architect.

Looking toward the application layer, there is a provocative shift in how software companies must view their margins. In the traditional SaaS model, high gross margins were the gold standard. However, in the AI era, high margins may actually be a “badge of shame,” signaling that a company’s AI features aren’t actually being used. Baker argues that successful AI integration will inevitably lead to lower gross margins due to the high cost of compute, and companies that fear this dip—rather than embracing it as a mark of adoption—risk becoming the next IBM.

Surprising Insights

The Margin Paradox: While investors usually crave high gross margins, in AI, low gross margins can be a positive indicator that customers are actually utilizing the compute-heavy AI features of a product.
Sustaining vs. Disruptive Innovation: AI may not be a disruptive force that kills the “Mag 7” (big tech) but rather a sustaining innovation, as these companies already possess the three critical ingredients: data, compute, and distribution.
The “Dark Fiber” Contrast: The 2000 bubble was a failure of utilization (97% of fiber was unlit), whereas the current AI boom is characterized by a total lack of idle capacity.
Reasoning as a Flywheel: The advent of “reasoning” in models changes the economics for frontier labs; having a large user base now allows for a reinforcement learning (RL) flywheel that makes the product better as more people use it.

Practical Takeaways

Prioritize Outcome-Based Pricing: Move away from seat-based SaaS pricing toward pricing based on the resolution of a task or specific outcomes, as this aligns better with AI’s ability to replace or augment labor.
Embrace Margin Pressure: If you are a software founder, don’t let the fear of declining gross margins stop you from aggressively distributing AI tools. Use existing profitable business lines to subsidize the “break-even” rollout of new AI features to gain a competitive head start.
Focus on Distribution: Recognize that the “moat” in AI is shifting from the model itself to the distribution network and the unique data loops created by a large user base.
Prepare for Humanoid Robotics: Monitor the intersection of YouTube-style observational learning and humanoid hardware (like Tesla’s Optimus), as the ability for robots to learn from human video is accelerating the timeline for physical AI.

Peut-on juger le boom actuel de l’IA en le comparant au krach dot-com de 2000 ? Gavin Baker, CIO d’Atreides Management, soutient que ces deux époques sont fondamentalement différentes. Alors que l’année 2000 a été marquée par la « fibre noire » — des quantités massives d’infrastructures physiques restées inutilisées — le paysage actuel ne connaît « aucun GPU noir ». Chaque puce produite est poussée à ses limites, parfois jusqu’à la fusion, car la demande de puissance de calcul est réelle et immédiate.

La conversation explore la « course aux armements » stratégique entre les géants de la technologie, où les enjeux sont existentiels. Pour des entreprises comme Google et Meta, les dépenses massives en capital consacrées aux centres de données ne sont pas simplement un pari sur un nouveau produit, mais une tactique de survie. Baker suggère que pour ces acteurs historiques, le risque de faillite est préférable au risque de perdre la course à l’IA. Cette intensité a déplacé le centre d’attention vers une bataille entre NVIDIA et le TPU (Tensor Processing Unit) de Google, NVIDIA évoluant ainsi d’un simple fabricant de puces vers un architecte complet de systèmes et de centres de données.

S’agissant de la couche applicative, on observe un changement provocateur dans la manière dont les entreprises de logiciels doivent percevoir leurs marges. Dans le modèle SaaS traditionnel, des marges brutes élevées étaient la norme d’excellence. Cependant, à l’ère de l’IA, des marges élevées pourraient en réalité être un « badge de honte », signalant que les fonctionnalités d’IA d’une entreprise ne sont pas réellement utilisées. Baker affirme qu’une intégration réussie de l’IA entraînera inévitablement une baisse des marges brutes en raison du coût élevé du calcul, et que les entreprises qui craignent cette baisse — plutôt que de l’accepter comme un signe d’adoption — risquent de devenir le prochain IBM.

Perspectives surprenantes

Le paradoxe de la marge : Alors que les investisseurs recherchent généralement des marges brutes élevées, dans l’IA, des marges brutes faibles peuvent être un indicateur positif montrant que les clients utilisent réellement les fonctionnalités d’IA gourmandes en ressources d’un produit.

Innovation continue vs disruptive : L’IA n’est peut-être pas une force disruptive capable de anéantir les « Mag 7 » (les géants de la tech), mais plutôt une innovation continue, car ces entreprises possèdent déjà les trois ingrédients critiques : les données, la puissance de calcul et la distribution.

Le contraste de la « fibre noire » : La bulle de 2000 était un échec d’utilisation (97 % de la fibre n’était pas allumée), tandis que le boom actuel de l’IA se caractérise par une absence totale de capacité inactive.

Le raisonnement comme volant d’inertie (flywheel) : L’avènement du « raisonnement » dans les modèles modifie l’économie des laboratoires de pointe ; disposer d’une large base d’utilisateurs permet désormais de créer un cercle vertueux d’apprentissage par renforcement (RL) qui améliore le produit à mesure que le nombre d’utilisateurs augmente.

enseignements pratiques

Prioriser la tarification basée sur les résultats : S’éloigner de la tarification SaaS basée sur le nombre d’utilisateurs pour s’orienter vers une tarification basée sur la résolution d’une tâche ou des résultats spécifiques, car cela s’aligne mieux avec la capacité de l’IA à remplacer ou à augmenter le travail humain.

Accepter la pression sur les marges : Si vous êtes fondateur d’un logiciel, ne laissez pas la peur de la baisse des marges brutes vous empêcher de distribuer agressivement vos outils d’IA. Utilisez vos lignes d’activité rentables pour subventionner le déploiement « à l’équilibre » de nouvelles fonctionnalités d’IA afin de prendre une avance concurrentielle.

Se concentrer sur la distribution : Reconnaître que le « fossé défensif » (moat) de l’IA se déplace du modèle lui-même vers le réseau de distribution et les boucles de données uniques créées par une vaste base d’utilisateurs.

Se préparer à la robotique humanoïde : Surveiller l’intersection entre l’apprentissage observationnel (de type YouTube) et le matériel humanoïde (comme Optimus de Tesla), car la capacité des robots à apprendre à partir de vidéos humaines accélère le calendrier de l’IA physique.

Können wir den aktuellen KI-Boom beurteilen, indem wir ihn mit dem Dotcom-Crash des Jahres 2000 vergleichen? Gavin Baker, CIO von Atreides Management, argumentiert, dass sich die beiden Epochen grundlegend unterscheiden. Während das Jahr 2000 durch „Dark Fiber“ definiert war – massive Mengen an physischer Infrastruktur, die ungenutzt blieb –, gibt es in der heutigen Landschaft „keine Dark GPUs“. Jeder produzierte Chip wird bis an seine Grenzen getrieben, oft bis zum Schmelzpunkt, da die Nachfrage nach Rechenleistung real und unmittelbar ist.

Das Gespräch beleuchtet das strategische „Wettrüsten“ der Tech-Giganten, bei dem es um existenzielle Fragen geht. Für Unternehmen wie Google und Meta sind die massiven Investitionen in Rechenzentren nicht bloß eine Wette auf ein neues Produkt, sondern eine Überlebensstrategie. Baker legt nahe, dass für diese etablierten Unternehmen das Risiko eines Bankrotts vorzuziehen ist gegenüber dem Risiko, das KI-Rennen zu verlieren. Diese Intensität hat den Fokus auf einen Kampf zwischen NVIDIA und Googles TPU (Tensor Processing Unit) verschoben, wobei sich NVIDIA von einem reinen Chiphersteller zu einem Full-Stack-System- und Rechenzentrumsarchitekten entwickelt hat.

Betrachtet man die Anwendungsebene, ergibt sich eine provokante Verschiebung in der Art und Weise, wie Softwareunternehmen ihre Margen betrachten müssen. Im traditionellen SaaS-Modell waren hohe Bruttomargen der Goldstandard. In der KI-Ära könnten hohe Margen jedoch ein „Schandfleck“ sein, da sie signalisieren, dass die KI-Funktionen eines Unternehmens tatsächlich nicht genutzt werden. Baker argumentiert, dass eine erfolgreiche KI-Integration aufgrund der hohen Rechenkosten zwangsläufig zu niedrigeren Bruttomargen führen wird. Unternehmen, die diesen Rückgang fürchten, anstatt ihn als Zeichen für die Akzeptanz zu begrüßen, riskieren, das nächste IBM zu werden.

Überraschende Erkenntnisse

Das Margen-Paradoxon: Während Investoren normalerweise hohe Bruttomargen anstreben, können im Bereich KI niedrige Bruttomargen ein positives Indiz dafür sein, dass Kunden die rechenintensiven KI-Funktionen eines Produkts tatsächlich nutzen.

Erhaltende vs. disruptive Innovation: KI ist möglicherweise keine disruptive Kraft, die die „Mag 7“ (die Big Techs) vernichtet, sondern eher eine erhaltende Innovation, da diese Unternehmen bereits über die drei kritischen Zutaten verfügen: Daten, Rechenleistung und Vertriebskanäle.

Der Kontrast zu „Dark Fiber“: Die Blase von 2000 war ein Versagen der Auslastung (97 % der Glasfasern waren nicht geschaltet), während der aktuelle KI-Boom durch einen völligen Mangel an Idle-Kapazitäten gekennzeichnet ist.

Reasoning als Flywheel: Die Einführung von „Reasoning“ (schlussfolgerndem Denken) in Modellen verändert die Ökonomie für Frontier Labs; eine große Nutzerbasis ermöglicht nun einen Reinforcement Learning (RL) Flywheel-Effekt, der das Produkt mit zunehmender Nutzerzahl kontinuierlich verbessert.

Praktische Erkenntnisse

Ergebnisbasierte Preisgestaltung priorisieren: Weg von der benutzerbasierten SaaS-Preisgestaltung hin zu einer Preisgestaltung, die sich an der Lösung einer Aufgabe oder spezifischen Ergebnissen orientiert, da dies besser mit der Fähigkeit der KI korrespondiert, Arbeit zu ersetzen oder zu ergänzen.

Margendruck akzeptieren: Wenn Sie Software-Gründer sind, lassen Sie sich nicht von der Angst vor sinkenden Bruttomargen davon abhalten, KI-Tools aggressiv zu vertreiben. Nutzen Sie bestehende profitable Geschäftsbereiche, um den „Break-Even“-Rollout neuer KI-Funktionen zu subventionieren und sich einen Wettbewerbsvorsprung zu sichern.

Fokus auf Distribution: Erkennen Sie, dass sich der „Burggraben“ (Moat) bei KI vom Modell selbst hin zum Vertriebsnetzwerk und den einzigartigen Daten-Loops verschiebt, die durch eine große Nutzerbasis entstehen.

Auf humanoide Robotik vorbereiten: Beobachten Sie die Schnittstelle zwischen beobachtendem Lernen im YouTube-Stil und humanoider Hardware (wie Teslas Optimus), da die Fähigkeit von Robotern, aus menschlichen Videos zu lernen, den Zeitplan für physische KI beschleunigt.

As part of our summer replay series, we’re revisiting one of the standout conversations from Runtime, a16z’s conference on AI infrastructure and the future of computing.

Gavin Baker, Managing Partner and CIO of Atreides Management, joins David George to examine the biggest questions surrounding today’s AI investment cycle. Is AI a bubble? What does the unprecedented buildout of data centers, GPUs, and compute infrastructure mean for the economy? And how should investors think about the companies building the next generation of AI?

The conversation explores frontier models, Nvidia, Google, custom silicon, AI infrastructure, application software, robotics, and why Baker believes today’s AI investment cycle looks fundamentally different from the internet bubble of the early 2000s. Along the way, they discuss the economics of GPUs, enterprise software, AI business models, and what comes next as AI moves from experimentation into the broader economy.

Resources:

Follow Gavin Baker on X: https://x.com/GavinSBaker

Follow Atreides Management on X: https://x.com/atreidesmgmt

Follow David George on X: https://x.com/DavidGeorge83

Stay Updated:

Find a16z on YouTube: YouTube

Find a16z on X

Find a16z on LinkedIn

Listen to the a16z Show on Spotify

Listen to the a16z Show on Apple Podcasts

Follow our host: https://twitter.com/eriktorenberg

Please note that the content here is for informational purposes only; should NOT be taken as legal, business, tax, or investment advice or be used to evaluate any investment or security; and is not directed at any investors or potential investors in any a16z fund. a16z and its affiliates may maintain investments in the companies discussed. For more details please see a16z.com/disclosures.

Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.