Summary & Insights
Why are the leaders of the most powerful AI companies begging the government to regulate them? To tech analyst Steven Sinofsky, this isn’t a selfless plea for safety, but a calculated move toward “regulatory capture.” By urging the government to set boundaries now, these companies can effectively pull the ladder up behind them, stifling open-source competition and locking in their own market dominance under the guise of public safety.
Sinofsky argues that the current rush to regulate is fundamentally backwards because the technology is still too volatile to define. He draws parallels to the early automotive and aviation industries, noting that safety features like airbags weren’t designed into the first cars because engineers were still struggling just to make the engines work. Applying the “precautionary principle”—regulating before a problem occurs—risks kneecapping innovation and constraining the solution set before we even understand the technology’s full potential.
The conversation also explores the geopolitical “innovation war” between the U.S. and China. Sinofsky suggests that governments often use “bank shots”—indirect diplomatic or economic strikes—rather than direct regulation to fight these battles. For instance, banning chips or placing tariffs on unrelated goods are common tools of statecraft. He warns that when AI labs suggest curtailing open source to “hurt China,” they are often simply asking the government to eliminate their most disruptive competitors.
Surprising Insights
- The “Backwards” Regulation Cycle: Historically, regulation follows innovation once the technology is stable enough to identify specific risks (e.g., car safety took 60 years to evolve). Regulating AI now is an inversion of this historical pattern.
- The ASI Paradox: Sinofsky points out a contradiction in AI narratives: companies claim AI is a world-ending superintelligence (ASI) requiring immediate regulation, yet the same tools frequently produce “slop,” hallucinations, and gibberish.
- Regulatory Capture as a Strategy: Unlike traditional tech companies that historically fought government interference, current AI leaders are actively inviting it to create barriers to entry for smaller, open-source rivals.
- Existing Legal Frameworks: Many of the “catastrophic” AI scenarios regulators worry about (e.g., non-consensual nudity or fraud) are already illegal under existing laws; the tool used to commit the crime doesn’t necessarily require a new law.
Practical Takeaways
- Audit Existing Laws First: Instead of creating novel “AI laws,” governments and organizations should first ensure that existing regulations (like professional licensing or consumer protection) are updated to explicitly include AI-generated outputs.
- Prioritize “Iterative” Regulation: Move away from the precautionary principle and toward a model of iterative adjustment—regulating specific harms as they emerge rather than predicting hypothetical future disasters.
- Support Open Source for Resilience: Recognize that open-source models act as a critical check against corporate monopolies and provide a more transparent foundation for academic research.
- Maintain Individual Accountability: Follow the “medical license” logic: the human using the tool remains responsible for the output. Accountability should stay with the professional practitioner, regardless of whether they used AI to assist their work.
Pourquoi les dirigeants des entreprises d’IA les plus puissantes supplient-ils le gouvernement de les réguler ? Pour l’analyste technologique Steven Sinofsky, il ne s’agit pas d’un plaidoyer désintéressé pour la sécurité, mais d’une manœuvre calculée visant la « capture réglementaire ». En exhortant le gouvernement à fixer des limites dès maintenant, ces entreprises peuvent concrètement « retirer l’échelle » derrière elles, étouffant ainsi la concurrence issue de l’open-source et verrouillant leur propre domination du marché sous couvert de sécurité publique.
Sinofsky soutient que l’empressement actuel à réguler est fondamentalement absurde, car la technologie est encore trop volatile pour être définie. Il établit des parallèles avec les débuts des industries automobile et aéronautique, notant que les dispositifs de sécurité comme les airbags n’ont pas été intégrés aux premières voitures parce que les ingénieurs luttaient encore simplement pour faire fonctionner les moteurs. Appliquer le « principe de précaution » — réguler avant qu’un problème ne survienne — risque de paralyser l’innovation et de limiter l’éventail des solutions avant même que nous ne comprenions tout le potentiel de la technologie.
La discussion explore également la « guerre de l’innovation » géopolitique entre les États-Unis et la Chine. Sinofsky suggère que les gouvernements utilisent souvent des « coups indirects » (bank shots) — des frappes diplomatiques ou économiques détournées — plutôt que une réglementation directe pour mener ces batailles. Par exemple, l’interdiction de puces électroniques ou l’imposition de tarifs douaniers sur des biens sans rapport sont des outils classiques de l’art diplomatique. Il avertit que lorsque les laboratoires d’IA suggèrent de restreindre l’open-source pour « nuire à la Chine », ils demandent souvent simplement au gouvernement d’éliminer leurs concurrents les plus disruptifs.
Perspectives Surprenantes
- Le cycle de régulation « inversé » : Historiquement, la réglementation suit l’innovation une fois que la technologie est suffisamment stable pour identifier des risques spécifiques (par exemple, la sécurité automobile a mis 60 ans à évoluer). Réguler l’IA dès maintenant est une inversion de ce schéma historique.
- Le paradoxe de l’ASI : Sinofsky souligne une contradiction dans les discours sur l’IA : les entreprises affirment que l’IA est une superintelligence (ASI) capable de provoquer la fin du monde et nécessitant une régulation immédiate, alors que ces mêmes outils produisent fréquemment du contenu médiocre (« slop »), des hallucinations et du non-sens.
- La capture réglementaire comme stratégie : Contrairement aux entreprises technologiques traditionnelles qui ont historiquement combattu l’ingérence gouvernementale, les leaders actuels de l’IA l’invitent activement afin de créer des barrières à l’entrée pour les rivaux open-source plus modestes.
- Les cadres juridiques existants : De nombreux scénarios d’IA « catastrophiques » qui inquiètent les régulateurs (ex. : la nudité non consensuelle ou la fraude) sont déjà illégaux en vertu des lois existantes ; l’outil utilisé pour commettre le crime ne nécessite pas nécessairement une nouvelle loi.
Points Clés Pratiques
- Auditer d’abord les lois existantes : Au lieu de créer de nouvelles « lois sur l’IA », les gouvernements et les organisations devraient d’abord s’assurer que les réglementations actuelles (comme les licences professionnelles ou la protection des consommateurs) sont mises à jour pour inclure explicitement les résultats générés par l’IA.
- Prioriser la régulation « itérative » : S’éloigner du principe de précaution pour adopter un modèle d’ajustement itératif — réguler les préjudices spécifiques à mesure qu’ils apparaissent plutôt que de prédire des catastrophes futures hypothétiques.
- Soutenir l’open-source pour la résilience : Reconnaître que les modèles open-source agissent comme un contre-pouvoir critique face aux monopoles d’entreprises et fournissent une base plus transparente pour la recherche universitaire.
- Maintenir la responsabilité individuelle : Suivre la logique de la « licence médicale » : l’humain utilisant l’outil reste responsable du résultat. La responsabilité doit incomber au professionnel pratiquant, qu’il ait utilisé l’IA pour l’aider dans son travail ou non.
Warum bitten die Leiter der mächtigsten KI-Unternehmen die Regierung darum, sie zu regulieren? Für den Technologieanalysten Steven Sinofsky ist dies kein uneigennütziger Appell im Sinne der Sicherheit, sondern ein kalkulierter Schritt in Richtung „Regulatory Capture“ (regulatorische Vereinnahmung). Indem diese Unternehmen die Regierung drängen, jetzt Grenzen zu setzen, ziehen sie effektiv die Leiter hinter sich hoch, ersticken den Open-Source-Wettbewerb und sichern ihre eigene Marktdominanz unter dem Vorwand der öffentlichen Sicherheit.
Sinofsky argumentiert, dass das derzeitige Bestreben zur Regulierung fundamental falsch angelegt ist, da die Technologie noch zu volatil ist, um sie präzise zu definieren. Er zieht Parallelen zur frühen Automobil- und Luftfahrtindustrie und merkt an, dass Sicherheitsmerkmale wie Airbags nicht in die ersten Autos integriert wurden, weil die Ingenieure damals noch damit beschäftigt waren, die Motoren überhaupt zum Laufen zu bringen. Die Anwendung des „Vorsorgeprinzips“ – die Regulierung, bevor ein Problem auftritt – birgt das Risiko, Innovationen im Keim zu ersticken und den Lösungsraum einzuschränken, noch bevor wir das volle Potenzial der Technologie überhaupt verstehen.
Das Gespräch befasst sich zudem mit dem geopolitischen „Innovationskrieg“ zwischen den USA und China. Sinofsky legt nahe, dass Regierungen oft „Bank Shots“ – indirekte diplomatische oder wirtschaftliche Schläge – anstelle einer direkten Regulierung nutzen, um diese Kämpfe auszufechten. Beispielsweise sind Chip-Verbote oder Zölle auf nicht verwandte Waren gängige Instrumente der Staatskunst. Er warnt davor, dass KI-Labore, wenn sie eine Einschränkung von Open Source vorschlagen, um „China zu schaden“, oft schlichtweg die Regierung bitten, ihre disruptivsten Konkurrenten auszuschalten.
Überraschende Erkenntnisse
- Der „umgekehrte“ Regulierungszyklus: Historisch folgt die Regulierung der Innovation, sobald die Technologie stabil genug ist, um spezifische Risiken zu identifizieren (z. B. dauerte es 60 Jahre, bis sich die Autosicherheit entwickelte). Die Regulierung von KI zum jetzigen Zeitpunkt ist eine Umkehrung dieses historischen Musters.
- Das ASI-Paradoxon: Sinofsky weist auf einen Widerspruch in den KI-Narrativen hin: Unternehmen behaupten, KI sei eine weltuntergangsbringende Superintelligenz (ASI), die eine sofortige Regulierung erfordert, während dieselben Tools häufig „Slop“ (KI-Müll), Halluzinationen und Kauderwelsch produzieren.
- Regulatory Capture als Strategie: Im Gegensatz zu traditionellen Tech-Unternehmen, die staatliche Eingriffe historisch bekämpften, laden aktuelle KI-Führer diese aktiv ein, um Markteintrittsbarrieren für kleinere Open-Source-Rivalen zu schaffen.
- Bestehende rechtliche Rahmenbedingungen: Viele der „katastrophalen“ KI-Szenarien, über die Regulierungsbehörden besorgt sind (z. B. nicht einvernehmliche Nacktbilder oder Betrug), sind bereits nach geltendem Recht illegal; das zur Begehung des Verbrechens genutzte Werkzeug erfordert nicht zwingend ein neues Gesetz.
Praktische Schlussfolgerungen
- Zuerst bestehende Gesetze prüfen: Anstatt neuartige „KI-Gesetze“ zu schaffen, sollten Regierungen und Organisationen zunächst sicherstellen, dass bestehende Vorschriften (wie Berufszulassungen oder Verbraucherschutz) aktualisiert werden, um KI-generierte Ergebnisse explizit einzubeziehen.
- „Iterative“ Regulierung priorisieren: Weg vom Vorsorgeprinzip und hin zu einem Modell der iterativen Anpassung – die Regulierung spezifischer Schäden, sobald diese auftreten, anstatt hypothetische zukünftige Katastrophen vorherzusagen.
- Open Source für Resilienz unterstützen: Erkennen, dass Open-Source-Modelle eine kritische Kontrolle gegenüber Unternehmensmonopolen darstellen und eine transparentere Grundlage für die akademische Forschung bieten.
- Individuelle Verantwortlichkeit beibehalten: Der Logik der „ärztlichen Zulassung“ folgen: Der Mensch, der das Werkzeug nutzt, bleibt für das Ergebnis verantwortlich. Die Rechenschaftspflicht sollte bei dem professionellen Anwender bleiben, unabhängig davon, ob er KI zur Unterstützung seiner Arbeit eingesetzt hat.
Steven Sinofsky joins Theo Jaffee and Sofia Puccini for a conversation on AI regulation, open-source models, and what history can teach us about technological revolutions. Drawing on decades of experience leading products at Microsoft, Sinofsky argues that governments are rushing to regulate AI before they fully understand the technology, risking innovation in the process.
They discuss the “precautionary principle,” why open source has historically accelerated innovation, the role of regulation in emerging technologies, the AI competition between the U.S. and China, and why existing laws may already address many of the risks people attribute to AI.
Resources:
Follow Steven Sinofsky on X: https://x.com/stevesi
Follow Theo Jaffee on X: https://x.com/theojaffee
Follow Sofia Puccini on X: https://x.com/schisofrenia
Stay Updated:
Find a16z on YouTube: YouTube
Find a16z on X
Find a16z on LinkedIn
Listen to the a16z Show on Spotify
Listen to the a16z Show on Apple Podcasts
Follow our host: https://twitter.com/eriktorenberg
Please note that the content here is for informational purposes only; should NOT be taken as legal, business, tax, or investment advice or be used to evaluate any investment or security; and is not directed at any investors or potential investors in any a16z fund. a16z and its affiliates may maintain investments in the companies discussed. For more details please see a16z.com/disclosures.
Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.
