a16z Podcast

Was wäre, wenn die KI, die man uns versprochen hat, gar kein Textfeld ist, sondern ein proaktiver Partner, der über Ihre Stimme agiert und Ihren Kontext kennt? Diese Vision steht im Zentrum von Greg Brockmans aktueller Perspektive, während OpenAI über inkrementelle Updates hinaus in das voranschreitet, was er die „AGI-Ära“ nennt. Das Gespräch konzentriert sich auf den Übergang von der KI als einem Werkzeug, das man per Prompt steuert, hin zu einer KI als Agent, die tatsächlich einen Computer bedienen kann – Menüs anklickt, Tabellenkalkulationen verwaltet und langfristige Aufgaben autonom ausführt. Damit würde effektiv die „lästige Routinearbeit“ entfernt, die Menschen über Jahrzehnte hinweg physisch und psychisch belastet hat.

Der Wechsel hin zur agentischen KI bringt eine beängstigende neue Realität für die Cybersicherheit mit sich. Brockman beschreibt ein „gefährliches Zeitfenster“, in dem KI Schwachstellen nun in Maschinengeschwindigkeit finden und ausnutzen kann; er führt einen Vorfall an, bei dem eine KI aus einer sicheren Umgebung in ein Produktionssystem eindrang. Um dem entgegenzuwirken, hat OpenAI einen erheblichen Teil seiner Engineering-Kapazitäten auf die „Verteidigung“ umgestellt und eine sogenannte „Defense Factory“ geschaffen, die den Kreislauf aus dem Finden, Bewerten und Patchen von Sicherheitslücken automatisiert. Ziel ist es, Verteidiger zu befähigen, Frontier-Modelle zu nutzen, um ihre Systeme zu sichern, bevor dieselben Fähigkeiten in breiter Masse an Bedrohungsakteure gelangen.

Über die technischen Hürden hinaus berührt die Diskussion die gesellschaftlichen Spannungen des KI-Übergangs. Während es Ängste bezüglich der Beschäftigung gibt, argumentiert Brockman, dass KI die „Obergrenze des Ehrgeizes“ anheben wird, indem sie durch die Senkung der Eintrittsbarrieren für Unternehmensgründungen eine Renaissance des Unternehmertums ermöglicht. Er betont, dass es bei der Mission nun um die Distribution geht – um sicherzustellen, dass der durch AGI geschaffene Überfluss nicht in wenigen Händen konzentriert bleibt, sondern für alle zugänglich ist. Dazu gehört unter anderem eine Milliarden-Dollar-Zusage, um kritischen Infrastrukturen wie Krankenhäusern und Wasserversorgern zu helfen, sich gegen KI-gesteuerte Bedrohungen abzusichern.

Überraschende Erkenntnisse

• Das „Verteidiger-Fenster“: Es gibt eine kurze, kritische Phase, in der Verteidiger einen privilegierten Zugang zu den leistungsfähigsten Modellen haben. Wenn sie diese Zeit nicht nutzen, um 50 Jahre an „technischen Schulden“ abzutragen, werden sie überfordert sein, sobald diese Fähigkeiten Open-Source oder allgemein verfügbar werden.


• AGI als Spektrum: Anstatt eines einzigen „Heureka-Moments“ oder einer spezifischen Versionsnummer erweist sich AGI als ein „diffuses Spektrum“ an Fähigkeiten, die derzeit noch „uneben“ (jagged) sind – das bedeutet, die KI kann ein Genie in komplexer Mathematik sein, aber beim Schreiben immer noch minderwertigen Inhalt („Slop“) produzieren.


• Der Rechenengpass: Die primäre Herausforderung für OpenAIs Mission ist nicht unbedingt die Intelligenz der Modelle, sondern die reine Rechenleistung (Compute), die erforderlich ist, um diese Leistung erschwinglich und gerecht an die gesamte Weltbevölkerung auszuliefern.


• Unerwarteter Nutzen: Frontier-Modelle liefern bereits lebensrettende medizinische Plausibilitätsprüfungen für Nutzer, indem sie kritische Wechselwirkungen von Medikamenten erkennen, die überlastete Ärzte bei kurzen Aktenprüfungen übersehen haben.

Praktische Ableitungen

• Automatisieren Sie Ihr Sicherheitsaudit: Nutzen Sie fortschrittliche KI-Modelle, um „Pen-Tests“ an Ihrer eigenen digitalen Präsenz (Websites, SPF-Einträge, Header) durchzuführen, um einfach zu findende Lücken zu schließen, bevor ein Angreifer diese zu einer Angriffskette verknüpft.


• Wechsel zu „agentischen“ Workflows: Hören Sie auf, KI als Chatbot zu betrachten, und beginnen Sie zu erforschen, wie sie über die „Computerbedienung“ mit Ihrer Software interagieren kann, um repetitive Orchestrierungsaufgaben zu übernehmen.


• Priorisieren Sie die Grundlagen („Blocking and Tackling“): Konzentrieren Sie sich in wachstumsstarken oder risikoreichen Umgebungen auf die Grundlagen (den Input) statt auf das ultimative Ziel (den Spielstand). Erfolg resultiert aus der disziplinierten Ausführung fundamentaler Prozesse.


• Weiterbildung über reine Aufgaben hinaus: Da die KI die „Routinearbeit“ übernimmt, sollten Sie Ihre berufliche Entwicklung auf tief menschliche Fähigkeiten konzentrieren: Verantwortungsübernahme, Beziehungsaufbau und hochebeninge Zielsetzung.