a16z Podcast

Die Vorstellung, Technologien wie KI aufgrund potenzieller Risiken einzuschränken, ist vergleichbar mit dem Fesseln aller Hände, weil einige Personen andere schlagen könnten – dies schränkt den Nutzen und Fortschritt ein, den diese Technologien bringen können. Diese Analogie verdeutlicht das empfindliche Gleichgewicht zwischen der Minderung von Risiken und der Förderung von Innovationen. Die Diskussion dreht sich um die Bedeutung von Open-Source-KI, ihren aktuellen Stand und ihre Auswirkungen auf die Zukunft, insbesondere mit dem Aufstieg der Robotik. Clem DeLong, CEO von Hugging Face, einer Plattform, die zu einem zentralen Hub für Open-Source-KI-Modelle geworden ist, teilt seine Erkenntnisse zu diesen Themen.

Die Diskussion berührt darauf, wie die USA ursprünglich die Führung bei Open-Source-KI innehatten, aber seitdem einen Wechsel hin zu geschlossenen Modellen erlebt haben, während China zu einem bedeutenden Mitwirkenden an Open-Source-KI geworden ist. DeLong äußert seine Bedenken hinsichtlich der aktuellen Investitionsblase bei großen Sprachmodellen (LLMs) und deutet an, dass, obwohl KI als Feld nicht in einer Blase ist, LLMs, die hinter geschlossenen APIs verteilt werden, möglicherweise überinvestiert sind. Er befürwortet Open-Source-KI und argumentiert, dass sie nicht nur Innovationen und Wettbewerb fördert, sondern auch die Sicherheit durch die Verteilung von Fähigkeiten und die Ermöglichung einer breiteren Überprüfung und Entwicklung von Schutzmaßnahmen erhöht.

Die Sicherheitsbedenken hinsichtlich KI-Modellen wie Claude Mythos, die bei Cyberangriffen helfen können, werden diskutiert. DeLong glaubt, dass die Veröffentlichung von Modellen als Open-Source sicherer ist, da sie es allen ermöglicht, sowohl die Systeme als auch ihre Schutzmaßnahmen zu entwickeln, wodurch kein Ungleichgewicht zwischen Angreifern und Verteidigern entsteht. Er berührt auch die Zukunft der Robotik, in der KI von Bildschirmen in die physische Welt wechselt, und hebt Hugging Faces Initiative mit LeRobot hervor. Die Rolle von Open-Source in der Robotik wird als entscheidend für die Ermöglichung neuer Anwendungsfälle und Kooperationen angesehen.

Überraschende Erkenntnisse

• China ist zu einem der größten Mitwirkenden an Open-Source-KI geworden, entgegen dem Trend in den USA hin zu mehr geschlossenen Modellen.


• Das Datenvolumen, das von Hugging Face verarbeitet wird, ist deutlich größer als das von GitHub, mit zwei Petabyte an Daten, die in nur einer Woche hinzugefügt wurden, was 500.000 zweistündigen Filmen entspricht.


• Die Diskussion deutet darauf hin, dass die USA und China wahrscheinlich eine bedeutende Komponente von Wettbewerb und Zusammenarbeit im Bereich der Robotik haben werden.

Praktische Erkenntnisse

• Die Förderung von Open-Source-KI kann zu mehr Innovationen, besserer Sicherheit und einem ausgeglicheneren Spielfeld führen.


• Die Regulierung sollte sich auf die Bekämpfung von schlechten Akteuren konzentrieren, anstatt den Zugang zur Technologie für alle einzuschränken.


• Die Entwicklung der Robotik wird ein wichtiger Bereich sein, den man im Auge behalten sollte, wobei Open-Source wahrscheinlich eine bedeutende Rolle bei ihrer Weiterentwicklung spielen wird.