Learning from Open Source Communities

Summary & Insights

If you provide a product of value, capitalism will find a way to make the supply chain work for you. This fundamental belief drives the current explosion of open-weight AI models, which are rapidly eroding the “moats” previously enjoyed by elite frontier labs. As models like Kimi K3 and Qwen enter the scene, the industry is shifting from a landscape dominated by a few closed-door giants to a diverse ecosystem where high-level intelligence is becoming a commodity.

Sriram Krishnan, a former White House AI policy advisor, argues that this democratization puts immense pricing pressure on frontier labs like OpenAI and Anthropic. While these labs will likely continue to push the absolute ceiling of AI capabilities, the “frontier minus one” tasks—such as managing calendars or scanning emails—will increasingly be handled by cheaper, open-weight alternatives. This shift benefits “neoclouds” and GPU providers, as the economic value moves away from the model creators and toward the infrastructure that hosts and optimizes these models.

The conversation also touches on the geopolitical tension inherent in this shift, specifically the rise of powerful Chinese models. Krishnan points out a strange paradox: Western developers are sometimes forced to use Chinese models for security work because American models have stricter safety refusals and safeguards. While he advocates for the inherent security of open-source—citing Linus’s Law that “given enough eyes, all bugs are shallow”—he emphasizes the importance of ensuring American and allied defenders have access to the most capable tools to protect their own codebases from AI-driven exploits.

Surprising Insights

The Security Paradox: Some cybersecurity professionals are opting for Chinese open-weight models over American closed models because the latter’s safety guardrails prevent them from performing essential security analysis.
Distillation as a Standard: Distillation isn’t just a shortcut; it’s a core part of how almost all modern models are trained, as they essentially “distill” the sum of human knowledge from the internet.
Uneven Legal Playing Fields: Chinese models can freely train on American reasoning traces, while American startups often face legal ambiguity and “terms of service” hurdles when attempting to do the same.
Commoditization of Intelligence: The real value for frontier labs may no longer be the “intelligence” (the model itself) but the “harness” (the user interface and sticky product integration).

Practical Takeaways

Diversify Model Usage: For businesses and developers, avoid relying on a single frontier model. Use “frontier-minus-one” open-weight models for routine agentic tasks to reduce costs and avoid vendor lock-in.
Leverage Open Weights for Privacy: For organizations with strict data requirements (like banks), prioritize open-weight models that can be run entirely in-house to maintain full control over sensitive data.
Adopt AI for Defense: To counter the rise of AI-generated cyber threats and exploits, implement AI-driven scanning tools to proactively identify vulnerabilities in your own codebase.
Focus on Product “Stickiness”: If you are building in the AI space, focus on the user experience and the specific workflow (the harness) rather than trying to out-train the largest labs on raw intelligence.

Nếu bạn cung cấp một sản phẩm có giá trị, chủ nghĩa tư bản sẽ tìm cách khiến chuỗi cung ứng vận hành vì bạn. Niềm tin cơ bản này đang thúc đẩy sự bùng nổ hiện nay của các mô hình AI trọng số mở (open-weight), vốn đang nhanh chóng xóa bỏ những “con hào” (lợi thế cạnh tranh) mà các phòng thí nghiệm tiên phong (frontier labs) tinh hoa từng sở hữu. Khi các mô hình như Kimi K3 và Qwen xuất hiện, ngành công nghiệp này đang chuyển dịch từ một cục diện bị chi phối bởi một vài gã khổng lồ đóng cửa sang một hệ sinh thái đa dạng, nơi trí tuệ cấp cao đang dần trở thành một loại hàng hóa phổ biến.

Sriram Krishnan, cựu cố vấn chính sách AI của Nhà Trắng, lập luận rằng sự dân chủ hóa này gây áp lực cực lớn về giá đối với các phòng thí nghiệm tiên phong như OpenAI và Anthropic. Trong khi các phòng thí nghiệm này có thể sẽ tiếp tục đẩy mức trần khả năng của AI lên cao nhất, thì các tác vụ “tiên phong trừ một” (frontier minus one)—chẳng hạn như quản lý lịch trình hoặc quét email—sẽ ngày càng được xử lý bởi các lựa chọn thay thế trọng số mở rẻ hơn. Sự chuyển dịch này có lợi cho các “neocloud” (đám mây thế hệ mới) và các nhà cung cấp GPU, vì giá trị kinh tế đang chuyển từ những người tạo ra mô hình sang cơ sở hạ tầng lưu trữ và tối ưu hóa các mô hình đó.

Cuộc thảo luận cũng đề cập đến những căng thẳng địa chính trị tiềm ẩn trong sự chuyển dịch này, cụ thể là sự trỗi dậy của các mô hình Trung Quốc mạnh mẽ. Krishnan chỉ ra một nghịch lý kỳ lạ: các nhà phát triển phương Tây đôi khi buộc phải sử dụng mô hình Trung Quốc cho công việc bảo mật vì các mô hình Mỹ có các biện pháp bảo vệ và từ chối an toàn nghiêm ngặt hơn. Dù ông ủng hộ tính bảo mật nội tại của mã nguồn mở—trích dẫn Định luật Linus rằng “nếu có đủ mắt nhìn vào, mọi lỗi đều trở nên nông”—ông vẫn nhấn mạnh tầm quan trọng của việc đảm bảo các nhà phòng thủ Mỹ và đồng minh có quyền truy cập vào những công cụ năng lực nhất để bảo vệ mã nguồn của chính họ trước các cuộc tấn công khai thác do AI điều khiển.

Những góc nhìn bất ngờ

Nghịch lý bảo mật: Một số chuyên gia an ninh mạng đang chọn các mô hình trọng số mở của Trung Quốc thay vì các mô hình đóng của Mỹ, vì các rào chắn an toàn của mô hình Mỹ ngăn cản họ thực hiện các phân tích bảo mật thiết yếu.

Chưng cất (Distillation) như một tiêu chuẩn: Chưng cất không chỉ là một con đường tắt; đó là một phần cốt lõi trong cách hầu hết các mô hình hiện đại được huấn luyện, vì về cơ bản chúng “chưng cất” tổng hợp kiến thức nhân loại từ internet.

Sân chơi pháp lý không bình đẳng: Các mô hình Trung Quốc có thể tự do huấn luyện trên các dấu vết suy luận (reasoning traces) của Mỹ, trong khi các startup Mỹ thường đối mặt với sự mơ hồ về pháp lý và những rào cản về “điều khoản dịch vụ” khi cố gắng làm điều tương tự.

Hàng hóa hóa trí tuệ: Giá trị thực sự đối với các phòng thí nghiệm tiên phong có thể không còn nằm ở “trí tuệ” (bản thân mô hình) mà nằm ở “bộ khung” (giao diện người dùng và sự tích hợp sản phẩm tạo sự gắn kết).

Bài học thực tiễn

Đa dạng hóa việc sử dụng mô hình: Đối với các doanh nghiệp và nhà phát triển, hãy tránh phụ thuộc vào một mô hình tiên phong duy nhất. Hãy sử dụng các mô hình trọng số mở “tiên phong trừ một” cho các tác vụ agentic thông thường để giảm chi phí và tránh bị ràng buộc bởi một nhà cung cấp (vendor lock-in).

Tận dụng trọng số mở để bảo mật quyền riêng tư: Đối với các tổ chức có yêu cầu khắt khe về dữ liệu (như ngân hàng), hãy ưu tiên các mô hình trọng số mở có thể chạy hoàn toàn nội bộ để duy trì quyền kiểm soát tuyệt đối đối với dữ liệu nhạy cảm.

Áp dụng AI cho phòng thủ: Để chống lại sự gia tăng của các mối đe dọa và khai thác mạng do AI tạo ra, hãy triển khai các công cụ quét điều khiển bằng AI để chủ động xác định các lỗ hổng trong mã nguồn của chính bạn.

Tập trung vào “độ gắn kết” của sản phẩm: Nếu bạn đang xây dựng trong lĩnh vực AI, hãy tập trung vào trải nghiệm người dùng và quy trình làm việc cụ thể (bộ khung) thay vì cố gắng chạy đua huấn luyện về trí tuệ thô với các phòng thí nghiệm lớn nhất.

如果你能提供具有價值的產品，資本主義自會找到讓供應鏈為你服務的方法。這一根本信念正推動著當前開源權重（open-weight）AI 模型的爆發式成長，而這些模型正在迅速侵蝕頂尖前沿實驗室（frontier labs）此前所享有的「護城河」。隨著 Kimi K3 和 Qwen 等模型的出現，產業格局正從少數封閉巨頭主導，轉向一個高階智能逐漸商品化的多元生態系統。

前白宮 AI 政策顧問 Sriram Krishnan 指出，這種民主化趨勢給 OpenAI 和 Anthropic 等前沿實驗室帶來了巨大的定價壓力。雖然這些實驗室可能會繼續推高 AI 能力的絕對上限，但許多「次頂尖」（frontier minus one）的任務——例如管理行事曆或掃描郵件——將越來越多地由成本更低、權重開放的替代方案來處理。這種轉移使「新雲端」（neoclouds）和 GPU 供應商受益，因為經濟價值正從模型創造者轉向託管並優化這些模型的基础設施。

討論還觸及了此轉型中潛在的地緣政治緊張局勢，特別是強大的中國模型的崛起。Krishnan 指出了一個奇怪的悖論：西方開發者有時被迫使用中國模型來進行安全工作，因為美國模型的安全拒絕機制和防護措施更為嚴格。雖然他主張開源具備內在的安全性——引用了林納斯定律（Linus’s Law）：「只要有足夠的人參與，所有 Bug 都變得顯而易見」——但他同時強調，必須確保美國及其盟友的防禦者能使用最強大的工具，以保護其程式碼庫免受 AI 驅動的漏洞攻擊。

驚人之見

安全悖論： 一些網路安全專業人士選擇中國的開源權重模型而非美國的封閉模型，因為後者的安全護欄限制了他們執行必要的安全性分析。

蒸餾（Distillation）已成標準： 蒸餾不僅是一種快捷方式，更是幾乎所有現代模型訓練的核心部分，因為它們在本質上就是從網路中「蒸餾」人類知識的總和。

不公平的法律環境： 中國模型可以自由地使用美國的推理軌跡（reasoning traces）進行訓練，而美國新創公司在嘗試這樣做時，往往面臨法律上的模糊地帶以及「服務條款」的阻礙。

智能商品化： 對前沿實驗室而言，真正的價值可能不再是「智能」（模型本身），而是「韁繩」（harness，即使用者介面和具黏性的產品整合）。

實務建議

模型使用多元化： 對於企業和開發者而言，應避免依賴單一的前沿模型。在處理常規的 Agent 任務時，可使用「次頂尖」的開源權重模型，以降低成本並避免供應商鎖定（vendor lock-in）。

利用開源權重保護隱私： 對於有嚴格數據要求（如銀行）的組織，應優先選擇可完全在內部運行的開源權重模型，以維持對敏感數據的完全控制。

採用 AI 進行防禦： 為了對抗 AI 生成的網路威脅和漏洞利用，應部署 AI 驅動的掃描工具，主動識別自身程式碼庫中的漏洞。

專注於產品「黏性」： 如果你在 AI 領域進行開發，應專注於使用者體驗和特定的工作流（即「韁繩」），而非試圖在原始智能的訓練上與最大的實驗室競爭。

Si vous proposez un produit ayant de la valeur, le capitalisme trouvera un moyen de faire fonctionner la chaîne d’approvisionnement en votre faveur. Cette conviction fondamentale alimente l’explosion actuelle des modèles d’IA à poids ouverts (open-weight), qui érodent rapidement les « remparts » dont jouissaient auparavant les laboratoires de pointe d’élite. Avec l’arrivée de modèles tels que Kimi K3 et Qwen, l’industrie passe d’un paysage dominé par quelques géants fermés à un écosystème diversifié où l’intelligence de haut niveau devient une commodité.

Sriram Krishnan, ancien conseiller en politique d’IA à la Maison Blanche, soutient que cette démocratisation exerce une pression tarifaire immense sur les laboratoires de pointe comme OpenAI et Anthropic. Si ces laboratoires continueront probablement de repousser le plafond absolu des capacités de l’IA, les tâches de type « frontière moins un » — comme la gestion d’agendas ou l’analyse d’e-mails — seront de plus en plus traitées par des alternatives à poids ouverts moins coûteuses. Ce basculement profite aux « néo-clouds » et aux fournisseurs de GPU, car la valeur économique se déplace des créateurs de modèles vers l’infrastructure qui les héberge et les optimise.

La conversation aborde également la tension géopolitique inhérente à ce changement, et plus particulièrement la montée en puissance des modèles chinois. Krishnan souligne un paradoxe étrange : les développeurs occidentaux sont parfois contraints d’utiliser des modèles chinois pour des travaux de sécurité car les modèles américains disposent de refus et de garde-fous de sécurité plus stricts. Tout en plaidant pour la sécurité intrinsèque de l’open-source — citant la loi de Linus selon laquelle « avec suffisamment d’yeux, tous les bugs deviennent superficiels » — il souligne l’importance de garantir que les défenseurs américains et alliés aient accès aux outils les plus performants pour protéger leurs propres bases de code contre les exploits générés par l’IA.

Perspectives Surprenantes

Le paradoxe de la sécurité : Certains professionnels de la cybersécurité optent pour des modèles chinois à poids ouverts plutôt que pour des modèles américains fermés, car les garde-fous de ces derniers les empêchent d’effectuer des analyses de sécurité essentielles.

La distillation comme norme : La distillation n’est pas seulement un raccourci ; c’est un élément central de l’entraînement de presque tous les modèles modernes, car ils « distillent » essentiellement la somme des connaissances humaines issues d’Internet.

Un terrain juridique inégal : Les modèles chinois peuvent s’entraîner librement sur des traces de raisonnement américaines, tandis que les startups américaines sont souvent confrontées à l’ambiguïté juridique et aux obstacles des « conditions d’utilisation » lorsqu’elles tentent de faire de même.

La commoditisation de l’intelligence : La valeur réelle pour les laboratoires de pointe ne résiderait plus dans l’« intelligence » (le modèle lui-même), mais dans le « harnais » (l’interface utilisateur et l’intégration produit créant de la rétention).

Conseils Pratiques

Diversifiez l’utilisation des modèles : Pour les entreprises et les développeurs, évitez de dépendre d’un seul modèle de pointe. Utilisez des modèles à poids ouverts de type « frontière moins un » pour les tâches agentiques courantes afin de réduire les coûts et d’éviter la dépendance envers un seul fournisseur.

Tirez profit des poids ouverts pour la confidentialité : Pour les organisations ayant des exigences strictes en matière de données (comme les banques), privilégiez les modèles à poids ouverts pouvant être exécutés entièrement en interne pour garder un contrôle total sur les données sensibles.

Adoptez l’IA pour la défense : Pour contrer la montée des cybermenaces et des exploits générés par l’IA, implémentez des outils de scan basés sur l’IA pour identifier proactivement les vulnérabilités de votre propre code.

Misez sur la « rétention » du produit : Si vous développez dans le domaine de l’IA, concentrez-vous sur l’expérience utilisateur et le flux de travail spécifique (le harnais) plutôt que de tenter de surpasser les plus grands laboratoires en termes d’intelligence brute.

Wenn Sie ein wertvolles Produkt anbieten, wird der Kapitalismus einen Weg finden, die Lieferkette für Sie zum Laufen zu bringen. Diese grundlegende Überzeugung treibt die aktuelle Explosion von Open-Weight-KI-Modellen voran, welche die „Burggräben“ (Moats), die zuvor einige wenige Elite-Frontier-Labs genossen, schnell schleifen. Mit dem Aufkommen von Modellen wie Kimi K3 und Qwen verschiebt sich die Branche von einer Landschaft, die von wenigen geschlossenen Giganten dominiert wird, hin zu einem vielfältigen Ökosystem, in dem hochrangige Intelligenz zu einer Handelsware wird.

Sriram Krishnan, ein ehemaliger Berater für KI-Politik im Weißen Haus, argumentiert, dass diese Demokratisierung einen enormen Preisdruck auf Frontier-Labs wie OpenAI und Anthropic ausübt. Während diese Labore wahrscheinlich weiterhin die absolute Obergrenze der KI-Fähigkeiten verschieben werden, werden „Frontier-minus-eins“-Aufgaben – wie die Verwaltung von Kalendern oder das Scannen von E-Mails – zunehmend von günstigeren Open-Weight-Alternativen übernommen. Diese Verschiebung kommt „Neoclouds“ und GPU-Anbietern zugute, da sich der wirtschaftliche Wert von den Modellentwicklern weg hin zur Infrastruktur bewegt, die diese Modelle hostet und optimiert.

Das Gespräch thematisiert auch die geopolitischen Spannungen, die mit diesem Wandel einhergehen, insbesondere den Aufstieg leistungsfähiger chinesischer Modelle. Krishnan weist auf ein seltsames Paradoxon hin: Westliche Entwickler sind manchmal gezwungen, chinesische Modelle für Sicherheitsarbeiten zu nutzen, da amerikanische Modelle strengere Sicherheitsverweigerungen und Schutzmechanismen haben. Während er die inhärente Sicherheit von Open-Source befürwortet – und dabei auf Linus’ Law verweist, wonach „bei genügend Augen alle Fehler oberflächlich sind“ –, betont er die Wichtigkeit, sicherzustellen, dass amerikanische und verbündete Verteidiger Zugang zu den leistungsfähigsten Werkzeugen haben, um ihre eigenen Codebasen vor KI-gesteuerten Exploits zu schützen.

Überraschende Erkenntnisse

Das Sicherheits-Paradoxon: Einige Cybersicherheitsexperten entscheiden sich für chinesische Open-Weight-Modelle anstelle von amerikanischen Closed-Modellen, da die Sicherheitsvorgaben der Letzteren sie daran hindern, essenzielle Sicherheitsanalysen durchzuführen.

Destillation als Standard: Destillation ist nicht nur eine Abkürzung, sondern ein Kernbestandteil der Trainingsmethode fast aller modernen Modelle, da sie im Wesentlichen die Summe des menschlichen Wissens aus dem Internet „destillieren“.

Ungleiche rechtliche Voraussetzungen: Chinesische Modelle können frei auf amerikanischen „Reasoning Traces“ (Denkpfaden) trainieren, während amerikanische Startups oft mit rechtlichen Unklarheiten und Hürden in den Nutzungsbedingungen konfrontiert sind, wenn sie dasselbe versuchen.

Kommodifizierung von Intelligenz: Der eigentliche Wert für Frontier-Labs liegt möglicherweise nicht mehr in der „Intelligenz“ (dem Modell selbst), sondern im „Geschirr“ (dem User Interface und der tiefen Produktintegration).

Praktische Erkenntnisse

Diversifizierung der Modellnutzung: Unternehmen und Entwickler sollten vermeiden, sich auf ein einziges Frontier-Modell zu verlassen. Nutzen Sie „Frontier-minus-eins“-Open-Weight-Modelle für routinemäßige agentische Aufgaben, um Kosten zu senken und einen Vendor-Lock-in zu vermeiden.

Open Weights für Datenschutz nutzen: Organisationen mit strengen Datenanforderungen (wie Banken) sollten Open-Weight-Modelle priorisieren, die vollständig intern betrieben werden können, um die volle Kontrolle über sensible Daten zu behalten.

KI zur Verteidigung einsetzen: Um dem Aufstieg von KI-generierten Cyber-Bedrohungen und Exploits zu begegnen, sollten KI-gestützte Scanning-Tools implementiert werden, um Schwachstellen in der eigenen Codebasis proaktiv zu identifizieren.

Fokus auf Produkt-„Stickiness“: Wenn Sie im KI-Bereich entwickeln, konzentrieren Sie sich auf die User Experience und den spezifischen Workflow (das „Geschirr“), anstatt zu versuchen, die größten Labore bei der reinen Intelligenz zu übertreffen.

What can we learn from the evolution of open source communities and how might they be applied to online communities and the creator economy today? Author Nadia Asparouhova joins host Sonal Choksi to talk about Asparouhova’s book, Working in Public: The Making and Maintenance of Open Source Software, from Stripe Press.

They start with a a taxonomy for communities, and then dig into how open source has changed over time, which learnings from open source do and don’t apply to new communities online, how communities intersect with the growing desire for more “high-shared context” groups and spaces (including even podcasts and newsletters), and more.