Summary & Insights
When a board tells a CEO “We need more AI,” and the CEO responds by hiring a consultant for a centralized project nobody understands—only to watch it fail—the real problem isn’t the technology itself. It’s the mess of legacy systems, misaligned workflows, and unspoken assumptions about how AI integrates into enterprises. Big organizations with thousands of employees or decades of history aren’t just “old software”; they’re tangled webs of permissions, data silos, and human-dependent processes that AI can’t magically untangle. As one executive put it, “any enterprise of a thousand people or more is just a mass of stuff that’s sitting there waiting to be integrated. And you can’t just say it’s going to integrate. AI actually doesn’t help to integrate anything.” This mismatch between Silicon Valley’s enthusiasm and enterprise reality creates a chasm where boards demand transformation, CEOs deploy half-baked solutions, and engineers face systems so complex that every upgrade or security incident feels like a crisis.
The most surprising truth? AI isn’t reducing jobs—it’s creating new ones by adding layers of complexity. Take the myth that “more code means fewer engineers.” In reality, every new line of code or AI-generated feature multiplies maintenance needs, security risks, and debugging challenges. When Aaron Levy’s team built a feature using AI for 80–90% of the code, the real bottleneck wasn’t development—it was human-driven security reviews. Similarly, accountants once thought computers would replace them, but instead, those tools made accounting more comprehensive and nuanced, spawning entirely new roles. As one panelist noted, “The funniest concept that the more code we write, the less we would need engineers would be the opposite because now your systems are even more complex than before.” This isn’t just about tech—lawyers, farmers, and manufacturers are all adopting AI to tackle problems that require human judgment, creating demand for specialists who can guide and interpret AI’s outputs.
At the heart of this transition is a fundamental shift in how we think about AI itself. It’s not just another software tool; it’s a new kind of user that behaves more like a human than a machine. Salesforce’s move to “headless” APIs seems logical, but in practice, agents often still need to navigate full browser interfaces because anti-scraping measures block automated access—just like a human would. The real work for enterprises isn’t building fancy indexes for AI; it’s redesigning permissions, workflows, and security protocols to treat agents as peers with their own identities. This means companies can’t just throw AI at legacy systems and hope for the best. They need to modernize infrastructure, rethink how data is exposed, and accept that agents will surface risks (like “unauthorized access” in customer service queues) that humans previously navigated through informal relationships. As one expert observed, “If the system doesn’t work and you get bounced to another human, agents will hit the same wall—because they don’t know who to tap on the shoulder.”
Surprising Insights
- AI doesn’t fix integration—it exposes it. Legacy enterprises aren’t broken; they’re just stuck in a state of “massive integration debt” where no amount of AI can bypass the need for human-like context, permissions, and relationship-building between systems.
- More AI code = more complexity, not fewer engineers. Systems become harder to maintain, secure, and debug, creating more roles for engineers who can troubleshoot, upgrade, and manage the entropy AI introduces.
- Token-based incentives drive fake productivity. Companies measuring AI usage by “tokens processed” see employees tricking systems into generating useless outputs just to hit quotas—proving that flawed metrics backfire spectacularly.
- Agents often need to use full UIs, not APIs. Websites with anti-scraping measures and human-centric workflows mean agents must navigate browser-based interfaces (like Safari) rather than headless tools—making “headless SaaS” models seem naive.
- Job fears are backward-looking. Every historical tech disruption (computers for accountants, typewriters for lawyers) increased job complexity and demand, not eliminated roles—AI is accelerating this pattern, not reversing it.
Practical Takeaways
- Start with information discovery, not automation. Instead of trying to replace entire workflows, use AI to search across fragmented data (e.g., “find all documents related to X project”) before attempting actions like approvals—this builds trust and reveals gaps in your system’s structure.
- Treat agents as unique users with tailored permissions. Don’t reuse human credentials—give each agent its own identity and access rights, mirroring how you’d onboard a new employee, to avoid security risks and workflow breakdowns.
- Measure the right things, not outputs. Track outcomes like “reduced resolution time for security incidents” or “accurate data retrieval rates,” not tokens processed or lines of code generated—this prevents artificial productivity inflation.
- Modernize infrastructure before scaling AI. Test how your systems handle 10–100x traffic spikes from agents before full deployment, as legacy databases or APIs will collapse under unexpected volume.
- Embrace the “human in the loop”. Focus on areas where AI handles tedious tasks (e.g., scanning thousands of records for anomalies) while humans focus on strategy, judgment, and context—this keeps productivity gains realistic (2–3x, not 10x) and sustainable.
Khi hội đồng quản trị nói với CEO rằng “Chúng ta cần nhiều AI hơn,” và CEO đáp lại bằng cách thuê một chuyên gia tư vấn cho một dự án tập trung mà không ai hiểu—rồi sau đó phải chứng kiến nó thất bại—vấn đề thực sự không phải là công nghệ. Đó là mớ bòng bong các hệ thống cũ kỹ, quy trình làm việc không phù hợp, và những giả định ngầm về cách AI hòa nhập vào doanh nghiệp. Các tổ chức lớn với hàng nghìn nhân viên hoặc lịch sử hàng thập kỷ không chỉ là “phần mềm cũ”; chúng là những mạng lưới rối rắm các phân quyền, kho dữ liệu riêng biệt và quy trình phụ thuộc vào con người mà AI không thể kỳ diệu gỡ rối được. Như một giám đốc điều hành đã nói, “bất kỳ doanh nghiệp nào có một nghìn người trở lên chỉ là một đống hỗn độp đang nằm đó chờ được tích hợp. Và bạn không thể chỉ nói rằng nó sẽ tích hợp. AI thực ra không giúp tích hợp bất cứ thứ gì.” Sự không tương xứng này giữa sự nhiệt huyết của Silicon Valley và thực tế doanh nghiệp tạo ra một hố sâu, nơi hội đồng quản trị đòi hỏi chuyển đổi, các CEO triển khai những giải pháp nửa vời, và các kỹ sư phải đối mặt với các hệ thống phức tạp đến mức mọi nâng cấp hoặc sự cố bảo mật đều trở thành một cuộc khủng hoảng.
Sự thật gây ngạc nhiên nhất? AI không cắt giảm việc làm—nó đang tạo ra những công việc mới bằng cách thêm các lớp phức tạp. Hãy xem huyền thoại rằng “nhiều code hơn có nghĩa là ít kỹ sư hơn.” Trên thực tế, mỗi dòng code mới hoặc tính năng do AI tạo ra đều nhân đôi nhu cầu bảo trì, rủi ro bảo mật và thách thức gỡ lỗi. Khi nhóm của Aaron Levy xây dựng một tính năng sử dụng AI cho 80-90% code, điểm nghẽn thực sự không phải là phát triển—mà là các bài đánh giá bảo mật do con người điều khiển. Tương tự, các kế toán viên từng nghĩ máy tính sẽ thay thế họ, nhưng thay vào đó, các công cụ đó làm cho kế toán trở nên toàn diện và tinh tế hơn, tạo ra những vai trò hoàn toàn mới. Như một diễn giả đã lưu ý, “Khái niệm buồn cười rằng càng viết nhiều code, chúng ta càng ít cần kỹ sư thì sẽ hoàn toàn ngược lại bởi vì bây giờ hệ thống của bạn phức tạp hơn trước.” Điều này không chỉ về công nghệ—luật sư, nông dân và nhà sản xuất đều đang áp dụng AI để giải quyết các vấn đề đòi hỏi phán đoán của con người, tạo ra nhu cầu về các chuyên gia có thể hướng dẫn và diễn giải đầu ra của AI.
Trung tâm của sự chuyển đổi này là một thay đổi cơ bản trong cách chúng ta nghĩ về bản thân AI. Nó không chỉ là một công cụ phần mềm khác; nó là một loại người dùng mới có hành vi giống con người hơn là máy móc. Động thái chuyển sang API “không đầu” của Salesforce có vẻ hợp lý, nhưng trên thực tế, các tác nhân vẫn thường cần điều hướng giao diện trình duyệt đầy đủ vì các biện pháp chống cào dữ liệu chặn truy cập tự động—giống như con người vậy. Công việc thực sự cho doanh nghiệp không phải là xây dựng chỉ mục hoành tráng cho AI; đó là thiết kế lại phân quyền, quy trình làm việc và giao thức bảo mật để đối xử với các tác nhân như đồng nghiệp có danh tính riêng. Điều này có nghĩa là các công ty không thể chỉ ném AI vào hệ thống cũ và hy vọng điều tốt đẹp nhất sẽ xảy ra. Họ cần hiện đại hóa cơ sở hạ tầng, suy nghĩ lại cách dữ liệu được tiết lộ, và chấp nhận rằng các tác nhân sẽ phát hiện ra rủi ro (như “truy cập trái phép” trong hàng đợi dịch vụ khách hàng) mà con người trước đây vượt qua thông qua các mối quan hệ không chính thức. Như một chuyên gia đã quan sát, “Nếu hệ thống không hoạt động và bạn bị chuyển đến một người khác, các tác nhân cũng sẽ đâm vào cùng bức tường đó—vì chúng không biết phải gõ vai ai.”
Những hiểu biết gây ngạc nhiên
- AI không sửa chữa tích hợp—nó phơi bày nó. Các doanh nghiệp cũ không hỏng hóc; chúng chỉ mắc kẹt trong tình trạng “nợ tích hợp khổng lồ” nơi không có lượng AI nào có thể bỏ qua nhu cầu về bối cảnh, phân quyền và xây dựng mối quan hệ giữa các hệ thống như con người.
- Nhiều code AI = nhiều phức tạp hơn, không phải ít kỹ sư hơn. Các hệ thống trở nên khó bảo trì, bảo mật và gỡ lỗi hơn, tạo ra nhiều hơn các vai trò cho kỹ sư có thể khắc phục sự cố, nâng cấp và quản lý entropy mà AI tạo ra.
- Khuyến khích dựa trên token tạo ra năng suất giả tạo. Các công ty đo lường việc sử dụng AI bằng “số token xử lý” thấy nhân viên lừa các hệ thống tạo ra đầu ra vô dụng chỉ để đạt chỉ tiêu—chứng minh rằng các chỉ số sai lầm gây tác dụng ngược nặng nề.
- Tác nhân thường cần sử dụng giao diện người dùng đầy đủ, không phải API. Các website có biện pháp chống cào dữ liệu và quy trình tập trung vào con người có nghĩa là tác nhân phải điều hướng giao diện dựa trên trình duyệt (như Safari) thay vì công cụ không đầu—khiến mô hình “SaaS không đầu” trở nên ngây thơ.
- Lo ngại về việc làm đang nhìn sai hướng. Mọi xáo trộn công nghệ trong lịch sử (máy tính cho kế toán, máy đánh chữ cho luật sư) đều làm tăng độ phức tạp và nhu cầu việc làm, không phải loại bỏ vai trò—AI đang đẩy nhanh mẫu này, không phải đảo ngược nó.
Bài học thực tiễn
- Bắt đầu với khám phá thông tin, không phải tự động hóa. Thay vì cố thay thế toàn bộ quy trình, hãy dùng AI để tìm kiếm trong dữ liệu phân mảnh (ví dụ: “tìm tất cả tài liệu liên quan đến dự án X”) trước khi thực hiện các hành động như phê duyệt—điều này xây dựng niềm tin và phơi bày các khoảng trống trong cấu trúc hệ thống của bạn.
- Đối xử với tác nhân như người dùng độc đáo có phân quyền riêng. Đừng tái sử dụng thông tin đăng nhập của con người—hãy cấp cho mỗi tác nhân danh tính và quyền truy cập riêng, tương tự cách bạn đưa nhân viên mới vào công việc, để tránh rủi ro bảo mật và đứt gãy quy trình.
- Đo lường điều đúng đắn, không phải đầu ra. Theo dõi kết quả như “giảm thời gian giải quyết sự cố bảo mật” hoặc “tỷ lệ truy xuất dữ liệu chính xác,” không phải số token xử lý hoặc dòng code được tạo—điều này ngăn chặn lạm phát năng suất giả tạo.
- Hiện đại hóa cơ sở hạ tầng trước khi mở rộng AI. Kiểm tra hệ thống của bạn xử lý đột biến traffic 10-100 lần từ các tác nhân trước khi triển khai đầy đủ, vì cơ sở dữ liệu hoặc API cũ kỹ sẽ sụp đổ dưới khối lượng không lường trước.
- Chấp nhận “con người trong vòng lặp”. Tập trung vào các lĩnh vực nơi AI xử lý công việc tẻ nhạt (ví dụ: quét hàng nghìn hồ sơ tìm bất thường) trong khi con người tập trung vào chiến lược, phán đoán và bối cảnh—điều này giữ mức tăng năng suất thực tế (2-3 lần, không phải 10 lần) và bền vững.
當董事會告訴執行長「我們需要更多的 AI」,而執行長回應方式是聘請顧問來執行一個沒人理解的集中式專案——結果只能眼睜睜看它失敗——真正的問題並不在於技術本身。真正的問題在於混亂的舊有系統、步調不一致的工作流程,以及關於 AI 如何整合進企業的種種潛在未明假設。擁有數千名員工或數十年歷史的大型組織不僅僅是「老舊軟體」;它們是糾纏交織的權限網絡、資料孤島,以及依賴人工的流程,這些都不是 AI 能夠神奇地解開的。正如一位高階主管所說:「任何擁有千名以上員工的企業,都只是堆積在那裡等待被整合的一堆東西。你不能只是說它會被整合。AI 實際上並不能幫助整合任何東西。」這種矽谷熱情與企業現實之間的不匹配造成了一道鴻溝:董事會要求轉型,執行長部署未經充分考驗的解決方案,而工程師面對的系統如此複雜,以至於每一次升級或安全事件都感覺像是一場危機。
最令人驚訝的真相是什麼?AI 並沒有減少工作機會——而是透過增加複雜性來創造新的職位。以「程式碼越多,工程師越少」這個迷思為例。事實上,每一行程式碼或每一個 AI 產生的功能都會倍增維護需求、安全風險,以及除錯挑戰。當 Aaron Levy 的團隊使用 AI 完成 80–90% 的程式碼來建構某項功能時,真正的瓶頸不在於開發——而在於由人工驅動的安全性審查。同樣地,會計師們曾經認為電腦會取代他們,但事實上,這些工具讓會計工作變得更全面、更細緻,也催生了全新的職位。正如一位座談會成員所指出的:「程式碼寫得越多,需要的工程師就越少,這個想法最可笑的地方在於事實恰恰相反——因為現在的系統比以往任何時候都更加複雜。」這不僅僅是科技業的問題——律師、農民和製造商都在採用 AI 來處理需要人類判斷力的問題,這也創造了對能夠引導和詮釋 AI 輸出結果的專家的需求。
這次轉型的核心,是我們對 AI 本身的根本認知轉變。它不僅僅是另一種軟體工具;它是一種全新類型的使用者,行為模式更像人類而非機器。Salesforce 轉向「無頭」API 的舉動看似合乎邏輯,但實際上,代理程式經常仍然需要透過完整的瀏覽器介面來操作,因為反爬蟲措施會阻擋自動化存取——就像人類也會遇到的情況一樣。對企業來說,真正的工作不是為 AI 建立華麗的索引;而是重新設計權限、工作流程與安全協議,將代理程式視為擁有自己身份的對等存在。這意味著企業不能只是把 AI 丟進舊有系統就希望一切順利。它們需要現代化基礎設施、重新思考資料如何曝光,並且接受代理程式將會揭露風險(例如客戶服務隊列中的「未經授權存取」)——這些風險過去是由人類透過非正式關係來處理的。正如一位專家所觀察到的:「如果系統無法運作,你會被轉接給另一個人類,代理程式也會遇到同樣的障礙——因為它們不知道該找誰幫忙。」
令人意外的洞察
- AI 無法修復整合——它只會揭露整合問題。傳統企業並沒有崩壞;它們只是卡在「龐大整合債務」的狀態中,在這種狀態下,無論多少 AI 都無法取代系統之間對人類般的背景理解、權限與關係建立的需求。
- 更多 AI 程式碼 = 更多複雜性,而非更少的工程師。系統變得更難維護、保護與除錯,為能夠排除故障、升級並管理 AI 所引入之熵的工程師創造了更多職位。
- 以權杖為基礎的激勵機制驅動了虛假生產力。透過「處理的權杖數量」來衡量 AI 使用情況的公司,會發現員工欺騙系統產生無用的輸出,只為了達到配額——這證明了有缺陷的衡量標準會適得其反。
- 代理程式經常需要使用完整的使用者介面,而非 API。具有反爬蟲措施與以人類為中心工作流程的網站,意味著代理程式必須透過瀏覽器介面(如 Safari)來操作,而非無頭工具——這讓「無頭 SaaS」模式顯得天真。
- 對工作的擔憂是 backward-looking(只看過去)。歷史上每一次科技顛覆(會計師的電腦、律師的打字機)都增加了工作的複雜度與需求,而非消滅職位——AI 正在加速這個模式,而非逆轉它。
實務建議
- 從資訊探索開始,而非自動化。與其試圖取代整個工作流程,不如先使用 AI 搜尋碎片化的資料(例如「找出所有與 X 專案相關的文件」),再嘗試審批等行動——這能建立信任,並揭示系統結構中的缺口。
- 將代理程式視為擁有客製化權限的獨特使用者。不要重複使用人類憑證——為每個代理程式提供自己的身份與存取權限,仿照你如何讓新員工入職的方式,以避免安全風險與工作流程中斷。
- 衡量正確的事物,而非產出。追蹤「安全事件解決時間縮短」或「資料檢索準確率」等成果,而非處理的權杖數量或產生的程式碼行數——這能防止人為的生產力膨脹。
- 在擴展 AI 之前先現代化基礎設施。在全面部署前,先測試你的系統如何處理來自代理程式 10–100 倍的流量高峰,因為傳統資料庫或 API 會在意想不到的負載下崩潰。
- 擁抱「人機協作」。專注於 AI 處理繁瑣任務的領域(例如掃描數千條記錄以尋找異常),同時讓人類專注於策略、判斷與背景脈絡——這樣能讓生產力提升保持現實(2–3 倍,而非 10 倍)且可持續。
Lorsqu’un conseil d’administration dit à un PDG « Nous avons besoin de plus d’IA », et que le PDG répond en engageant un consultant pour un projet centralisé que personne ne comprend—pour finalement le voir échouer—le vrai problème n’est pas la technologie elle-même. C’est le chaos des systèmes hérités, des workflows mal alignés et des présupposés non-dits sur la manière dont l’IA s’intègre dans les entreprises. Les grandes organisations avec des milliers d’employés ou des décennies d’histoire ne sont pas simplement des « vieux logiciels » ; ce sont des toiles emmêlées de permissions, de silos de données et de processus dépendants des humains que l’IA ne peut pas démêler comme par magie. Comme l’a souligné un dirigeant, « toute entreprise d’un millier de personnes ou plus n’est qu’une masse de choses qui attendent d’être intégrées. Et on ne peut pas simplement dire qu’elles vont s’intégrer. L’IA n’aide en réalité à rien intégrer. » Cette inadéquation entre l’enthousiasme de Silicon Valley et la réalité des entreprises crée un fossé où les conseils exigent une transformation, les PDG déploient des solutions bâclées, et les ingénieurs font face à des systèmes si complexes que chaque mise à jour ou incident de sécurité semble être une crise.
La vérité la plus surprenante ? L’IA ne réduit pas les emplois—elle en crée de nouveaux en ajoutant des couches de complexité. Prenons le mythe selon lequel « plus de code signifie moins d’ingénieurs ». En réalité, chaque nouvelle ligne de code ou fonctionnalité générée par l’IA multiplie les besoins de maintenance, les risques de sécurité et les défis de débogage. Lorsque l’équipe d’Aaron Levy a construit une fonctionnalité en utilisant l’IA pour 80 à 90 % du code, le véritable goulot d’étranglement n’était pas le développement—c’étaient les revues de sécurité effectuées par des humains. De même, les comptables pensaient un temps que les ordinateurs les remplaceraient, mais au lieu de cela, ces outils ont rendu la comptabilité plus complète et nuancée, faisant émerger des rôles entièrement nouveaux. Comme l’a noté un panéliste, « Le concept le plus drôle selon lequel plus nous écrivons de code, moins nous aurions besoin d’ingénieurs est l’inverse, car maintenant vos systèmes sont encore plus complexes qu’avant. » Ce n’est pas seulement une question de tech—les avocats, les agriculteurs et les manufacturiers adoptent tous l’IA pour résoudre des problèmes qui nécessitent un jugement humain, créant une demande pour des spécialistes capables de guider et d’interpréter les résultats de l’IA.
Au cœur de cette transition se trouve un changement fondamental dans notre manière de penser l’IA elle-même. Ce n’est pas seulement un autre outil logiciel ; c’est un nouveau type d’utilisateur qui se comporte plus comme un humain qu’une machine. Le passage de Salesforce à des APIs « headless » semble logique, mais en pratique, les agents doivent souvent naviguer dans des interfaces de navigateur complètes car les mesures anti-scraping bloquent l’accès automatisé—exactement comme un humain le ferait. Le véritable travail pour les entreprises n’est pas de construire des index sophistiqués pour l’IA ; c’est de repenser les permissions, les workflows et les protocoles de sécurité pour traiter les agents comme des pairs avec leurs propres identités. Cela signifie que les entreprises ne peuvent pas simplement jeter l’IA sur des systèmes hérités et espérer le meilleur. Elles doivent moderniser l’infrastructure, repenser la manière dont les données sont exposées, et accepter que les agents feront remonter des risques (comme un « accès non autorisé » dans les files d’attente de service client) que les humains géraient auparavant grâce à des relations informelles. Comme l’a observé un expert, « Si le système ne fonctionne pas et que vous êtes redirigé vers un autre humain, les agents se heurteront au même mur—car ils ne savent pas à qui taper sur l’épaule. »
Surprising Insights
- L’IA ne résout pas l’intégration—elle l’expose. Les entreprises héritées ne sont pas cassées ; elles sont simplement bloquées dans un état de « dette d’intégration massive » où aucune quantité d’IA ne peut contourner le besoin de contexte, de permissions et de construction de relations entre systèmes, à la manière humaine.
- Plus de code IA = plus de complexité, pas moins d’ingénieurs. Les systèmes deviennent plus difficiles à maintenir, sécuriser et déboguer, créant plus de rôles pour les ingénieurs capables de diagnostiquer, mettre à niveau et gérer l’entropie que l’IA introduit.
- Les incitations basées sur les jetons favorisent une fausse productivité. Les entreprises qui mesurent l’utilisation de l’IA par « jetons traités » voient des employés tromper les systèmes pour générer des résultats inutiles juste pour atteindre leurs quotas—ce qui prouve que des mesures erronées se retournent de manière spectaculaire.
- Les agents ont souvent besoin d’utiliser des interfaces complètes, pas des APIs. Les sites web avec des mesures anti-scraping et des workflows centrés sur l’humain obligent les agents à naviguer dans des interfaces basées sur un navigateur (comme Safari) plutôt que dans des outils sans interface—ce qui rend les modèles « SaaS headless » naïfs.
- Les craintes pour l’emploi sont rétrospectives. Chaque perturbation technologique historique (ordinateurs pour les comptables, machines à écrire pour les avocats) a augmenté la complexité et la demande d’emplois, pas supprimé des rôles—l’IA accélère ce schéma, elle ne l’inverse pas.
Practical Takeaways
- Commencez par la découverte d’informations, pas par l’automatisation. Au lieu d’essayer de remplacer des workflows entiers, utilisez l’IA pour rechercher dans des données fragmentées (par exemple, « trouver tous les documents liés au projet X ») avant d’envisager des actions comme des approbations—cela construit la confiance et révèle les lacunes dans la structure de votre système.
- Traitez les agents comme des utilisateurs uniques avec des permissions personnalisées. Ne réutilisez pas les identifiants humains—donnez à chaque agent sa propre identité et droits d’accès, en miroir de la manière dont vous intégreriez un nouvel employé, pour éviter les risques de sécurité et les ruptures de workflow.
- Mesurez les bonnes choses, pas les sorties. Suivez les résultats comme « temps de résolution réduit pour les incidents de sécurité » ou « taux de récupération de données précises », pas les jetons traités ou les lignes de code générées—cela évite l’inflation artificielle de la productivité.
- Modernisez l’infrastructure avant de monter en charge l’IA. Testez comment vos systèmes gèrent des pics de trafic 10 à 100 fois supérieurs provenant des agents avant un déploiement complet, car les bases de données ou APIs héritées s’effondreront sous un volume inattendu.
- Adoptez le « humain dans la boucle ». Concentrez-vous sur les domaines où l’IA gère les tâches fastidieuses (par exemple, scanner des milliers d’enregistrements pour détecter des anomalies) tandis que les humains se concentrent sur la stratégie, le jugement et le contexte—cela maintient les gains de productivité réalistes (2 à 3 fois, pas 10 fois) et durables.
Wenn ein Vorstand einem CEO sagt: „Wir brauchen mehr KI“, und der CEO daraufhin einen Berater für ein zentrales Projekt einstellt, das niemand versteht – nur um zuzusehen, wie es scheitert – dann liegt das eigentliche Problem nicht an der Technologie selbst. Es ist die chaotische Ansammlung von Legacy-Systemen, nicht abgestimmten Workflows und unausgesprochenen Annahmen darüber, wie sich KI in Unternehmen integriert. Große Organisationen mit Tausenden von Mitarbeitern oder jahrzehntelanger Geschichte sind nicht einfach nur „alte Software“; sie sind verflochtene Geflechte aus Berechtigungen, Dateninseln und menschenabhängigen Prozessen, die KI nicht magisch entwirren kann. Wie ein Manager es formulierte: „Jedes Unternehmen mit tausend oder mehr Mitarbeitern ist einfach eine unübersichtliche Masse, die darauf wartet, integriert zu werden. Und man kann nicht einfach sagen, es werde sich integrieren. KI hilft bei der Integration eigentlich überhaupt nicht.“ Diese Diskrepanz zwischen der Begeisterung aus dem Silicon Valley und der Unternehmensrealität schafft eine Kluft, in der Vorstände Transformation verlangen, CEOs halbgare Lösungen einsetzen und Ingenieure Systeme vorfinden, die so komplex sind, dass jedes Upgrade oder jeder Sicherheitsvorfall wie eine Krise anfühlt.
Die überraschendste Erkenntnis? KI baut keine Arbeitsplätze ab – sie schafft neue, indem sie Komplexitätsebenen hinzufügt. Nehmen wir den Mythos, dass „mehr Code weniger Ingenieure bedeutet“. In Wahrheit vervielfacht jede neue Codezeile oder KI-generierte Funktion den Wartungsaufwand, die Sicherheitsrisiken und die Debugging-Herausforderungen. Als Aaron Levys Team eine Funktion mit KI für 80–90 % des Codes baute, war der eigentliche Engpass nicht die Entwicklung, sondern menschengestützte Sicherheitsprüfungen. Ebenso dachten Buchhalter einst, Computer würden sie ersetzen, stattdessen machten diese Tools die Buchführung umfassender und differenzierter und schufen völlig neue Rollen. Wie ein Podiumsteilnehmer anmerkte: „Die amüsanteste Vorstellung, dass wir weniger Ingenieure bräuchten, je mehr Code wir schreiben, wäre das genaue Gegenteil, denn jetzt sind die Systeme noch komplexer als zuvor.“ Das betrifft nicht nur die IT – Anwälte, Landwirte und Hersteller setzen KI ein, um Probleme anzugehen, die menschliches Urteilsvermögen erfordern und die Nachfrage nach Spezialisten schaffen, die KI-Ergebnisse leiten und interpretieren können.
Im Kern dieses Übergangs liegt ein grundlegender Wandel in der Wahrnehmung von KI selbst. Es ist nicht nur ein weiteres Software-Tool; es ist eine neue Art von Benutzer, die sich eher wie ein Mensch als wie eine Maschine verhält. Salesforces Schritt zu „headless“ APIs erscheint logisch, aber in der Praxis müssen Agenten oft weiterhin vollständige Browser-Oberflächen navigieren, weil Anti-Scraping-Maßnahmen automatisierten Zugriff blockieren – genau wie bei Menschen. Die wirkliche Arbeit für Unternehmen besteht nicht darin, ausgeklügelte Indizes für KI zu erstellen; es ist die Neugestaltung von Berechtigungen, Workflows und Sicherheitsprotokollen, um Agenten als gleichberechtigte Partner mit eigenen Identitäten zu behandeln. Das bedeutet, dass Unternehmen KI nicht einfach auf Legacy-Systeme werfen und auf das Beste hoffen können. Sie müssen ihre Infrastruktur modernisieren, neu durchdenken, wie Daten exponiert werden, und akzeptieren, dass Agenten Risiken aufdecken (wie „unbefugter Zugriff“ in Kundendienst-Warteschlangen), mit denen Menschen zuvor durch informelle Beziehungen umgegangen sind. Wie ein Experte beobachtete: „Wenn das System nicht funktioniert und man zu einem anderen Menschen weitergeleitet wird, stoßen Agenten auf dieselbe Wand – weil sie nicht wissen, wen sie um Hilfe bitten sollen.“
Überraschende Erkenntnisse
- KI behebt keine Integration – sie offenbart sie. Legacy-Unternehmen sind nicht kaputt; sie stecken nur in einem Zustand „massiver Integrationsverschuldung“, bei dem keine Menge an KI den Bedarf an menschenähnlichem Kontext, Berechtigungen und Aufbau von Beziehungen zwischen Systemen umgehen kann.
- Mehr KI-Code = mehr Komplexität, nicht weniger Ingenieure. Systeme werden schwieriger zu warten, zu sichern und zu debuggen, wodurch mehr Rollen für Ingenieure entstehen, die die Entropie beheben, aktualisieren und managen können, die KI einführt.
- Token-basierte Anreize fördern Scheinproduktivität. Unternehmen, die KI-Nutzung an „verarbeiteten Tokens“ messen, beobachten, wie Mitarbeiter Systeme dazu bringen, nutzlose Ergebnisse zu generieren, nur um Quoten zu erfüllen – was beweist, dass fehlerhafte Metriken spektakulär nach hinten losgehen.
- Agenten benötigen oft vollständige Benutzeroberflächen, keine APIs. Websites mit Anti-Scraping-Maßnahmen und menschenzentrierten Workflows zwingen Agenten dazu, browserbasierte Oberflächen (wie Safari) anstatt headless Tools zu navigieren – was „headless SaaS“-Modelle naiv erscheinen lässt.
- Arbeitsplatzängste sind rückwärtsgerichtet. Jede historische Technologie-Disruption (Computer für Buchhalter, Schreibmaschinen für Anwälte) erhöhte Komplexität und Nachfrage, nicht die Eliminierung von Rollen – KI beschleunigt dieses Muster, nicht umgekehrt.
Praktische Handlungsempfehlungen
- Beginnen Sie mit Informationserschließung, nicht mit Automation. Versuchen Sie nicht, ganze Workflows zu ersetzen, sondern nutzen Sie KI, um über fragmentierte Daten zu suchen (z. B. „finde alle Dokumente zu Projekt X“), bevor Sie Aktionen wie Genehmigungen versuchen – dies baut Vertrauen auf und deckt Lücken in Ihrer Systemstruktur auf.
- Behandeln Sie Agenten als einzigartige Benutzer mit maßgeschneiderten Berechtigungen. Verwenden Sie nicht einfach menschliche Anmeldedaten neu – geben Sie jedem Agenten seine eigene Identität und Zugriffsrechte, ähnlich wie Sie einen neuen Mitarbeiter einarbeiten, um Sicherheitsrisiken und Workflow-Ausfälle zu vermeiden.
- Messen Sie die richtigen Dinge, nicht die Ausgaben. Verfolgen Sie Ergebnisse wie „verkürzte Lösungszeit für Sicherheitsvorfälle“ oder „genaue Datenabrufquoten“, nicht verarbeitete Tokens oder generierte Codezeilen – dies verhindert künstliche Produktivitätsinflation.
- Modernisieren Sie die Infrastruktur, bevor Sie KI skalieren. Testen Sie, wie Ihre Systeme Lastspitzen mit 10–100x mehr Traffic durch Agenten bewältigen, bevor Sie vollständig ausrollen, da Legacy-Datenbanken oder APIs unter unerwarteter Last zusammenbrechen werden.
- Embrace the „human in the loop“. Konzentrieren Sie sich auf Bereiche, in denen KI langwierige Aufgaben übernimmt (z. B. das Durchforsten von Tausenden von Datensätzen nach Anomalien), während Menschen sich auf Strategie, Urteilsvermögen und Kontext konzentrieren – dies hält Produktivitätszuwächse realistisch (2–3x, nicht 10x) und nachhaltig.
Steven Sinofsky, board partner at a16z, Aaron Levie, CEO of Box, and Martin Casado, general partner at a16z, discuss the reality of AI inside enterprises. They cover the gap between Silicon Valley and the rest of the world, why most AI initiatives fail in large organizations, and how agents, infrastructure, and workflows are evolving beyond the hype.
Resources:
Follow Aaron Levie on X: https://twitter.com/levie
Follow Steve Sinofsky on X: https://twitter.com/stevesi
Follow Martin Casado on X: https://twitter.com/martin_casado
Follow Erik Torenberg on X: https://twitter.com/eriktorenberg
Stay Updated:
Find a16z on YouTube: YouTube
Find a16z on X
Find a16z on LinkedIn
Listen to the a16z Show on Spotify
Listen to the a16z Show on Apple Podcasts
Follow our host: https://twitter.com/eriktorenberg
Please note that the content here is for informational purposes only; should NOT be taken as legal, business, tax, or investment advice or be used to evaluate any investment or security; and is not directed at any investors or potential investors in any a16z fund. a16z and its affiliates may maintain investments in the companies discussed. For more details please see a16z.com/disclosures.
Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.

Leave a Reply
You must be logged in to post a comment.