a16z Podcast
Summary & Insights
The central tension of the conversation is stark: AI models are improving at an extraordinary rate, with agentic systems already performing real work rather than just answering questions, yet the economy looks fundamentally normal. Market data, prediction markets, and revenue projections fail to reflect the super-fast takeoff scenarios many in Silicon Valley anticipate. Alex Imas, drawing from his work at Google DeepMind, acknowledges incredible and accelerating progress but questions what economically valuable tasks each new model iteration actually unlocks, noting that a hockey stick on a benchmark does not automatically translate into real-world acceleration. Tyler Cowen, while still bullish on AI’s long-term potential, has grown slightly more bearish in recent weeks, citing strange volatility around Nvidia, Anthropic’s IPO not flying above two trillion dollars, and revenue numbers that do not match the hype. His core argument is that faster AI progress simply means hitting real bottlenecks more quickly, and institutional inertia ensures the path will be far more normal than the Bay Area consensus suggests.
Cowen grounds his skepticism in growth theory, referencing work by Ben Jones and Chad Jackson on the conditions required for singularity-style, double-digit growth. Such runaway expansion requires knife-edge conditions, most importantly the absence of decreasing returns to ideas—meaning technological breakthroughs must generate ever more breakthroughs with fewer resources. Current data, including the meter report, shows this parameter is decisively less than one, indicating diminishing returns. He tempers this with historical context: Guyana once grew forty percent in a year selling oil, and the United States briefly exceeded eight percent growth emerging from recession, but these are temporary, small-base anomalies. Robotics, he argues, will diffuse slowly, pointing out that Washington, D.C. still lacks widespread deployment of even simple robots like WAMOs. Imas builds on this by introducing non-homothetic preferences: as automation makes goods cheaper, those goods become a smaller share of the economy, shifting growth value toward bottlenecks rather than the automated sectors themselves.
The conversation shifts to what Imas considers the bigger breakthrough: AI agents learning to coordinate well enough to outperform human organizations. Right now, agents are strikingly bad at coordination; they mostly engage in parallel processing. Benchmarks show that a single agent can outperform two agents splitting a task even when communication is allowed, whereas two humans with division of labor far outperform one person with double the resources. If coordination improves, it could break the cost ceiling on firm size and fundamentally reshape wages, employment, and organizational structure. However, Imas admits he does not know the primary bottleneck to agent coordination, speculating it may simply be that coordination is not being trained into models during post-training. Cowen approaches this through principal-agent theory, arguing that perfect alignment is unnecessary; what matters are checks and balances, separation of powers, and mechanism design that ensure agents serve principals’ interests even when their own preferences are misaligned.
On labor markets, Imas expresses a specific fear: if a coordination breakthrough triggers a fast transition, the economy could undergo a phase transition where wages and employment shift suddenly, leaving no time for the re-matching process that typically absorbs displaced workers. This could create large pools of unemployment and recursive scarring that push people out of the labor market entirely. Cowen is more bullish overall, expecting disruptions akin to the China shock or Industrial Revolution but ultimately new jobs and projects. Both agree, however, that hiring is becoming harder because employers no longer know if candidates possess the mental flexibility to pick up AI skills, which could temporarily raise the natural rate of unemployment until certifications and AI-assisted matching emerge.
Measurement and politics feature prominently as well. Cowen calls GDP the most underrated statistic but concedes it will grow less accurate as AI generates free digital goods, suggesting survey-based welfare amendments like GDP-B or GDP-D may be needed to capture flourishing that priced markets miss. Longevity gains from AI could similarly boost human welfare without appearing in traditional accounts. Regulation will raise costs and slow deployment in pockets, but Cowen doubts it will stop diffusion, noting fifty states create too many entry points and even the new Texas governor is already backtracking on harsh AI restrictions. The Nvidia and Jensen situation is viewed as a lesson in institutional robustness: checks and balances, supply chain diversity, and the interplay between political economy reactions will endogenously constrain extreme scenarios, making the actual trajectory slower than either the doomers or the accelerationists expect.
The dialogue closes on higher education and the enduring value of the economic toolkit. Imas is bullish on long-term innovation in higher ed despite slow-moving institutions, and both guests see mechanism design, the Lucas critique, and structural thinking as underrated tools for navigating AI’s economy-wide effects. Cowen traces his own early AI conviction to watching a chess computer named Tinkerbell as a prodigy, realizing that if machines could conquer intuition, they could conquer other domains. They end on a note of epistemic humility: simulation cannot substitute for experiment, structural parameters matter more than reduced-form correlations, and the American system—imperfect but full of magic—will likely absorb AI’s shocks more gradually than extreme forecasts predict.
Major Discussion Themes
The Productivity Paradox: Benchmark Progress vs. Economic Reality
Alex Imas and Tyler Cowen both stress that extraordinary model performance on benchmarks does not automatically produce extraordinary GDP growth. Imas notes that while the move from chatbot-era AI to agentic systems has yielded genuine productivity gains—systems actually doing work rather than just retrieving information—many economically valuable tasks remain poorly specified, making hockey-stick benchmark gains misleading. Cowen pushes further, arguing that extreme revenue figures claimed for leading AI labs cannot be justified unless other sectors of the economy grow rapidly enough to purchase those services, and no one in the Bay Area could name such sectors when he asked. Market data—interest rates, stock prices, prediction markets—still looks normal, suggesting the broader economy has not yet absorbed AI-driven productivity at scale.
Conditions for Double-Digit Growth and the Idea Production Function
Cowen walks through the theoretical requirements for runaway growth using the Jones and Jones framework: double-digit expansion depends on knife-edge conditions, particularly increasing rather than decreasing returns to ideas. Current empirical estimates place this parameter below one, meaning each new AI model requires more resources to extract marginal intelligence gains. Imas complements this with the concept of non-homothetic preferences: as automation cheapens goods, those goods shrink as a share of GDP, shifting value to bottlenecks like healthcare, education, and regulated services. Cowen illustrates with historical anomalies—Guyana’s oil-driven 40 percent spike or U.S. post-recession surges—showing that temporary explosive growth comes from special circumstances, not sustained technological takeoff. Robotics, in his view, will diffuse slowly because physical-world deployment faces friction that software does not.
Agent Coordination and the Future of the Firm
Imas identifies agent coordination as the critical missing link. Today’s AI agents mostly perform parallel processing rather than true collaboration; benchmarks indicate a single agent can outperform two agents dividing a task, whereas humans excel at division of labor and communication. If agents eventually coordinate effectively, Imas argues, it could break cost ceilings on firm size, rewire employment and wage structures, and produce organizational forms unlike anything currently existing. Cowen responds from a principal-agent perspective: perfect alignment is not required. Instead, checks and balances, separation of powers, and mechanism design can align outcomes even when individual agents are misaligned. Both downplay viral AI-safety hysteria, noting that the observed harms come from evil humans directing AI, not from AI developing misaligned preferences on its own.
Labor Market Transitions and the Natural Rate of Unemployment
Imas worries about a fast-transition scenario in which a coordination breakthrough causes a sudden phase transition in wages and employment. Because labor-market re-matching normally takes time, rapid disruption could scar workers out of the labor force through recursive unemployment loops. Cowen expects disruptions similar to the China shock or Industrial Revolution but remains bullish on labor markets overall, anticipating new jobs and projects that have not yet been invented. Both highlight an immediate hiring problem: employers cannot yet tell whether job candidates are mentally flexible enough to adopt AI tools, which could temporarily increase search unemployment and the natural rate until AI-specific certifications and matching mechanisms emerge.
Why GDP Is Becoming an Incomplete Measure
The conversation repeatedly returns to measurement. Cowen defends GDP as historically useful but acknowledges that AI-generated digital goods—which are often free or near-free—create a wedge between recorded output and actual human welfare. Imas references research on amended measures such as GDP-B or GDP-D, which use survey-based data to capture the welfare from cheap or free digital products. Longevity improvements from AI could further boost welfare without showing up in GDP, and Cowen suggests that per-capita GDP and lifespan are distinct metrics that may grow apart. In the short run, GDP remains serviceable, but over time policymakers will need complementary indicators to judge whether the country is truly flourishing.
Regulation, Political Economy, and Institutional Bottlenecks
Cowen argues that institutions are neither running as smoothly as optimists hope nor as poorly as pessimists fear. Regulation will raise costs and create geographic patchworks—some states or cities may ban certain AI uses—but diffusion across fifty states makes a total stop unlikely. He cites the new Texas governor’s backtracking and Josh Shapiro’s divergent rhetoric versus reality as evidence that political extremes soften in practice. On the Nvidia and Jensen situation, both guests see checks and balances and supply-chain diversity as stabilizing forces that will prevent a single point of failure from derailing the sector. Cowen adds that money in politics is less determinative than tech elites often assume; even hundreds of millions in spending cannot easily purchase desired political outcomes because of institutional complexity.
Surprising Insights
- Leading AI company revenue projections may be false because no one can identify other sectors growing fast enough to justify those valuations, even though the companies themselves are strong.
- One AI agent can outperform two agents splitting work because current agents are poor at coordination, while two humans with division of labor far outperform one person with double the resources.
- Double-digit GDP growth requires near-theoretical conditions like increasing returns to ideas; current data shows diminishing returns, making sustained super-fast growth unlikely without fundamental shifts.
- Robotics adoption will be slow even in advanced economies; Washington, D.C. still lacks widespread deployment of basic robots, indicating physical-world friction will delay real-economy transformation.
- GDP may soon mismeasure human welfare because AI produces abundant free digital goods; a society could flourish while recorded growth remains in a normal 3–5 percent range.
- The most significant AI risk is not misaligned AI acting on its own, but evil humans using aligned AI to execute harmful instructions, which shifts the safety problem toward governance and incentives rather than pure technical alignment.
- Political money has limited power: even large expenditures by tech figures cannot reliably purchase political outcomes due to checks and balances and the complexity of campaign finance.
- Simulation cannot fully substitute for experiment; the Lucas critique implies that AI predictions based on historical patterns may fail when agents endogenously change their behavior in response to policy or technology.
- AI progress is fastest in domains with few human bottlenecks, such as math, where new models can emerge within weeks, whereas economically embedded tasks diffuse much more slowly.
- Temporary double-digit growth might occur only after a recession, war, or pandemic, not from AI alone, because catch-up effects from crises can briefly distort the growth rate.
Practical Takeaways
- Track economically valuable tasks unlocked by each model iteration rather than relying solely on benchmark leaderboards to gauge real-world AI impact.
- Manage AI agents through mechanism design and checks and balances rather than attempting to achieve perfect individual alignment of model preferences.
- Monitor coordination benchmarks in AI systems; a breakthrough in multi-agent collaboration could transform firm size, wage structures, and employment patterns faster than raw intelligence gains.
- Complement GDP with survey-based welfare measures (such as GDP-B or GDP-D) to capture the value of free or low-cost digital goods that AI makes abundant.
- Expect robotics and physical-world AI deployment to lag software advances due to regulatory complexity, infrastructure needs, and slow institutional diffusion.
- Prepare for temporary labor-market scarring during fast AI transitions by investing in retraining, re-matching services, and portable AI-skill certifications.
- Do not rely on market caps, prediction markets, or Bay Area revenue anecdotes alone; verify AI’s economic impact through productivity data across the broader economy.
- Prioritize structural parameters over reduced-form correlations when forecasting AI’s effects, recognizing that agents and institutions will adapt endogenously to new technologies.
- Support higher-education experimentation to build mental flexibility and AI adaptability in workers, since hiring signals for these traits are currently weak.
- View regulatory and political pushback as friction that raises costs and slows deployment in pockets, but unlikely to halt diffusion given the distributed nature of U.S. governance and supply chains.
🛍️ Products & Resources Mentioned
- 📚 BookCapital in the Twenty-First Century by Thomas Piketty — Discussed in relation to an essay questioning whether Piketty’s capital concentration model (r > g) applies to an AI-driven economy.View on Amazon →
- 📚 BookThe Age of Em by Robin Hanson — Described as a brilliant book worth reading for ideas, though Tyler believes AI will arrive before brain emulations.View on Amazon →
Điểm mấu chốt của cuộc trò chuyện là sự đối lập rõ rệt: các mô hình AI đang được cải thiện với tốc độ phi thường, với các hệ thống tự động đã thực hiện các công việc thực tế thay vì chỉ trả lời câu hỏi, nhưng nền kinh tế vẫn dường như hoạt động bình thường. Dữ liệu thị trường, thị trường dự đoán và dự báo doanh thu không phản ánh các kịch bản tăng trưởng cực nhanh mà nhiều người ở Thung lũng Silicon dự đoán. Alex Imas, dựa trên kinh nghiệm làm việc tại Google DeepMind, thừa nhận những tiến bộ đáng kinh ngạc và đang tăng tốc, nhưng ông đặt câu hỏi về những nhiệm vụ có giá trị kinh tế mà mỗi phiên bản mô hình mới thực sự mở ra, đồng thời lưu ý rằng một biểu đồ tăng trưởng đột ngột trên các tiêu chuẩn kiểm tra không tự động dẫn đến sự tăng tốc trong thực tế. Tyler Cowen, mặc dù vẫn lạc quan về tiềm năng lâu dài của AI, đã trở nên thận trọng hơn một chút trong những tuần gần đây, chỉ ra những biến động kỳ lạ xung quanh Nvidia, việc cổ phiếu Anthropic không đạt mức trên hai nghìn tỷ đô la trong đợt IPO, và doanh thu không tương xứng với sự cường điệu. Lập luận chính của ông là sự tiến bộ nhanh hơn của AI chỉ đơn giản có nghĩa là chúng ta sẽ nhanh chóng gặp phải những rào cản thực tế, và sự trì trệ của các tổ chức đảm bảo rằng con đường phát triển sẽ bình thường hơn nhiều so với quan điểm chung ở Vùng Bay.
Cowen đưa ra những nghi ngờ của mình dựa trên lý thuyết tăng trưởng, tham khảo các công trình của Ben Jones và Chad Jackson về các điều kiện cần thiết để đạt được tốc độ tăng trưởng “singular”, tức là tăng trưởng hai con số. Mức tăng trưởng vượt trội như vậy đòi hỏi những điều kiện rất khắc nghiệt, quan trọng nhất là sự vắng mặt của “hiệu ứng lợi nhuận giảm dần” đối với các ý tưởng – nghĩa là, những đột phá công nghệ phải tạo ra ngày càng nhiều đột phá khác với ít nguồn lực hơn. Dữ liệu hiện tại, bao gồm cả báo cáo về năng suất, cho thấy chỉ số này thấp hơn một đáng kể, cho thấy hiệu ứng lợi nhuận giảm dần đang diễn ra. Tuy nhiên, ông cũng đưa ra bối cảnh lịch sử: Guyana từng tăng trưởng 40% trong một năm nhờ bán dầu, và Hoa Kỳ đã từng vượt quá 8% tăng trưởng khi thoát khỏi suy thoái, nhưng đây chỉ là những hiện tượng tạm thời và xuất hiện trên cơ sở nền tảng nhỏ. Ông lập luận rằng, tự động hóa sẽ lan rộng chậm, và chỉ ra rằng Washington, D.C. vẫn chưa có sự triển khai rộng rãi ngay cả những robot đơn giản như WAMOs. Imas tiếp tục phát triển ý này bằng cách giới thiệu khái niệm “sở thích không đồng nhất”: khi tự động hóa làm cho hàng hóa rẻ hơn, hàng hóa đó sẽ chiếm tỷ lệ nhỏ hơn trong nền kinh tế, và giá trị tăng trưởng sẽ chuyển sang những “điểm nghẽn” thay vì các ngành tự động hóa.
Cuộc trò chuyện chuyển sang một chủ đề mà Imas coi là một bước đột phá lớn hơn: các tác nhân AI học cách phối hợp đủ tốt để vượt trội hơn các tổ chức do con người điều hành. Hiện tại, các tác nhân còn rất kém trong việc phối hợp; phần lớn chúng chỉ thực hiện xử lý song song. Các tiêu chuẩn đánh giá cho thấy một tác nhân duy nhất có thể vượt trội hơn hai tác nhân chia sẻ một nhiệm vụ, ngay cả khi có sự trao đổi thông tin. Trong khi đó, hai người phối hợp công việc vượt trội hơn nhiều so với một người có nguồn lực gấp đôi. Nếu khả năng phối hợp được cải thiện, điều này có thể phá vỡ giới hạn chi phí về quy mô của các tổ chức và thay đổi cơ bản tiền lương, việc làm và cấu trúc tổ chức. Tuy nhiên, Imas thừa nhận rằng ông không biết nguyên nhân chính gây ra sự khó khăn trong việc phối hợp giữa các tác nhân, và suy đoán rằng có thể đơn giản là việc phối hợp không được “huấn luyện” vào các mô hình trong quá trình tinh chỉnh sau khi huấn luyện ban đầu. Cowen tiếp cận vấn đề này thông qua lý thuyết về chủ thể và tác nhân, lập luận rằng sự đồng nhất hoàn hảo là không cần thiết; điều quan trọng là các cơ chế kiểm soát và cân bằng, sự phân chia quyền lực và thiết kế cơ chế đảm bảo rằng các tác nhân phục vụ lợi ích của chủ thể, ngay cả khi sở thích của chúng không hoàn toàn phù hợp.
Về thị trường lao động, Imas bày tỏ một lo ngại cụ thể: nếu một đột phá trong sự phối hợp dẫn đến một sự chuyển đổi nhanh chóng, nền kinh tế có thể trải qua một giai đoạn chuyển đổi, trong đó tiền lương và việc làm thay đổi đột ngột, không cho phép có đủ thời gian cho quá trình tái sắp xếp vốn thường giúp những người bị mất việc tìm được công việc mới. Điều này có thể tạo ra một lượng lớn người thất nghiệp và gây ra những hậu quả kéo dài, đẩy mọi người ra khỏi thị trường lao động. Cowen có cái nhìn lạc quan hơn, dự đoán những xáo trộn tương tự như “cú sốc từ Trung Quốc” hoặc Cách mạng Công nghiệp, nhưng cuối cùng sẽ tạo ra những công việc và dự án mới. Cả hai đều đồng ý rằng việc tuyển dụng đang trở nên khó khăn hơn vì các nhà tuyển dụng không còn chắc chắn liệu các ứng viên có đủ khả năng thích ứng để học các kỹ năng liên quan đến trí tuệ nhân tạo hay không, điều này có thể tạm thời làm tăng tỷ lệ thất nghiệp tự nhiên cho đến khi có các chứng chỉ và các công cụ kết nối dựa trên trí tuệ nhân tạo.
Đo lường và chính trị cũng đóng vai trò quan trọng. Cowen gọi GDP là chỉ số bị đánh giá thấp nhất, nhưng ông thừa nhận rằng nó sẽ trở nên kém chính xác hơn khi trí tuệ nhân tạo tạo ra các sản phẩm kỹ thuật số miễn phí, gợi ý rằng các điều chỉnh phúc lợi dựa trên khảo sát, chẳng hạn như GDP-B hoặc GDP-D, có thể cần thiết để nắm bắt được sự thịnh vượng mà các thị trường giá cả không thể đo lường được. Những tiến bộ về tuổi thọ nhờ trí tuệ nhân tạo cũng có thể cải thiện phúc lợi của con người mà không được phản ánh trong các báo cáo truyền thống. Quy định sẽ làm tăng chi phí và làm chậm quá trình triển khai ở một số khu vực, nhưng Cowen nghi ngờ rằng nó sẽ không thể ngăn chặn sự lan rộng, vì có đến năm mươi bang tạo ra quá nhiều cơ hội để tham gia, và thậm chí cả thống đốc bang Texas mới cũng đang lùi lại những hạn chế khắc nghiệt đối với trí tuệ nhân tạo. Tình huống của Nvidia và Jensen được xem là một bài học về sự bền vững của các thể chế: sự cân bằng quyền lực, sự đa dạng trong chuỗi cung ứng và sự tương tác giữa các phản ứng kinh tế chính trị sẽ tự động hạn chế các kịch bản cực đoan, khiến quỹ đạo thực tế diễn ra chậm hơn so với những gì cả những người bi quan hay những người ủng hộ tăng tốc kỳ vọng.
Cuộc trò chuyện kết thúc với chủ đề về giáo dục đại học và giá trị lâu dài của các công cụ kinh tế. Imas lạc quan về sự đổi mới lâu dài trong lĩnh vực giáo dục đại học, mặc dù các tổ chức thường vận hành chậm chạp. Cả hai khách mời đều nhận thấy rằng thiết kế cơ chế, phê bình Lucas và tư duy cấu trúc là những công cụ bị đánh giá thấp để đối phó với tác động của trí tuệ nhân tạo (AI) trên toàn bộ nền kinh tế. Cowen kể lại rằng niềm tin ban đầu của ông về AI bắt nguồn từ việc chứng kiến một máy tính chơi cờ tên là Tinkerbell khi còn là một tài năng trẻ, nhận ra rằng nếu máy móc có thể vượt qua trực giác, chúng có thể chinh phục các lĩnh vực khác. Cuộc trò chuyện kết thúc bằng một thái độ khiêm tốn về tri thức: mô phỏng không thể thay thế cho thực nghiệm, các thông số cấu trúc quan trọng hơn các tương quan đơn giản, và hệ thống Hoa Kỳ – dù không hoàn hảo nhưng vẫn ẩn chứa nhiều tiềm năng – có khả năng hấp thụ các tác động của AI một cách dần dần hơn so với những dự đoán cực đoan.
Các chủ đề thảo luận chính:
Sự nghịch lý về năng suất: So sánh tiến độ so với thực tế kinh tế
Cả Alex Imas và Tyler Cowen đều nhấn mạnh rằng hiệu suất vượt trội của các mô hình trên các bài kiểm tra chuẩn (benchmark) không tự động dẫn đến sự tăng trưởng GDP vượt trội. Imas lưu ý rằng, mặc dù sự chuyển đổi từ AI thời kỳ chatbot sang các hệ thống tự động đã mang lại những cải thiện thực sự về năng suất – các hệ thống thực sự thực hiện công việc thay vì chỉ truy xuất thông tin – nhiều nhiệm vụ có giá trị kinh tế vẫn chưa được xác định rõ ràng, khiến cho những cải thiện đột phá trên các bài kiểm tra chuẩn trở nên gây hiểu lầm. Cowen đi xa hơn, lập luận rằng những con số doanh thu cực cao được các phòng thí nghiệm AI hàng đầu tuyên bố chỉ có thể được biện minh nếu các ngành khác của nền kinh tế phát triển đủ nhanh để mua các dịch vụ đó, và không ai ở Thung lũng Silicon có thể chỉ ra những ngành đó khi ông hỏi. Dữ liệu thị trường – lãi suất, giá cổ phiếu, thị trường dự đoán – vẫn cho thấy tình hình bình thường, cho thấy nền kinh tế nói chung vẫn chưa hấp thụ năng suất do AI mang lại ở quy mô lớn.
Điều kiện cho tăng trưởng hai con số và khái niệm về năng suất của ý tưởng
Cowen phân tích các điều kiện lý thuyết cần thiết cho sự tăng trưởng vượt bậc, sử dụng khung lý thuyết của Jones và Jones: sự tăng trưởng hai con số phụ thuộc vào những điều kiện rất đặc biệt, đặc biệt là sự gia tăng thay vì giảm dần về năng suất của các ý tưởng. Các ước tính thực nghiệm hiện tại cho thấy chỉ số này thấp hơn một, nghĩa là mỗi mô hình AI mới đòi hỏi nhiều tài nguyên hơn để đạt được những cải tiến nhỏ về trí tuệ. Imas bổ sung khái niệm về sở thích không đồng nhất: khi tự động hóa làm giảm giá thành hàng hóa, tỷ lệ đóng góp của những hàng hóa này vào GDP sẽ giảm, chuyển giá trị sang các lĩnh vực như chăm sóc sức khỏe, giáo dục và các dịch vụ được quản lý chặt chẽ. Cowen minh họa bằng những trường hợp bất thường trong lịch sử, chẳng hạn như sự tăng vọt 40% của Guyana do khai thác dầu, hoặc sự phục hồi nhanh chóng của Hoa Kỳ sau suy thoái, để chỉ ra rằng sự tăng trưởng đột biến chỉ xảy ra trong những hoàn cảnh đặc biệt, chứ không phải do sự phát triển công nghệ bền vững. Theo quan điểm của ông, robot sẽ được triển khai chậm chạp vì việc áp dụng trong thế giới thực gặp phải nhiều trở ngại mà phần mềm không gặp phải.
Sự phối hợp giữa các tác nhân và tương lai của doanh nghiệp.
Imas nhận định rằng sự phối hợp giữa các tác nhân là yếu tố then chốt còn thiếu. Phần lớn các tác nhân AI hiện nay chủ yếu thực hiện xử lý song song thay vì sự hợp tác thực sự; các tiêu chuẩn đánh giá cho thấy một tác nhân đơn lẻ có thể vượt trội hơn so với hai tác nhân chia sẻ một nhiệm vụ, trong khi con người lại vượt trội trong việc phân công và giao tiếp. Imas lập luận rằng, nếu các tác nhân cuối cùng có thể phối hợp hiệu quả, điều này có thể phá vỡ giới hạn chi phí về quy mô công ty, thay đổi cấu trúc việc làm và tiền lương, và tạo ra các hình thức tổ chức hoàn toàn khác biệt so với hiện tại. Cowen phản hồi từ góc độ của chủ và tác nhân: không cần sự đồng bộ hoàn hảo. Thay vào đó, các biện pháp kiểm soát và cân bằng, sự phân chia quyền lực và thiết kế cơ chế có thể đạt được kết quả phù hợp ngay cả khi các tác nhân riêng lẻ không đồng bộ. Cả hai đều giảm thiểu sự hoang mang về “an toàn AI” lan rộng, lưu ý rằng những tác hại quan sát được xuất phát từ những hành động tồi tệ của con người điều khiển AI, chứ không phải từ việc AI tự phát triển những sở thích không phù hợp.
Sự chuyển đổi của thị trường lao động và tỷ lệ thất nghiệp tự nhiên
Imas lo ngại về kịch bản chuyển đổi nhanh chóng, trong đó một đột phá về sự phối hợp gây ra sự thay đổi đột ngột trong tiền lương và việc làm. Vì việc tái kết nối thị trường lao động thường mất thời gian, sự gián đoạn nhanh chóng có thể khiến người lao động rời khỏi lực lượng lao động thông qua các vòng lặp thất nghiệp liên tục. Cowen dự đoán những gián đoạn tương tự như “sốc từ Trung Quốc” hoặc Cách mạng Công nghiệp, nhưng vẫn lạc quan về thị trường lao động nói chung, kỳ vọng những công việc và dự án mới chưa được tạo ra. Cả hai đều nhấn mạnh một vấn đề tuyển dụng ngay lập tức: các nhà tuyển dụng hiện chưa thể biết liệu các ứng viên có đủ khả năng thích ứng để sử dụng các công cụ AI hay không, điều này có thể tạm thời làm tăng tỷ lệ thất nghiệp tìm việc và tỷ lệ thất nghiệp tự nhiên cho đến khi có các chứng chỉ và cơ chế phù hợp với AI.
Tại sao GDP đang trở thành một thước đo không đầy đủ?
Cuộc trò chuyện liên tục quay trở lại vấn đề đo lường. Cowen bảo vệ GDP như một công cụ hữu ích trong lịch sử, nhưng ông thừa nhận rằng hàng hóa kỹ thuật số do AI tạo ra – thường là miễn phí hoặc có giá rất rẻ – tạo ra sự khác biệt giữa sản lượng được ghi lại và phúc lợi thực tế của con người. Imas đề cập đến các nghiên cứu về các phương pháp đo lường được điều chỉnh, chẳng hạn như GDP-B hoặc GDP-D, sử dụng dữ liệu khảo sát để đánh giá phúc lợi từ các sản phẩm kỹ thuật số rẻ hoặc miễn phí. Những cải thiện về tuổi thọ nhờ AI có thể thúc đẩy phúc lợi hơn nữa mà không được phản ánh trong GDP, và Cowen gợi ý rằng GDP bình quân đầu người và tuổi thọ là hai chỉ số riêng biệt có thể phát triển theo xu hướng khác nhau. Trong ngắn hạn, GDP vẫn hữu ích, nhưng theo thời gian, các nhà hoạch định chính sách sẽ cần các chỉ số bổ sung để đánh giá xem đất nước có thực sự phát triển thịnh vượng hay không.
Quy định, Kinh tế Chính trị và Các Rào Cản Tổ Chức
Cowen lập luận rằng các tổ chức không hoạt động trơn tru như những người lạc quan hy vọng, cũng không hoạt động kém cỏi như những người bi quan sợ hãi. Quy định sẽ làm tăng chi phí và tạo ra sự khác biệt giữa các khu vực – một số bang hoặc thành phố có thể cấm một số ứng dụng AI – nhưng sự phổ biến trên khắp 50 bang khiến việc cấm hoàn toàn là điều khó xảy ra. Ông trích dẫn việc một thống đốc bang Texas mới gần đây phải lùi bước và sự khác biệt giữa lời nói và hành động của Josh Shapiro làm bằng chứng cho thấy các tư tưởng chính trị cực đoan thường giảm bớt trong thực tế. Về vấn đề Nvidia và Jensen, cả hai khách đều nhận thấy sự cân bằng và đa dạng hóa chuỗi cung ứng là những yếu tố ổn định sẽ ngăn chặn một điểm yếu duy nhất gây ra sự sụp đổ của ngành. Cowen bổ sung rằng tiền bạc trong chính trị ít có tác động quyết định hơn so với những gì giới tinh hoa công nghệ thường cho là; ngay cả hàng trăm triệu đô la chi tiêu cũng không dễ dàng mua được những kết quả chính trị mong muốn do sự phức tạp của các tổ chức.
Những Khám Phá Đáng Ngạc Nhiên
- Dự báo doanh thu của các công ty AI hàng đầu có thể không chính xác vì không có lĩnh vực nào khác đủ mạnh để biện minh cho những mức định giá đó, mặc dù bản thân các công ty này vẫn rất mạnh.
- Một tác nhân AI có thể vượt trội hơn hai tác nhân chia sẻ công việc vì các tác nhân hiện tại hoạt động kém trong việc phối hợp, trong khi hai người với sự phân công lao động sẽ vượt trội hơn nhiều so với một người có gấp đôi nguồn lực.
- Tăng trưởng GDP ở mức hai chữ số đòi hỏi những điều kiện gần như lý tưởng, chẳng hạn như lợi nhuận tăng theo ý tưởng; dữ liệu hiện tại cho thấy lợi nhuận giảm, khiến việc tăng trưởng siêu nhanh trong thời gian dài trở nên khó khăn nếu không có những thay đổi cơ bản.
- Việc áp dụng robot sẽ diễn ra chậm, ngay cả ở các nền kinh tế tiên tiến; Washington, D.C. vẫn chưa có sự triển khai rộng rãi của các robot cơ bản, điều này cho thấy các yếu tố vật lý sẽ trì hoãn quá trình chuyển đổi nền kinh tế thực tế.
- GDP có thể sớm không còn phản ánh chính xác phúc lợi của con người vì AI tạo ra một lượng lớn hàng hóa kỹ thuật số miễn phí; một xã hội có thể phát triển mạnh mẽ trong khi tốc độ tăng trưởng được ghi nhận vẫn ở mức bình thường, từ 3 đến 5%.
- Rủi ro lớn nhất của AI không phải là AI không tuân thủ nguyên tắc hoạt động mà gây ra hậu quả, mà là những người xấu sử dụng AI tuân thủ nguyên tắc để thực hiện các hướng dẫn gây hại, điều này chuyển trọng tâm của vấn đề an toàn từ việc điều chỉnh kỹ thuật thuần túy sang vấn đề quản trị và động lực.
- Tiền bạc trong chính trị có sức ảnh hưởng hạn chế: ngay cả những khoản chi lớn của các nhân vật trong ngành công nghệ cũng không thể đảm bảo kết quả chính trị do sự cân bằng quyền lực và sự phức tạp của tài trợ cho các chiến dịch.
- Mô phỏng không thể hoàn toàn thay thế cho thử nghiệm; “đánh giá Lucas” chỉ ra rằng các dự đoán về AI dựa trên các mô hình lịch sử có thể thất bại khi các tác nhân thay đổi hành vi một cách tự nhiên để phản ứng với chính sách hoặc công nghệ.
- Sự tiến bộ của trí tuệ nhân tạo (AI) diễn ra nhanh nhất trong các lĩnh vực ít bị giới hạn bởi yếu tố con người, chẳng hạn như toán học, nơi các mô hình mới có thể xuất hiện chỉ trong vài tuần. Ngược lại, các nhiệm vụ liên quan đến kinh tế lại lan truyền chậm hơn nhiều.
- Tăng trưởng hai chữ số chỉ có thể xảy ra sau một cuộc suy thoái, chiến tranh hoặc đại dịch, chứ không phải do AI đơn thuần, vì các tác động phục hồi từ các cuộc khủng hoảng có thể làm sai lệch tạm thời tốc độ tăng trưởng.
Những điều cần lưu ý thực tế:
- Theo dõi các nhiệm vụ có giá trị kinh tế mà mỗi phiên bản mô hình mới có thể giải quyết, thay vì chỉ dựa vào bảng xếp hạng để đánh giá tác động thực tế của AI.
- Quản lý các tác nhân AI thông qua thiết kế cơ chế và hệ thống kiểm soát, thay vì cố gắng đạt được sự đồng nhất hoàn hảo trong sở thích của từng mô hình.
- Theo dõi các tiêu chuẩn về khả năng phối hợp trong các hệ thống AI; một đột phá trong hợp tác đa tác nhân có thể thay đổi quy mô công ty, cấu trúc lương và mô hình việc làm nhanh hơn so với những cải tiến về trí thông minh thuần túy.
- Bổ sung GDP bằng các chỉ số phúc lợi dựa trên khảo sát (ví dụ: GDP-B hoặc GDP-D) để nắm bắt giá trị của các sản phẩm kỹ thuật số miễn phí hoặc có giá thấp mà AI tạo ra.
- Dự kiến sự phát triển của robot và ứng dụng AI trong thế giới thực sẽ chậm hơn so với tiến bộ phần mềm do sự phức tạp về quy định, nhu cầu về cơ sở hạ tầng và tốc độ chậm trong việc áp dụng trong các tổ chức.
- Chuẩn bị cho những tác động tạm thời đến thị trường lao động trong quá trình chuyển đổi nhanh chóng của AI bằng cách đầu tư vào đào tạo lại, dịch vụ kết nối việc làm và các chứng chỉ kỹ năng AI có tính linh hoạt.
- Không chỉ dựa vào vốn hóa thị trường, thị trường dự đoán hoặc những câu chuyện về doanh thu ở khu vực Vịnh (Bay Area); hãy xác minh tác động kinh tế của AI thông qua dữ liệu năng suất trên toàn bộ nền kinh tế.
- Ưu tiên các yếu tố cấu trúc hơn các mối tương quan bề ngoài khi dự báo tác động của AI, vì nhận thức rằng các tác nhân và tổ chức sẽ thích ứng một cách tự nhiên với các công nghệ mới.
- Hỗ trợ các hoạt động thử nghiệm trong lĩnh vực giáo dục đại học nhằm thúc đẩy sự linh hoạt về tư duy và khả năng thích ứng với trí tuệ nhân tạo ở người lao động, vì hiện tại, các tiêu chí tuyển dụng cho những phẩm chất này còn hạn chế.
- Xem các phản ứng từ quy định và chính sách như những yếu tố gây cản trở, làm tăng chi phí và chậm trễ triển khai ở một số khu vực, nhưng khó có khả năng ngăn chặn sự lan rộng do tính phân tán của hệ thống quản trị và chuỗi cung ứng ở Hoa Kỳ.
對話的核心矛盾非常明顯:人工智慧模型正在以驚人的速度進步,而具備自主功能的系統已經開始執行實際工作,而不僅僅是回答問題;然而,經濟狀況看起來仍然是相對正常的。市場資料、預測市場以及收入預測都未能反映出矽谷許多人預期的超高速發展。亞歷克斯·伊馬斯(Alex Imas),基於他在谷歌DeepMind的工作,承認了令人難以置信且不斷加速的進步,但他質疑每一次新模型的迭代實際上能夠解鎖哪些具有經濟價值的任務,並指出,在基準測試上的顯著提升並不一定能轉化為現實世界的加速。泰勒·考文(Tyler Cowen),雖然仍然對人工智慧的長期潛力持樂觀態度,但在近幾周變得略微悲觀,他提到了英偉達公司(Nvidia)周圍出現的異常波動、Anthropic公司首次公開募股(IPO)未能突破兩萬億美元的關底,以及與炒作不符的收入數字。他的核心論點是,更快速的人工智慧進步僅僅意味著會更快地遇到實際的瓶頸,而機構慣性確保了發展路徑將遠比舊金山灣區(Bay Area)的共識所預測的更加平穩。
考文先生的懷疑論基於增長理論,他引用了本·瓊斯和查德·傑克遜的研究,這些研究探討了實現“奇點”式、兩位數的增長所需的條件。 這種快速的擴張需要極其苛刻的條件,最重要的是,不能出現“邊際報酬遞減”的情況——這意味著技術突破必須能夠以更少的資源產生越來越多的突破。 目前的資料,包括相關報告,顯示這一指標明顯小於1,表明存在邊際報酬遞減的現象。 他也結合了歷史背景:蓋亞那曾經透過出售石油實現了年增長率高達百分之四十,而美國在擺脫經濟衰退時,也曾短暫地超過了百分之八的增長率,但這些都只是暫時的、基於小基數的異常現象。 他認為,機器人技術的發展將會緩慢,並指出,即使是像WAMOs這樣簡單的機器人,在華盛頓特區也尚未得到廣泛應用。 Imas在此基礎上,提出了“非同質性偏好”的概念: 隨著自動化使得商品價格更低,這些商品在經濟中的佔比就會縮小,而經濟增長的價值會更多地轉向那些尚未實現自動化的瓶頸環節,而不是已經實現自動化的領域。
談話的重點轉移到Imas認為的更重要的突破:人工智慧代理(AI agents)能夠透過良好的協調能力,超越人類組織。目前,這些代理在協調方面表現非常差,它們主要進行並行處理。測試結果顯示,單個代理的效能往往優於兩個代理共同完成任務,即使允許它們進行溝通。而兩個透過分工協作的人類,其表現遠勝於一個人擁有雙倍的資源。如果協調能力得到提升,這可能會打破企業規模的成本上限,並從根本上重塑工資、就業和組織結構。然而,Imas坦言,他並不清楚人工智慧代理協調能力的主要瓶頸,他推測可能只是因為在模型訓練之後,並沒有對協調能力進行專門的訓練。Cowen則從委託人-代理人理論的角度來分析這個問題,他認為,完全一致並不必要;重要的是建立制衡機制、權力分立,以及機制設計,以確保代理能夠服務於委託人的利益,即使它們的自身偏好與委託人的利益存在偏差。
在勞動力市場方面,Imas 表達了一種特定的擔憂:如果出現協調上的突破,從而引發快速轉型,經濟可能會經歷一個轉變階段,導致工資和就業水平突然發生變化,而這會剝奪那些因技術變革而失業的工人重新就業的時間。這可能會造成大量失業人口,併產生持續性的負面影響,甚至可能將人們完全排除在勞動力市場之外。Cowen 則總體上持更為樂觀的態度,他預計會出現類似於“中國衝擊”或工業革命的動盪,但最終會創造新的就業機會和專案。然而,雙方都同意,招聘變得越來越困難,因為僱主不再確定候選人是否具備學習人工智慧技能所需的心理適應能力,這可能會暫時提高自然失業率,直到出現認證體系和人工智慧輔助的匹配技術。
測量和政治問題也佔據了重要地位。Cowen 認為 GDP 是一個被低估的指標,但他承認,隨著人工智慧產生免費的數字產品,GDP 的準確性會降低。他建議可能需要採用基於調查的福利指標,例如 GDP-B 或 GDP-D,以便更好地反映那些市場無法捕捉到的繁榮景象。人工智慧帶來的壽命延長可能會提升人類福祉,但這些變化可能不會反映在傳統的統計資料中。監管可能會提高成本,並減緩某些地區的部署速度,但 Cowen 認為,這不太可能阻止人工智慧的普及,因為美國有五十個州,這創造了過多的進入渠道,而且即使是新的德克薩斯州州長也在逐步放棄對人工智慧的嚴格限制。Nvidia 和 Jensen 的事件被視為一個關於制度穩健性的教訓:制衡機制、供應鏈多樣性以及政治經濟反應之間的相互作用,將內在約束極端情況的發生,從而使得實際發展軌跡會比那些悲觀主義者或加速主義者所預期的要慢。
對話的最後,內容涉及高等教育以及經濟工具的持久價值。Imas 認為,儘管高等教育機構的變革速度較慢,但長期來看,高等教育領域仍將迎來創新。兩位嘉賓都認為,機制設計、盧卡斯批判以及結構性思維是應對人工智慧對整個經濟產生的影響的重要工具,這些工具常常被低估。Cowen 講述了他早期對人工智慧的認識,源於小時候觀看一臺名為 Tinkerbell 的國際象棋電腦,他意識到,如果機器能夠戰勝直覺,那麼它們就能在其他領域取得成功。最後,他們以一種謙遜的態度結束了對話:模擬無法取代實驗,結構性引數比簡化形式的相關性更重要,而且美國這個雖然不完美但充滿活力的體系,很可能比那些極端預測所預示的,以更緩慢的速度吸收人工智慧帶來的衝擊。
主要討論主題:
生產力悖論:基準測試的進展與經濟現實
Alex Imas 和 Tyler Cowen 均強調,即使模型在基準測試中表現出色,也並不一定能帶來顯著的 GDP 增長。Imas 指出,雖然從聊天機器人時代的 AI 到智慧體系統的轉變確實帶來了真實的生產力提升——系統實際上在完成工作,而不僅僅是檢索資訊——但許多具有經濟價值的任務仍然定義不夠清晰,這使得在基準測試中看到的“火箭式”增長具有誤導性。Cowen 進一步指出,一些領先的 AI 實驗室宣稱的鉅額收入,只有在其他經濟部門能夠以足夠快的速度增長,以購買這些服務的情況下,才能得到合理的解釋。然而,當 Cowen 在矽谷詢問時,沒有人能夠列出這些能夠支撐這種增長的經濟部門。市場資料,例如利率、股價和預測市場,目前仍然顯示出正常的水平,這表明更廣泛的經濟尚未大規模地吸收由人工智慧驅動的生產力提升。
雙位數增長的條件以及創新生產函式。
考文教授闡述了失控增長的理論要求,並使用了瓊斯和瓊斯的框架:兩位數的增長需要非常苛刻的條件,特別是需要知識產出呈現遞增而非遞減的效益。目前的實證估計表明,這一引數低於1,這意味著每個新的AI模型都需要更多的資源才能獲得邊際的智慧提升。Imas進一步補充了“非同質偏好”的概念:隨著自動化降低商品的價格,這些商品在GDP中的佔比會縮小,而價值會轉移到瓶頸領域,例如醫療、教育和受監管的服務。考文教授用歷史上的異常現象進行說明,例如蓋亞那因石油而實現的40%的增長,或者美國在經濟衰退後的反彈,這些都表明,短暫的爆發式增長來自於特殊情況,而不是持續的技術進步。在他看來,機器人技術的發展會比較緩慢,因為在物理世界的應用會面臨軟體領域所不具備的阻力。
智慧體協調與企業未來的發展。
Imas 認為,智慧體之間的協調是關鍵的缺失環節。 今天的 AI 智慧體大多進行並行處理,而不是真正的協作; 評估結果表明,單個智慧體往往可以勝過兩個智慧體共同完成一項任務,而人類則擅長分工和溝通。 Imas 認為,如果智慧體最終能夠有效地協調,這可能會打破企業規模的成本上限,重塑就業和工資結構,併產生目前不存在的組織形式。 Cowen 則從委託人-代理人關係的角度回應:不需要完全一致。 相反,制衡、權力分立和機制設計可以在個體智慧體存在偏差的情況下,使結果保持一致。 雙方都淡化了關於 AI 安全的恐慌情緒,指出觀察到的危害來自於惡意人類利用 AI,而不是 AI 自身發展出不一致的偏好。
勞動市場轉型與自然失業率
Imas 擔心出現快速轉型的情境,其中協調突破可能導致工資和就業出現突發性的結構性轉變。由於勞動市場的重新配對通常需要時間,快速的 disruption 可能會導致工人因重複的失業而退出勞動市場。Cowen 預期將出現類似「中國衝擊」或「工業革命」的 disruption,但總體而言,他對勞動市場持樂觀態度,預期將出現尚未被發明的新的工作和專案。兩者都強調了一個當前的招聘問題:僱主目前無法判斷應徵者是否具備足夠的適應能力,能夠運用人工智慧工具,這可能會在短期內增加求職者的數量和自然失業率,直到出現特定於人工智慧的認證和匹配機制。
為什麼 GDP 正在成為一個不完整的衡量標準?
對話反覆回到衡量的問題。考文認為,國內生產總值(GDP)在歷史上具有一定的參考價值,但他也承認,由人工智慧生成的數字產品——這些產品通常是免費或接近免費的——在實際衡量人類福祉時,會造成與記錄的產出之間的差距。伊瑪斯提到了關於改進衡量方式的研究,例如 GDP-B 或 GDP-D,這些方法利用基於調查的資料來衡量廉價或免費數字產品帶來的福祉。人工智慧帶來的壽命延長可能會進一步提高福祉,但這些提升可能不會反映在 GDP 中。考文指出,人均 GDP 和預期壽命是兩個不同的指標,它們可能會隨著時間推移而出現分化。在短期內,GDP 仍然具有一定的參考價值,但從長遠來看,政策制定者需要採用補充性的指標來判斷一個國家是否真正繁榮。
監管、政治經濟和制度瓶頸
考文認為,現有的制度既不像樂觀主義者希望的那樣順暢,也不像悲觀主義者所擔心的那樣糟糕。監管可能會增加成本,並導致地域性的差異——一些州或城市可能會禁止某些人工智慧的應用,但考慮到在五十個州範圍內的普及性,完全禁止的可能性不大。他引用了新任德克薩斯州州長的政策回撤以及喬什·夏皮羅的言論與現實之間的差異,作為證據,表明政治上的極端立場在實踐中往往會有所緩和。關於英偉達(Nvidia)和詹森(Jensen)的情況,兩位嘉賓都認為,制衡機制和供應鏈的多樣性是穩定力量,它們將防止單一的故障點導致整個行業崩潰。考文補充說,在政治領域投入的資金的影響力,遠不如科技精英們通常認為的那麼大;即使投入數億美元,也難以透過政治手段輕鬆實現期望的結果,因為制度的複雜性會限制這種影響。
令人意外的見解
- 領先的人工智慧公司的營收預測可能存在虛假之處,因為沒有任何其他行業能夠以足夠快的速度增長,以支撐這些估值,儘管這些公司本身實力雄厚。
- 一個人工智慧代理可以勝過兩個分工合作的代理,因為目前的代理在協調方面表現不佳;而兩個分工合作的人類,其表現遠超於一個擁有雙倍資源的個人。
- 實現兩位數的經濟增長需要接近理論上的條件,例如思想的邊際報酬遞增;但目前的資料顯示的是邊際報酬遞減,這使得在沒有根本性變革的情況下,維持超高速增長的可能性很小。
- 即使在發達經濟體,機器人技術的普及速度也會很慢;例如,華盛頓特區仍然缺乏基本機器人的廣泛應用,這表明物理世界的限制將延緩實體經濟的轉型。
- 經濟增長(GDP)可能很快就會無法準確衡量人類的福祉,因為人工智慧可以生產大量的免費數字產品;一個社會可以在記錄的增長仍然維持在正常的3-5%範圍內的情況下蓬勃發展。
- 人工智慧最大的風險並非是未對齊的人工智慧自行行動,而是邪惡的人類利用對齊的人工智慧來執行有害指令,這使得安全問題更多地轉向治理和激勵,而不是單純的技術對齊。
- 政治資金的影響力有限:即使是科技人物的大額支出,也無法可靠地購買政治結果,因為存在制衡機制以及複雜的競選資金體系。
- 模擬無法完全替代實驗;盧卡斯批評指出,基於歷史模式的人工智慧預測,可能在代理自主地改變其行為以應對政策或技術時失效。
- 人工智慧的進步速度在那些受限於人類瓶頸的領域最快,例如數學,新的模型可能在幾周內出現,而那些與經濟密切相關的任務的普及速度則要慢得多。
- 只有在經濟衰退、戰爭或疫情之後,才可能出現兩位數的增長,而這並非完全由人工智慧驅動,因為危機帶來的“趕超效應”可能會暫時扭曲增長率。
實用建議
- 關注每個模型迭代所解鎖的具有經濟價值的任務,而不是僅僅依賴於基準排行榜來衡量人工智慧的實際影響。
- 透過機制設計和制衡來管理人工智慧代理,而不是試圖實現模型偏好的完美一致性。
- 監測人工智慧系統中多智慧體協作的基準測試;在多智慧體協作方面取得突破,可能會比單純的智慧提升更快地改變公司規模、工資結構和就業模式。
- 將國內生產總值(GDP)與基於調查的福利指標(例如GDP-B或GDP-D)相結合,以捕捉人工智慧使之大量供應的免費或低成本數字商品所帶來的價值。
- 由於監管複雜性、基礎設施需求以及緩慢的制度普及,預計機器人和物理世界人工智慧的部署將滯後於軟體的進步。
- 在人工智慧快速轉型期間,為可能出現的勞動力市場衝擊做好準備,透過投資於再培訓、人才再匹配服務以及可轉移的人工智慧技能認證。
- 不要僅僅依賴於市值、預測市場或舊金山灣區的收入軼事;透過對整個經濟的生產力資料的驗證,來確認人工智慧的經濟影響。
- 在預測人工智慧的影響時,優先考慮結構性引數,而不是簡單的相關性,因為要認識到,主體和機構將內生地適應新的技術。
- 為了培養員工的思維靈活性和適應人工智慧的能力,應積極支援高等教育領域的實驗性教學。目前,招聘時對於這些特質的考量還不夠充分。
- 應將來自監管和政治方面的阻力視為一種阻礙,它會增加成本並延緩某些地區的推廣進度,但鑑於美國治理和供應鏈的分散式特性,不太可能完全阻止其擴散。
La tension centrale de la conversation est frappante : les modèles d’IA progressent à un rythme extraordinaire, avec des systèmes autonomes qui effectuent déjà un travail concret plutôt que de simplement répondre à des questions, et pourtant, l’économie semble fondamentalement normale. Les données du marché, les marchés de prédiction et les projections de revenus ne reflètent pas les scénarios de croissance extrêmement rapide que beaucoup attendent en Californie. Alex Imas, s’appuyant sur son expérience chez Google DeepMind, reconnaît des progrès incroyables et accélérés, mais s’interroge sur les tâches économiquement utiles que chaque nouvelle itération de modèle permet réellement de réaliser, soulignant qu’une amélioration spectaculaire sur un benchmark ne se traduit pas automatiquement par une accélération dans le monde réel. Tyler Cowen, tout en restant optimiste quant au potentiel à long terme de l’IA, est devenu légèrement plus pessimiste ces dernières semaines, citant une volatilité inhabituelle autour de Nvidia, le fait que l’introduction en bourse d’Anthropic n’ait pas dépassé les deux billions de dollars, et des chiffres de revenus qui ne correspondent pas à l’emballement médiatique. Son argument principal est que des progrès plus rapides de l’IA signifient simplement que les véritables obstacles sont atteints plus rapidement, et que l’inertie institutionnelle garantit que le chemin sera bien plus “normal” que ne le suggère le consensus de la région de la baie de San Francisco.
Cowen fonde son scepticisme sur la théorie de la croissance, en se référant aux travaux de Ben Jones et Chad Jackson sur les conditions nécessaires pour une croissance exponentielle, de l’ordre de deux chiffres, comme on l’observe dans les “singularités”. Une telle expansion spectaculaire exige des conditions très précises, notamment l’absence de rendements décroissants liés aux idées : les percées technologiques doivent générer de plus en plus de percées avec des ressources de plus en plus limitées. Les données actuelles, y compris le rapport sur les mesures, montrent que ce paramètre est nettement inférieur à un, ce qui indique des rendements décroissants. Il nuance cette analyse en la replaçant dans un contexte historique : la Guyane a connu une croissance de quarante pour cent en un an grâce à la vente de pétrole, et les États-Unis ont brièvement dépassé huit pour cent de croissance en sortant de la récession, mais ce sont des anomalies temporaires et liées à une base de départ faible. Selon lui, la robotique se diffusera lentement, soulignant que Washington, D.C., par exemple, ne dispose toujours pas d’une utilisation généralisée, même de robots simples comme les WAMOs. Imas complète cette analyse en introduisant la notion de préférences non-homothétiques : à mesure que l’automatisation rend les produits moins chers, ces produits représentent une part plus faible de l’économie, ce qui déplace la valeur de la croissance vers les points de blocage plutôt que vers les secteurs automatisés eux-mêmes.
La conversation se tourne ensuite vers ce qu’Imas considère comme une avancée majeure : les agents d’IA apprenant à coordonner leurs actions suffisamment bien pour surpasser les organisations humaines. Actuellement, les agents sont remarquablement mauvais en matière de coordination ; ils se contentent principalement de traiter les informations en parallèle. Les tests montrent qu’un seul agent peut surpasser deux agents partageant une tâche, même lorsque la communication est autorisée, tandis que deux personnes effectuant un travail divisé surpassent largement une seule personne disposant du double des ressources. Si la coordination s’améliore, cela pourrait briser les limites de coûts liées à la taille des entreprises et transformer fondamentalement les salaires, l’emploi et la structure organisationnelle. Cependant, Imas admet qu’il ne connaît pas le principal obstacle à la coordination des agents, et suppose que cela pourrait simplement être dû au fait que la coordination n’est pas intégrée dans les modèles lors de l’entraînement post-formation. Cowen aborde cette question à travers la théorie de l’agence, arguant qu’un alignement parfait n’est pas nécessaire ; ce qui compte, ce sont les mécanismes de contrôle et d’équilibre, la séparation des pouvoirs, et la conception de systèmes qui garantissent que les agents servent les intérêts des mandants, même lorsque leurs propres préférences sont divergentes.
Sur les marchés du travail, Imas exprime une inquiétude particulière : si une avancée en matière de coordination déclenche une transition rapide, l’économie pourrait connaître une phase de transition où les salaires et l’emploi évoluent brusquement, ne laissant aucun temps pour le processus de réaffectation qui permet généralement de réintégrer les travailleurs déplacés. Cela pourrait créer de vastes poches de chômage et des séquences de difficultés qui éloignent définitivement les gens du marché du travail. Cowen, quant à lui, est plus optimiste, s’attendant à des perturbations similaires au “choc chinois” ou à la révolution industrielle, mais prévoyant à terme la création de nouveaux emplois et de nouveaux projets. Tous deux s’accordent cependant sur le fait que le recrutement devient plus difficile, car les employeurs ne savent plus si les candidats possèdent la flexibilité mentale nécessaire pour acquérir les compétences liées à l’IA, ce qui pourrait temporairement augmenter le taux naturel de chômage jusqu’à ce que des certifications et des systèmes de recrutement assistés par l’IA se développent.
La mesure et la politique sont également des éléments importants. Cowen qualifie le PIB de statistique la plus sous-estimée, mais reconnaît qu’il deviendra moins précis à mesure que l’IA génère des biens numériques gratuits. Il suggère que des ajustements du bien-être basés sur des enquêtes, tels que le PIB-B ou le PIB-D, pourraient être nécessaires pour prendre en compte les aspects que les marchés ne reflètent pas. Les gains de longévité grâce à l’IA pourraient également améliorer le bien-être humain sans apparaître dans les statistiques traditionnelles. La réglementation entraînera une augmentation des coûts et ralentira le déploiement dans certains domaines, mais Cowen doute qu’elle parviendra à arrêter la diffusion, soulignant que les cinquante États créent trop de points d’entrée et que même le nouveau gouverneur du Texas recule déjà sur les restrictions sévères concernant l’IA. La situation de Nvidia et de Jensen est perçue comme une leçon sur la robustesse des institutions : les mécanismes de contrôle et d’équilibre, la diversité des chaînes d’approvisionnement et l’interaction entre les réactions de l’économie politique contraineront de manière endogène les scénarios extrêmes, rendant la trajectoire réelle plus lente que ce que prévoient les pessimistes ou les partisans de l’accélération.
Le dialogue se termine sur le thème de l’enseignement supérieur et de la valeur durable des outils économiques. Imas est optimiste quant aux innovations à long terme dans l’enseignement supérieur, malgré la lenteur des institutions, et les deux invités considèrent la conception de mécanismes, la critique de Lucas et la pensée structurelle comme des outils sous-estimés pour comprendre les effets de l’IA sur l’ensemble de l’économie. Cowen remonte sa conviction précoce concernant l’IA à sa fascination pour un ordinateur d’échecs nommé Tinkerbell, lorsqu’il était enfant, réalisant que si les machines pouvaient maîtriser l’intuition, elles pouvaient conquérir d’autres domaines. Ils concluent sur une note d’humilité épistémique : la simulation ne peut remplacer l’expérimentation, les paramètres structurels sont plus importants que les corrélations simplifiées, et le système américain, imparfait mais plein de potentiel, absorbera probablement les chocs de l’IA plus graduellement que ne le prédisent les prévisions les plus alarmistes.
Thèmes majeurs de la discussion :
Le paradoxe de la productivité : progrès mesurés contre réalité économique.
Alex Imas et Tyler Cowen soulignent tous deux que des performances exceptionnelles des modèles sur des tests de référence ne se traduisent pas automatiquement par une croissance extraordinaire du PIB. Imas note que, bien que le passage des systèmes d’IA basés sur les chatbots aux systèmes autonomes ait entraîné de réels gains de productivité – des systèmes qui effectuent réellement des tâches plutôt que de simplement récupérer des informations – de nombreuses tâches économiquement importantes restent mal définies, ce qui rend les gains de productivité mesurés par les tests de référence trompeurs. Cowen va plus loin, arguant que les chiffres de revenus extrêmement élevés revendiqués par les principaux laboratoires d’IA ne peuvent être justifiés à moins que d’autres secteurs de l’économie ne connaissent une croissance suffisamment rapide pour acheter ces services, et personne dans la région de la baie de San Francisco n’a pu en nommer lorsque lui-même l’a demandé. Les données du marché – taux d’intérêt, prix des actions, marchés de prédiction – semblent toujours normales, ce qui suggère que l’économie dans son ensemble n’a pas encore intégré les gains de productivité liés à l’IA à grande échelle.
Les conditions de croissance à deux chiffres et la fonction de production des idées
Cowen examine les conditions théoriques nécessaires à une croissance explosive, en utilisant le cadre de Jones et Jones. Une expansion à deux chiffres dépend de conditions très précises, notamment de rendements croissants plutôt que décroissants en matière d’idées. Les estimations empiriques actuelles placent ce paramètre en dessous de un, ce qui signifie que chaque nouveau modèle d’IA nécessite plus de ressources pour obtenir des gains marginaux en matière d’intelligence. Imas complète cette analyse avec le concept de préférences non-homothétiques : à mesure que l’automatisation réduit le coût des biens, ces biens diminuent en part du PIB, ce qui déplace la valeur vers des secteurs tels que les soins de santé, l’éducation et les services réglementés. Cowen illustre cela avec des anomalies historiques, comme l’augmentation de 40 % du PIB du Guyana grâce à l’exploitation pétrolière, ou les fortes croissances observées aux États-Unis après les récessions. Il montre que cette croissance explosive et temporaire est due à des circonstances particulières, et non à un développement technologique durable. Selon lui, la robotique se diffusera lentement car son déploiement dans le monde physique rencontre des obstacles que ne présente pas le logiciel.
Coordination des agents et l’avenir de l’entreprise.
Imas identifie la coordination des agents comme l’élément crucial qui manque. Les agents d’intelligence artificielle actuels effectuent principalement un traitement parallèle plutôt qu’une véritable collaboration ; les études montrent qu’un seul agent peut surpasser deux agents divisant une tâche, alors que les humains excellent dans la division du travail et la communication. Imas soutient que si les agents parviennent à se coordonner efficacement, cela pourrait briser les plafonds de coûts concernant la taille des entreprises, transformer les structures d’emploi et de salaires, et créer des formes organisationnelles sans précédent. Cowen répond du point de vue de la théorie de l’agence : il n’est pas nécessaire d’avoir un alignement parfait. Au contraire, des mécanismes de contrôle et d’équilibre, une séparation des pouvoirs et une conception de mécanismes peuvent aligner les résultats, même lorsque les agents individuels sont désalignés. Tous deux minimisent l’hystérie virale concernant la sécurité de l’IA, soulignant que les dommages observés sont causés par des humains malveillants qui utilisent l’IA, et non par l’IA qui développerait elle-même des préférences divergentes.
Transitions du marché du travail et taux naturel de chômage
Imas s’inquiète d’un scénario de transition rapide dans lequel une percée en matière de coordination provoquerait une phase de transition soudaine dans les salaires et l’emploi. Étant donné que le réalignement du marché du travail prend généralement du temps, une perturbation rapide pourrait éloigner les travailleurs du marché du travail en raison de boucles de chômage récurrentes. Cowen s’attend à des perturbations similaires au “choc chinois” ou à la révolution industrielle, mais reste optimiste quant au marché du travail, anticipant de nouveaux emplois et projets qui n’ont pas encore été inventés. Tous deux soulignent un problème de recrutement immédiat : les employeurs ne peuvent pas encore déterminer si les candidats ont la flexibilité mentale nécessaire pour adopter les outils d’IA, ce qui pourrait temporairement augmenter le chômage de recherche et le taux naturel jusqu’à ce que des certifications spécifiques à l’IA et des mécanismes de mise en relation apparaissent.
Pourquoi le PIB devient une mesure incomplète.
La conversation revient fréquemment sur la question des mesures. Cowen défend le PIB comme un indicateur utile dans le passé, mais reconnaît que les biens numériques générés par l’IA, qui sont souvent gratuits ou presque, créent un décalage entre la production enregistrée et le bien-être réel des individus. Imas fait référence à des recherches sur des mesures modifiées, telles que le PIB-B ou le PIB-D, qui utilisent des données issues d’enquêtes pour évaluer le bien-être tiré des produits numériques peu coûteux ou gratuits. Les améliorations de la longévité grâce à l’IA pourraient encore accroître le bien-être sans que cela se reflète dans le PIB, et Cowen suggère que le PIB par habitant et l’espérance de vie sont des indicateurs distincts qui pourraient diverger. À court terme, le PIB reste un outil utile, mais à long terme, les décideurs politiques auront besoin d’indicateurs complémentaires pour juger si le pays est véritablement prospère.
Réglementation, économie politique et obstacles institutionnels.
Cowen soutient que les institutions ne fonctionnent ni aussi bien que ne le souhaitent les optimistes, ni aussi mal que ne le craignent les pessimistes. La réglementation entraînera une augmentation des coûts et créera des disparités géographiques : certains États ou villes pourraient interdire certaines utilisations de l’IA, mais la diffusion sur cinquante États rend un arrêt total improbable. Il cite le revirement du nouveau gouverneur du Texas et les discours divergents de Josh Shapiro par rapport à la réalité comme des exemples montrant que les extrêmes politiques s’atténuent dans la pratique. Concernant Nvidia et Jensen, les deux invités estiment que les mécanismes de contrôle et l’diversification des chaînes d’approvisionnement sont des forces stabilisatrices qui empêcheront qu’un point de défaillance unique ne fasse dérailler le secteur. Cowen ajoute que l’argent en politique est moins déterminant que ne le supposent souvent les élites technologiques ; même des centaines de millions de dépenses ne peuvent pas facilement acheter les résultats politiques souhaités en raison de la complexité institutionnelle.
Réflexions surprenantes.
- Les projections de revenus des principales entreprises d’IA pourraient être fausses, car personne ne peut identifier d’autres secteurs qui connaissent une croissance suffisamment rapide pour justifier ces valorisations, même si les entreprises elles-mêmes sont solides.
- Un agent d’IA peut surpasser deux agents qui partagent le travail, car les agents actuels sont peu performants en matière de coordination, tandis que deux personnes qui se répartissent les tâches surpassent largement une personne disposant de deux fois plus de ressources.
- Une croissance du PIB à deux chiffres nécessite des conditions quasi-théoriques, comme des rendements croissants des idées. Les données actuelles montrent des rendements décroissants, ce qui rend une croissance extrêmement rapide et durable improbable sans changements fondamentaux.
- L’adoption de la robotique sera lente, même dans les économies avancées. Washington, D.C., par exemple, ne dispose toujours pas d’un déploiement généralisé de robots de base, ce qui indique que les contraintes du monde physique retarderont la transformation de l’économie réelle.
- Le PIB risque bientôt de ne plus refléter correctement le bien-être humain, car l’IA produit une abondance de biens numériques gratuits. Une société pourrait prospérer alors que la croissance enregistrée reste dans une fourchette normale de 3 à 5 %.
- Le risque le plus important lié à l’IA n’est pas une IA mal alignée agissant de manière autonome, mais des humains mal intentionnés utilisant une IA alignée pour exécuter des instructions nuisibles, ce qui déplace le problème de la sécurité vers la gouvernance et les incitations plutôt que vers un simple alignement technique.
- L’argent politique a une influence limitée : même les dépenses importantes de personnalités du secteur technologique ne peuvent pas garantir de résultats politiques en raison des contre-pouvoirs et de la complexité du financement des campagnes.
- La simulation ne peut pas entièrement remplacer l’expérimentation. La critique de Lucas implique que les prédictions de l’IA basées sur des modèles historiques pourraient échouer lorsque les agents modifient leur comportement de manière endogène en réponse aux politiques ou aux technologies.
- Les progrès de l’IA sont les plus rapides dans les domaines où il y a peu de contraintes humaines, comme les mathématiques, où de nouveaux modèles peuvent apparaître en quelques semaines, tandis que les tâches économiquement importantes se diffusent beaucoup plus lentement.
- Une croissance temporaire à deux chiffres ne se produit qu’après une récession, une guerre ou une pandémie, et non grâce à l’IA seule, car les effets de rattrapage liés aux crises peuvent fausser temporairement le taux de croissance.
Points clés à retenir
- Suivez les tâches économiquement utiles rendues possibles par chaque itération de modèle, plutôt que de vous fier uniquement aux classements de référence pour évaluer l’impact réel de l’IA.
- Gérez les agents d’IA grâce à la conception de mécanismes et à des systèmes de contrôle, plutôt que de chercher à obtenir un alignement parfait des préférences des modèles.
- Surveillez les indicateurs de coordination dans les systèmes d’IA ; une percée dans la collaboration multi-agents pourrait transformer la taille des entreprises, les structures salariales et les modèles d’emploi plus rapidement que les simples gains d’intelligence.
- Complétez le PIB avec des mesures de bien-être basées sur des enquêtes (telles que le PIB-B ou le PIB-D) pour capturer la valeur des biens numériques gratuits ou à faible coût que l’IA rend abondants.
- Attendez-vous à ce que le déploiement de la robotique et de l’IA dans le monde physique soit plus lent que les progrès logiciels, en raison de la complexité réglementaire, des besoins d’infrastructure et d’une diffusion institutionnelle lente.
- Préparez-vous aux cicatrices temporaires du marché du travail pendant les transitions rapides de l’IA en investissant dans la formation, les services de reclassement et les certifications portables en matière de compétences en IA.
- Ne vous fiez pas uniquement aux capitalisations boursières, aux marchés de prédiction ou aux anecdotes sur les revenus de la région de la baie de San Francisco ; vérifiez l’impact économique de l’IA grâce aux données de productivité dans l’ensemble de l’économie.
- Privilégiez les paramètres structurels aux corrélations superficielles lors de la prévision des effets de l’IA, en reconnaissant que les agents et les institutions s’adapteront endogènemente aux nouvelles technologies.
- Soutenir les expérimentations dans l’enseignement supérieur afin de développer la flexibilité mentale et l’adaptabilité à l’IA chez les travailleurs, étant donné que les indicateurs de recrutement pour ces qualités sont actuellement faibles.
- Considérer les réactions réglementaires et politiques comme des obstacles qui augmentent les coûts et ralentissent le déploiement dans certaines régions, mais qui sont peu susceptibles de stopper la diffusion, compte tenu de la nature décentralisée de la gouvernance et des chaînes d’approvisionnement aux États-Unis.
Die zentrale Spannung des Gesprächs ist deutlich: KI-Modelle verbessern sich in außergewöhnlich schnellem Tempo, und agentenbasierte Systeme erledigen bereits echte Arbeit, anstatt nur Fragen zu beantworten. Dennoch wirkt die Wirtschaft im Grunde genommen normal. Marktdaten, Prognosemärkte und Umsatzprognosen spiegeln die sehr schnellen Fortschritte wider, die viele in der Silicon Valley erwarten. Alex Imas, der auf seine Arbeit bei Google DeepMind zurückgreift, räumt unglaubliche und beschleunigte Fortschritte ein, stellt aber die Frage, welche wirtschaftlich wertvollen Aufgaben jede neue Modelliteration tatsächlich ermöglicht. Er betont, dass eine deutliche Verbesserung in einem Benchmark nicht automatisch zu einer Beschleunigung in der realen Welt führt. Tyler Cowen, der zwar weiterhin von den langfristigen Potenzialen der KI überzeugt ist, hat in den letzten Wochen eine etwas pessimistischere Sichtweise eingenommen, und zwar aufgrund von ungewöhnlicher Volatilität bei Nvidia, der Tatsache, dass der Börsengang von Anthropic nicht über zwei Billionen Dollar lag, und von Umsatzzahlen, die nicht mit dem Hype übereinstimmen. Sein Kernargument ist, dass schnellere Fortschritte in der KI lediglich dazu führen, dass tatsächliche Engpässe schneller erreicht werden, und dass institutionelle Trägheit dafür sorgt, dass der Weg viel “normaler” sein wird, als es der Konsens in der Bay Area vermuten lässt.
Cowen begründet seinen Skeptizismus auf Wachstumstheorien und verweist auf Arbeiten von Ben Jones und Chad Jackson über die Bedingungen, die für ein singuläres, zweistelliges Wachstum erforderlich sind. Ein solches exponentielles Wachstum erfordert extrem schwierige Bedingungen, wobei vor allem das Fehlen abnehmender Erträge bei Innovationen entscheidend ist – das bedeutet, technologische Durchbrüche müssen immer mehr Durchbrüche mit weniger Ressourcen generieren. Aktuelle Daten, einschließlich des “Meter”-Berichts, zeigen, dass dieser Parameter deutlich unter dem Wert von eins liegt, was auf abnehmende Erträge hindeutet. Er relativiert dies mit historischen Beispielen: Guyana verzeichnete einst ein Wachstum von vierzig Prozent innerhalb eines Jahres durch den Verkauf von Öl, und die Vereinigten Staaten übertrafen kurzzeitig eine Wachstumrate von acht Prozent, als sie sich aus einer Rezession erholten, aber dies sind temporäre, auf kleinen Basen beruhende Ausreißer. Er argumentiert, dass Robotik nur langsam Verbreitung finden wird und weist darauf hin, dass selbst einfache Roboter wie WAMOs in Washington, D.C. noch nicht weit verbreitet sind. Imas baut darauf auf, indem er nicht-homothetische Präferenzen einführt: Wenn Automatisierung Güter billiger macht, werden diese Güter einen geringeren Anteil an der Wirtschaft ausmachen, wodurch der Wachstumswert sich auf Engpässe und nicht auf die automatisierten Sektoren selbst verlagert.
Das Gespräch wechselt zu dem, was Imas als den größeren Durchbruch betrachtet: KI-Agenten, die lernen, so gut zu koordinieren, dass sie menschliche Organisationen übertreffen. Derzeit sind Agenten erstaunlich schlecht in der Koordination; sie arbeiten hauptsächlich parallel. Benchmarks zeigen, dass ein einzelner Agent zwei Agenten übertreffen kann, die eine Aufgabe teilen, selbst wenn Kommunikation erlaubt ist. Im Gegensatz dazu übertreffen zwei Menschen mit Arbeitsteilung bei weitem eine einzelne Person mit doppelten Ressourcen. Wenn die Koordination verbessert wird, könnte dies die Kostenobergrenze für Unternehmensgrößen aufbrechen und grundlegend die Löhne, die Beschäftigung und die Organisationsstruktur verändern. Imas räumt jedoch ein, dass er nicht weiß, wo die Hauptursache für die mangelnde Koordination bei Agenten liegt. Er spekuliert, dass es möglicherweise einfach daran liegen könnte, dass die Koordination während des Feinabstimmens der Modelle nicht trainiert wird. Cowen geht dieses Problem aus der Perspektive der Principal-Agent-Theorie an und argumentiert, dass eine perfekte Ausrichtung nicht notwendig ist; was zählt sind Kontrollmechanismen, Gewaltenteilung und Mechanismen, die sicherstellen, dass Agenten die Interessen der Auftraggeber vertreten, selbst wenn ihre eigenen Präferenzen abweichen.
Imas äußert eine spezifische Befürchtung im Hinblick auf die Arbeitsmärkte: Wenn ein koordinativer Durchbruch zu einem schnellen Übergang führt, könnte die Wirtschaft eine Phase durchlaufen, in der Löhne und Beschäftigung plötzlich verschoben werden, wodurch keine Zeit für den üblichen Prozess der Anpassung verbleibt, der typischerweise arbeitslose Menschen wieder in den Arbeitsmarkt integriert. Dies könnte große Arbeitslosenzahlen und langfristige negative Auswirkungen verursachen, die Menschen vollständig aus dem Arbeitsmarkt drängen. Cowen ist insgesamt optimistischer und erwartet Störungen, die denen des “China-Schocks” oder der Industriellen Revolution ähneln, aber letztendlich werden neue Arbeitsplätze und Projekte entstehen. Beide stimmen jedoch darin überein, dass die Einstellung von Personal schwieriger wird, weil Arbeitgeber nicht mehr wissen, ob Kandidaten über die erforderliche mentale Flexibilität verfügen, um KI-Kenntnisse zu erwerben. Dies könnte vorübergehend die natürliche Arbeitslosenquote erhöhen, bis Zertifizierungen und KI-gestützte Vermittlungsverfahren entwickelt werden.
Messung und Politik spielen ebenfalls eine wichtige Rolle. Cowen bezeichnet das Bruttoinlandsprodukt (BIP) als die am wenigsten geschätzte Kennzahl, räumt aber ein, dass es weniger genau wird, da KI kostenlose digitale Güter generiert. Er schlägt daher umfragebasierte Verbesserungen des BIP vor, wie z. B. GDP-B oder GDP-D, um Bereiche zu erfassen, die von traditionellen Marktmechanismen nicht berücksichtigt werden. Verbesserungen der Lebenserwartung durch KI könnten den menschlichen Wohlstand ebenfalls steigern, ohne dies in herkömmlichen Statistiken widerzuspiegeln. Vorschriften werden die Kosten erhöhen und die Einführung in bestimmten Bereichen verlangsamen, aber Cowen bezweifelt, dass sie die Verbreitung stoppen werden. Er weist darauf hin, dass fünfzig Bundesstaaten zu viele Zugangspunkte schaffen, und selbst der neue Gouverneur von Texas geht bereits von seinen strengen KI-Beschränkungen zurück. Die Situation von Nvidia und Jensen wird als Beispiel für die Robustheit von Institutionen gesehen: Kontrollmechanismen, Diversifizierung der Lieferketten und das Zusammenspiel von politischen und wirtschaftlichen Reaktionen werden extreme Szenarien von selbst begrenzen und den tatsächlichen Entwicklungspfad verlangsamen, sowohl im Vergleich zu denjenigen, die eine düstere Zukunft erwarten, als auch zu denjenigen, die eine beschleunigte Entwicklung befürworten.
Das Gespräch endet mit einem Blick auf die Hochschulbildung und den bleibenden Wert der Wirtschaftswerkzeuge. Imas ist optimistisch, was langfristige Innovationen im Hochschulbereich angeht, trotz der langsamen Entwicklung der Institutionen. Beide Gäste sehen die Mechanismendesign, die Lucas-Kritik und das strukturelle Denken als unterschätzte Instrumente, um die gesamtwirtschaftlichen Auswirkungen der KI zu bewältigen. Cowen verweist auf seine frühen Überzeugungen bezüglich der KI, die er als Wunderkind beim Beobachten eines Schachcomputers namens Tinkerbell entwickelte. Er erkannte, dass, wenn Maschinen Intuition besiegen können, sie auch andere Bereiche erobern könnten. Das Gespräch endet mit einem Hinweis auf epistemische Demut: Simulationen können Experimente nicht ersetzen, strukturelle Parameter sind wichtiger als vereinfachte Korrelationen, und das amerikanische System – unvollkommen, aber voller Potenzial – wird die Schocks der KI wahrscheinlich allmählicher absorbieren, als extreme Prognosen vorhersagen.
Wichtige Diskussionspunkte
Das Produktivitätsparadoxon: Vergleichbarkeit von Fortschritt und wirtschaftlicher Realität
Sowohl Alex Imas als auch Tyler Cowen betonen, dass außergewöhnliche Modellleistungen in Benchmarks nicht automatisch zu außergewöhnlichem Wirtschaftswachstum führen. Imas weist darauf hin, dass der Übergang von KI-Systemen im Chatbot-Bereich zu agentenbasierten Systemen zwar echte Produktivitätssteigerungen mit sich gebracht hat – Systeme, die tatsächlich Arbeit verrichten und nicht nur Informationen abrufen –, viele wirtschaftlich wertvolle Aufgaben jedoch immer noch unzureichend definiert sind, was die rapiden Fortschritte in Benchmarks irreführend macht. Cowen geht weiter und argumentiert, dass extreme Umsatzangaben, die von führenden KI-Forschungszentren genannt werden, nur dann gerechtfertigt werden können, wenn andere Sektoren der Wirtschaft schnell genug wachsen, um diese Dienstleistungen zu erwerben. Als er dies in der Bay Area angesprochen hat, konnte niemand solche Sektoren nennen. Marktdaten – Zinssätze, Aktienkurse, Prognosemärkte – sehen immer noch normal aus, was darauf hindeutet, dass die breitere Wirtschaft die KI-gesteuerte Produktivitätssteigerung noch nicht im großen Maßstab integriert hat.
Bedingungen für zweistelliges Wachstum und die Idee-Produktionsfunktion
Cowen erläutert die theoretischen Voraussetzungen für ein extremes Wachstum anhand des Jones- und Jones-Modells: Ein zweistelliges Wachstum erfordert sehr spezielle Bedingungen, insbesondere steigende, nicht sinkende Grenzerträge bei Innovationen. Aktuelle empirische Schätzungen legen diesen Wert unter eins, was bedeutet, dass jedes neue KI-Modell mehr Ressourcen benötigt, um nur geringe Verbesserungen der Intelligenz zu erzielen. Imas ergänzt dies mit dem Konzept der nicht-homothetischen Präferenzen: Wenn die Automatisierung Güter billiger macht, verlieren diese Güter als Anteil am Bruttoinlandsprodukt an Bedeutung, wobei der Wert auf Engpässe wie Gesundheitswesen, Bildung und regulierte Dienstleistungen verlagert wird. Cowen veranschaulicht dies anhand historischer Ausreißer – wie den um 40 Prozent gestiegenen Ölpreisen in Guyana oder die Nachwachsphasen der US-Wirtschaft nach Rezessionen – und zeigt, dass vorübergehendes, explosionsartiges Wachstum von besonderen Umständen herrührt und nicht von einem nachhaltigen technologischen Fortschritt. Nach seiner Ansicht wird die Robotik nur langsam verbreitet, da die Anwendung in der realen Welt mit Reibungsverlusten verbunden ist, die Software nicht hat.
Agenten-Koordination und die Zukunft der Firma.
Imas identifiziert die Agenten-Koordination als das entscheidende fehlende Element. Heutige KI-Agenten führen meist parallele Prozesse durch, anstatt eine echte Zusammenarbeit. Benchmarks zeigen, dass ein einzelner Agent eine Aufgabe oft besser bewältigen kann als zwei Agenten, die sie teilen. Menschen hingegen zeichnen sich durch Arbeitsteilung und Kommunikation aus. Imas argumentiert, dass eine effektive Koordination von Agenten möglicherweise die Kosten für die Unternehmensgröße senken, die Beschäftigungs- und Lohnstrukturen verändern und Organisationsformen hervorbringen könnte, die sich von allem unterscheiden, was es derzeit gibt. Cowen antwortet aus einer Perspektive der Principal-Agent-Theorie: Eine perfekte Übereinstimmung ist nicht erforderlich. Stattdessen können Kontrollmechanismen, Gewaltenteilung und Mechanismendesign zu positiven Ergebnissen führen, selbst wenn einzelne Agenten nicht übereinstimmen. Beide betonen, dass die Panikmache um KI-Sicherheit übertrieben ist, da die beobachteten Schäden von böswilligen Menschen verursacht werden, die KI einsetzen, und nicht davon, dass KI selbst unerwünschte Präferenzen entwickelt.
Übergänge auf dem Arbeitsmarkt und die natürliche Arbeitslosenquote
Imas äußert Bedenken hinsichtlich eines Szenarios mit einem schnellen Übergang, in dem ein Durchbruch bei der Koordination zu einer plötzlichen Veränderung der Löhne und der Beschäftigung führt. Da die Anpassung auf dem Arbeitsmarkt normalerweise Zeit benötigt, könnte eine rasche Veränderung dazu führen, dass Arbeitskräfte aufgrund von sich wiederholenden Arbeitslosigkeit aus dem Arbeitsmarkt gedrängt werden. Cowen erwartet Störungen, die denen ähneln, die durch den “China-Schock” oder die Industrielle Revolution verursacht wurden, bleibt aber insgesamt optimistisch, was die Arbeitsmärkte betrifft, und erwartet neue Arbeitsplätze und Projekte, die noch nicht erfunden wurden. Beide weisen auf ein unmittelbares Problem beim Einstellungsprozess hin: Arbeitgeber können derzeit oft nicht feststellen, ob Bewerber flexibel genug sind, um KI-Tools zu nutzen, was vorübergehend die Arbeitslosigkeit und die natürliche Arbeitslosenquote erhöhen könnte, bis KI-spezifische Zertifizierungen und passende Mechanismen entwickelt werden.
Warum das Bruttoinlandsprodukt (BIP) zu einer unvollständigen Messgröße wird.
Das Gespräch kehrt immer wieder zu dem Thema der Messung zurück. Cowen verteidigt das Bruttoinlandsprodukt (BIP) als historisch nützliches Instrument, räumt aber ein, dass KI-generierte digitale Güter – die oft kostenlos oder nahezu kostenlos sind – eine Diskrepanz zwischen der erfassten Leistung und dem tatsächlichen menschlichen Wohlergehen schaffen. Imas verweist auf Forschungsergebnisse zu angepassten Messgrößen wie dem “GDP-B” oder “GDP-D”, die datenbasierte Umfragen nutzen, um das Wohlergehen, das aus günstigen oder kostenlosen digitalen Produkten resultiert, zu erfassen. Verbesserungen der Lebenserwartung dank KI könnten das Wohlergehen weiter steigern, ohne sich im BIP widerzuspiegeln. Cowen deutet an, dass das BIP pro Kopf und die Lebenserwartung unterschiedliche Kennzahlen sind, die sich im Laufe der Zeit voneinander entfernen können. Kurzfristig bleibt das BIP ein brauchbares Instrument, aber langfristig werden politische Entscheidungsträger ergänzende Indikatoren benötigen, um zu beurteilen, ob ein Land tatsächlich erfolgreich ist.
Regulierung, politische Ökonomie und institutionelle Hindernisse
Cowen argumentiert, dass Institutionen weder so reibungslos funktionieren, wie Optimisten hoffen, noch so schlecht, wie Pessimisten befürchten. Regulierungen werden Kosten verursachen und geografische Unterschiede schaffen – einige Bundesstaaten oder Städte könnten bestimmte KI-Anwendungen verbieten –, aber eine vollständige Abschaltung ist aufgrund der Verbreitung über fünfzig Bundesstaaten unwahrscheinlich. Er zitiert die Rücknahme bestimmter Maßnahmen des neuen Gouverneurs von Texas und die unterschiedliche Rhetorik von Josh Shapiro im Vergleich zur Realität als Beweis dafür, dass politische Extreme in der Praxis oft abgemildert werden. In Bezug auf Nvidia und Jensen sehen beide Gäste Kontrollmechanismen und eine diversifizierte Lieferkette als stabilisierende Kräfte, die verhindern, dass ein einzelner Schwachpunkt den Sektor zum Scheitern bringt. Cowen fügt hinzu, dass Geld in der Politik weniger ausschlaggebend ist, als es Technologieeliten oft annehmen; selbst Hunderte von Millionen an Ausgaben können aufgrund der institutionellen Komplexität keine gewünschten politischen Ergebnisse erzwingen.
Überraschende Erkenntnisse
- Die Umsatzprognosen führender KI-Unternehmen könnten falsch sein, da es keinen anderen Sektor gibt, der schnell genug wächst, um diese Bewertungen zu rechtfertigen, selbst wenn die Unternehmen selbst stark sind.
- Ein einzelner KI-Agent kann zwei Agenten übertreffen, die Aufgaben aufteilen, weil aktuelle Agenten schlecht in der Koordination sind. Zwei Menschen mit Arbeitsteilung übertreffen jedoch einen einzelnen Menschen mit doppelten Ressourcen bei Weitem.
- Ein zweistelliges Wirtschaftswachstum erfordert nahezu theoretische Bedingungen wie steigende Erträge aus Ideen. Aktuelle Daten zeigen jedoch abnehmende Erträge, was ein nachhaltiges, extrem schnelles Wachstum unwahrscheinlich macht, es sei denn, es kommt zu grundlegenden Veränderungen.
- Die Einführung von Robotern wird selbst in fortgeschrittenen Volkswirtschaften langsam sein. In Washington, D.C. gibt es beispielsweise noch keine weit verbreitete Nutzung von grundlegenden Robotern, was darauf hindeutet, dass die Herausforderungen in der realen Welt die Transformation der Wirtschaft verzögern werden.
- Das Bruttoinlandsprodukt (BIP) könnte bald das menschliche Wohlergehen falsch messen, da KI eine Fülle kostenloser digitaler Güter produziert. Eine Gesellschaft kann florieren, während das registrierte Wachstum in einem normalen Bereich von 3–5 Prozent bleibt.
- Das größte Risiko der KI liegt nicht in einer fehlgeleiteten KI, die eigenständig handelt, sondern in böswilligen Menschen, die KI nutzen, um schädliche Anweisungen auszuführen. Dies verschiebt das Sicherheitsproblem von der reinen technischen Ausrichtung hin zu Governance und Anreizsystemen.
- Politisches Kapital hat begrenzte Macht: Selbst hohe Ausgaben von Technologie-Mogulen können politische Ergebnisse nicht zuverlässig beeinflussen, da Kontrollmechanismen und die Komplexität der Wahlkampffinanzierung dies verhindern.
- Simulationen können Experimenten nicht vollständig ersetzen. Die Lucas-Kritik besagt, dass KI-Vorhersagen, die auf historischen Mustern basieren, möglicherweise fehlschlagen, wenn Agenten ihr Verhalten als Reaktion auf politische Maßnahmen oder Technologien endogen ändern.
- Die Fortschritte in der KI sind am schnellsten in Bereichen, in denen es wenige menschliche Engpässe gibt, wie z. B. in der Mathematik, wo neue Modelle innerhalb weniger Wochen entstehen können. Wirtschaftlich relevante Aufgaben hingegen verbreiten sich viel langsamer.
- Eine vorübergehende zweistellige Wachstumsrate tritt möglicherweise nur nach einer Rezession, einem Krieg oder einer Pandemie auf, und nicht allein aufgrund von KI, da die Nachholeffekte von Krisen kurzfristig die Wachstumsrate verzerren können.
Praktische Erkenntnisse
- Beobachten Sie wirtschaftlich wertvolle Aufgaben, die durch jede Modelliteration ermöglicht werden, anstatt sich ausschließlich auf Benchmark-Ranglisten zu verlassen, um die tatsächliche Auswirkungen von KI zu beurteilen.
- Steuern Sie KI-Systeme durch Mechanismendesign und Kontrollmechanismen, anstatt zu versuchen, eine perfekte Übereinstimmung der Modellpräferenzen zu erreichen.
- Überwachen Sie Koordinationsbenchmarks in KI-Systemen. Ein Durchbruch in der Zusammenarbeit von mehreren Agenten könnte die Größe von Unternehmen, die Lohnstrukturen und die Beschäftigungsmuster schneller verändern als reine Fortschritte in der Intelligenz.
- Ergänzen Sie das Bruttoinlandsprodukt (BIP) um umfragebasierte Wohlfahrtsindikatoren (z. B. GDP-B oder GDP-D), um den Wert von kostenlosen oder kostengünstigen digitalen Gütern zu erfassen, die durch KI in großem Umfang verfügbar gemacht werden.
- Erwarten Sie, dass die Einführung von Robotik und KI im physischen Bereich hinter den Fortschritten in der Software zurückbleibt, aufgrund der regulatorischen Komplexität, der Infrastrukturanforderungen und der langsamen institutionellen Verbreitung.
- Bereiten Sie sich auf vorübergehende Arbeitsmarktschäden während schneller KI-Übergänge vor, indem Sie in Umschulungen, Vermittlungsdienste und tragbare KI-Zertifizierungen investieren.
- Verlassen Sie sich nicht allein auf Marktkapitalisierungen, Prognosemärkte oder Anekdoten aus der Bucht von San Francisco; überprüfen Sie die wirtschaftlichen Auswirkungen von KI anhand von Produktivitätsdaten in der gesamten Wirtschaft.
- Priorisieren Sie strukturelle Parameter gegenüber reduzierten Korrelationen bei der Prognose der Auswirkungen von KI, da Akteure und Institutionen sich endogen an neue Technologien anpassen werden.
- Fördern Sie Experimente im Hochschulbereich, um die geistige Flexibilität und die Anpassungsfähigkeit an KI bei Arbeitnehmern zu stärken, da die derzeitigen Einstellungskriterien für diese Eigenschaften oft unzureichend sind.
- Betrachten Sie regulatorischen und politischen Widerstand als Hindernisse, die Kosten erhöhen und die Einführung in bestimmten Bereichen verlangsamen, aber es ist unwahrscheinlich, dass dies die Verbreitung insgesamt aufhalten wird, angesichts der dezentralen Struktur der US-amerikanischen Regierung und der Lieferketten.
AI capabilities are improving fast. But will the economy move just as quickly? a16z General Partner Erik Torenberg sits down with Google DeepMind economist Alex Imas and economist Tyler Cowen to examine how advances in AI translate into growth, jobs, wages, and productivity.
They debate what it would take to reach double-digit economic growth, why bottlenecks and falling AI costs could slow the impact, and whether frontier lab valuations require much larger productivity gains.
They also explore the “economics of intelligence,” including why the bigger shift may come not from smarter individual agents, but from AI agents learning to coordinate at scale.
Resources:
Follow Alex Imas on X:https://x.com/alexolegimas
Follow Tyler Cowen on X:https://x.com/tylercowen
Follow Erik Torenberg on X:https://x.com/eriktorenberg
Stay Updated:
Find a16z on YouTube: YouTube
Find a16z on X
Find a16z on LinkedIn
Listen to the a16z Show on Spotify
Listen to the a16z Show on Apple Podcasts
Follow our host: https://twitter.com/eriktorenberg
Please note that the content here is for informational purposes only; should NOT be taken as legal, business, tax, or investment advice or be used to evaluate any investment or security; and is not directed at any investors or potential investors in any a16z fund. a16z and its affiliates may maintain investments in the companies discussed. For more details please see a16z.com/disclosures.
Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.

-
The Next Frontier of AI Video Is Control
a16z General Partner Jennifer Li sits down with fal co-founder Gorkem Yurtseven and Head of Engineering Batuhan Taskaya to discuss what changes when generative video becomes fast enough to run in real time. They unpack…
-
The AI-Native CRM
a16z’s Alex Rampell and Joe Schmidt sit down with Lightfield co-founder and CEO Keith Peiris to discuss what it takes to rethink the CRM for an AI-native world, and the unusual pivot that got him…
-
The Age of Body Futurism | Ruby Justice Thelot
Elena Burger sits down with academic and cyber ethnographer Ruby Justice Thelot to explore the increasingly blurry line between internet culture and the real world, and how to tell the difference between a trend that’s…
-
Greg Brockman on Why OpenAI Says We’re Entering the AGI Era
Ben Horowitz and Erik Torenberg sit down with OpenAI co-founder and President Greg Brockman to discuss why he believes AI has entered a new phase, what OpenAI’s latest models reveal about the path to AGI,…
-
World Models, Robotics, and the Future of 3D AI
World Labs co-founder Justin Johnson joins MTS hosts Theo Jaffee and Sofia Puccini to discuss Atlas, World Labs’ latest world model, and the broader case for AI systems that understand and interact with the physical…
-
Why Companies Are Becoming a Series of Loops | Anish Acharya on Lenny’s Podcast
a16z General Partner Anish Acharya joins Lenny Rachitsky on Lenny’s Podcast to discuss why fears of an AI-driven “permanent underclass” may be misplaced, how AI is changing the way companies operate, and why the opportunity…
-
What It Takes to Build a Startup | Andrew Chen & Matt Perault
a16z’s Matt Perault sits down with General Partner and Speedrun lead Andrew Chen on the a16z AI Policy Brief to explore what “Little Tech” actually looks like at the earliest stages, and why the realities…
-
How AI Is Rewriting the Power Law of Venture Capital
a16z’s Jen Kha and David George sit down with Accolade Partners’ Aram Verdiyan to discuss how AI is changing the power law of technology investing, why the largest companies can compound advantages in ways that…
-
Who Grades the AI Models? | Ben Horowitz & Rayan Krishnan
a16z’s Erik Torenberg, Ben Horowitz, and Jennifer Li sit down with Vals founder and CEO Rayan Krishnan to discuss one of AI’s increasingly difficult problems: how do you actually measure whether a model is getting…
-
OpenAI Researchers on the Future of Mathematical Reasoning
a16z Infra Partner Lisha Li sits down with OpenAI mathematicians Mehtaab Sawhney and Mark Sellke to discuss how quickly AI’s mathematical capabilities are advancing, what recent results reveal about model reasoning, and what happens when…
