Summary & Insights
Building foundational AI models is more like constructing a rocket than a typical software project—a feat so resource-intensive that only about ten companies in the world can do it. This perspective from Nick Frosst, co-founder of the enterprise AI company Cohere, frames a wide-ranging conversation that traces the evolution of AI from an academic pursuit to the defining economic narrative of our time. Frosst, a former Google Brain researcher who worked with Geoffrey Hinton, explains Cohere’s singular focus on creating large language models for business and government use, contrasting with consumer-facing giants like OpenAI. He delves into the transformer architecture’s breakthrough, its accessibility through chat interfaces, and why this moment feels uniquely transformative.
The discussion explores the practical, often unseen, applications of AI within enterprises, where Cohere’s models securely automate tasks like synthesizing reports from internal data. Frosst is candid about the technology’s limitations, expressing skepticism that current models will lead to artificial general intelligence (AGI) and criticizing the industry’s over-focus on it as a distracting, almost religious narrative. Instead, he advocates for a pragmatic conversation about AI’s real-world impact: its potential to augment rather than replace human work, and the pressing need for policy to manage its disruptive effects on labor markets and inequality.
Looking forward, Frosst outlines Cohere’s path as a foundational infrastructure provider, akin to a utility, and its ambitions to become a public, enduring company. He places AI development in a geopolitical context, noting that only four countries currently possess the capability to build this technology, and argues for its strategic importance without resorting to alarmist “arms race” metaphors. Throughout, he emphasizes that the true value of AI lies not in replicating human intelligence, but in freeing people from tedious work to focus on creative and strategic thinking.
Surprising Insights
- The development of foundational AI models is so capital- and expertise-intensive that it’s comparable to aerospace or heavy infrastructure, with only about ten companies globally capable of doing it.
- The massive adoption wave sparked by ChatGPT was fueled by a relatively small amount of chat-specific fine-tuning data applied to a model trained on the entire web, an unexpectedly efficient process that made the technology intuitive for the public.
- Despite the hype, a leading AI builder is openly skeptical that transformer-based models will lead to AGI, viewing the pursuit as a narrative distraction from more pressing discussions about economic policy and practical integration.
- The business model for enterprise AI is fundamentally different from consumer AI; by deploying models directly into a client’s secure environment, companies like Cohere can achieve healthy margins without the massive per-customer losses seen in some consumer-facing AI services.
- From a global perspective, the capability to build frontier AI models is currently limited to just four countries: the US, China, France, and Canada.
Practical Takeaways
- For those considering a career in an AI-disrupted world, prioritize following your genuine curiosity and passion over trying to predict the “optimal” field, as the landscape is too chaotic to forecast accurately.
- When implementing AI in an enterprise, focus on its strength in automating specific, often tedious tasks (like cross-referencing data from emails and CRM systems) to augment human workers, not replace entire roles.
- To maintain a healthy perspective in a field dominated by intense hype and doomsday scenarios, ground yourself in activities completely unrelated to technology and study history to recognize that while our times feel unprecedented, humanity has navigated many periods of radical change.
- Approach the conversation about AI’s economic impact by advocating for smart policy and regulation aimed at equitable wealth distribution, rather than getting caught in unproductive debates about hypothetical existential risks.
Cuộc thảo luận khám phá các ứng dụng thực tế, thường không được chú ý, của AI trong doanh nghiệp, nơi các mô hình của Cohere tự động hóa một cách an toàn các nhiệm vụ như tổng hợp báo cáo từ dữ liệu nội bộ. Frosst thẳng thắn về những hạn chế của công nghệ, bày tỏ sự hoài nghi rằng các mô hình hiện tại sẽ dẫn đến trí tuệ nhân tạo phổ quát (AGI) và chỉ trích việc ngành công nghiệp tập trung quá mức vào nó như một câu chuyện gây xao nhãng, gần như mang tính tôn giáo. Thay vào đó, ông ủng hộ một cuộc đối thoại thực tế về tác động của AI trong thế giới thực: khả năng bổ trợ hơn là thay thế công việc của con người, và nhu cầu cấp thiết về chính sách để quản lý tác động phá vỡ của nó đối với thị trường lao động và bất bình đẳng.
Hướng tới tương lai, Frosst phác thảo con đường của Cohere với tư cách là nhà cung cấp cơ sở hạ tầng nền tảng, tương tự như một tiện ích công cộng, và tham vọng trở thành một công ty bền vững, đại chúng. Ông đặt sự phát triển AI vào bối cảnh địa chính trị, lưu ý rằng hiện chỉ có bốn quốc gia sở hữu khả năng xây dựng công nghệ này, và tranh luận về tầm quan trọng chiến lược của nó mà không cần dùng đến những phép ẩn dụ báo động về “cuộc chạy đua vũ trang”. Xuyên suốt, ông nhấn mạnh rằng giá trị thực sự của AI không nằm ở việc sao chép trí thông minh con người, mà ở việc giải phóng con người khỏi công việc tẻ nhạt để tập trung vào tư duy sáng tạo và chiến lược.
Những Góc Nhìn Bất Ngờ
- Việc phát triển các mô hình AI nền tảng đòi hỏi nguồn vốn và chuyên môn khổng lồ đến mức có thể so sánh với ngành hàng không vũ trụ hoặc cơ sở hạ tầng nặng, với chỉ khoảng mười công ty trên toàn cầu có khả năng thực hiện.
- Làn sóng ứng dụng rộng rãi do ChatGPT khơi mào được thúc đẩy bởi một lượng dữ liệu tinh chỉnh tương đối nhỏ dành riêng cho trò chuyện, được áp dụng cho một mô hình đã được huấn luyện trên toàn bộ web – một quy trình hiệu quả bất ngờ khiến công nghệ này trở nên trực quan với công chúng.
- Bất chấp sự cường điệu hóa, một nhà xây dựng AI hàng đầu lại công khai tỏ ra hoài nghi rằng các mô hình dựa trên transformer sẽ dẫn đến AGI, xem việc theo đuổi AGI như một câu chuyện gây xao nhãng khỏi những thảo luận cấp thiết hơn về chính sách kinh tế và tích hợp thực tiễn.
- Mô hình kinh doanh AI doanh nghiệp về cơ bản khác với AI tiêu dùng; bằng cách triển khai trực tiếp mô hình vào môi trường bảo mật của khách hàng, các công ty như Cohere có thể đạt được biên lợi nhuận lành mạnh mà không gặp phải khoản lỗ lớn trên mỗi khách hàng như một số dịch vụ AI hướng đến người dùng cá nhân.
- Từ góc độ toàn cầu, khả năng xây dựng các mô hình AI tiên phong hiện chỉ giới hạn ở bốn quốc gia: Mỹ, Trung Quốc, Pháp và Canada.
Điểm Rút Ra Thực Tiễn
- Đối với những người đang cân nhắc sự nghiệp trong một thế giới bị AI tác động, hãy ưu tiên theo đuổi trí tò mò và đam mê thực sự của bản thân thay vì cố gắng dự đoán lĩnh vực “tối ưu”, bởi bức tranh tổng thể quá hỗn loạn để dự báo chính xác.
- Khi triển khai AI trong doanh nghiệp, hãy tập trung vào thế mạnh của nó trong việc tự động hóa các nhiệm vụ cụ thể, thường là tẻ nhạt (như đối chiếu dữ liệu từ email và hệ thống CRM) để hỗ trợ con người, không phải để thay thế toàn bộ vai trò.
- Để duy trì góc nhìn lành mạnh trong một lĩnh vực ngập tràn sự cường điệu và kịch bản tận thế, hãy bám rễ vào các hoạt động hoàn toàn không liên quan đến công nghệ và nghiên cứu lịch sử để nhận ra rằng dù thời đại của chúng ta có vẻ chưa từng có, nhân loại đã đi qua nhiều giai đoạn thay đổi căn bản.
- Tiếp cận cuộc thảo luận về tác động kinh tế của AI bằng cách ủng hộ các chính sách và quy định thông minh hướng tới phân phối của cải công bằng, thay vì sa vào những cuộc tranh luận không hiệu quả về các rủi ro hiện sinh giả định.
構建基礎人工智慧模型，比起一般的軟體專案，更像是建造火箭——這項任務對資源的需求如此龐鉅，全球僅有約十家公司能夠勝任。企業人工智慧公司Cohere共同創辦人尼克·弗羅斯特的這個觀點，為一場廣泛的對話定下了基調。這場對話追溯了人工智慧從學術追求演變為當代經濟核心敘事的歷程。弗羅斯特曾任職於Google Brain，與傑佛瑞·辛頓共事，他解釋了Cohere為何專注於為企業和政府打造大型語言模型，這與OpenAI等面向消費者的巨頭形成對比。他深入探討了Transformer架構的突破性、透過聊天介面實現的普及性，以及為何此刻感覺如此具有變革意義。
這場討論探索了人工智慧在企業中的實際應用（這些應用往往不為人所見），例如Cohere的模型能夠安全地自動執行從內部數據合成報告等任務。弗羅斯特坦率地談論了該技術的局限性，他對當前模型能否導向人工通用智慧（AGI）表示懷疑，並批評產業對此過度關注，認為這是一種令人分心、近乎宗教式的敘事。相反，他主張對人工智慧的現實影響進行務實的討論：其潛力在於增強而非取代人類工作，並且迫切需要政策來管理其對勞動力市場和不平等的顛覆性影響。
展望未來，弗羅斯特概述了Cohere的發展路徑，即成為類似公共事業的基礎設施供應商，並渴望成為一家公開上市、持久發展的公司。他將人工智慧發展置於地緣政治脈絡中，指出目前僅有四個國家擁有構建此技術的能力，並主張其戰略重要性，但不訴諸危言聳聽的「軍備競賽」比喻。他始終強調，人工智慧的真正價值不在於複製人類智慧，而在於將人們從繁瑣工作中解放出來，專注於創造性和策略性思考。
驚人洞見
- 基礎人工智慧模型的開發需要極高的資本與專業知識，堪比航太或重型基礎設施，全球僅約十家公司有能力進行。
- ChatGPT所引發的大規模應用浪潮，其驅動因素相對較少：僅需將少量的、針對聊天場景的微調數據，應用於一個基於整個網路訓練的模型之上。這個過程出人意料地高效，使該技術得以直觀地呈現在公眾面前。
- 儘管炒作不斷，一位領先的人工智慧建造者公開懷疑，基於Transformer的模型能否導向AGI，並認為對AGI的追求是一種敘事上的干擾，使人們忽略了關於經濟政策和實際整合的更迫切討論。
- 企業人工智慧的商業模式與消費性人工智慧根本不同；透過將模型直接部署到客戶的安全環境中，像Cohere這樣的公司可以獲得健康的利潤率，而不會像某些面向消費者的AI服務那樣出現巨額的單客戶虧損。
- 從全球視角來看，目前僅有四個國家擁有構建前沿人工智慧模型的能力：美國、中國、法國和加拿大。
實用建議
- 對於考慮在受人工智慧影響的世界中規劃職業的人，建議優先追隨自己真正的好奇心和熱情，而非試圖預測「最優」領域，因為該領域變化過於劇烈，難以準確預測。
- 在企業中導入人工智慧時，應聚焦於其自動化特定、往往是繁瑣任務的優勢（例如交叉引用電子郵件和CRM系統中的數據），以增強而非完全取代人類員工。
- 要在一個充斥著狂熱炒作和末日預言的領域保持健康的視角，請投身於與科技完全無關的活動，並學習歷史以認識到，儘管我們的時代感覺前所未有，但人類已成功渡過了許多劇變時期。
- 在討論人工智慧的經濟影響時，應倡導明智的政策與法規，以實現財富的公平分配，而不是陷入關於假設性生存風險的無益爭論。
Construir modelos de IA fundamentales se parece más a fabricar un cohete que a un proyecto de software típico: una hazaña tan intensiva en recursos que solo unas diez empresas en el mundo pueden hacerlo. Esta perspectiva de Nick Frosst, cofundador de la empresa de IA Cohere, enmarca una conversación amplia que traza la evolución de la IA desde una búsqueda académica hasta la narrativa económica definitoria de nuestro tiempo. Frosst, ex investigador de Google Brain que trabajó con Geoffrey Hinton, explica el enfoque singular de Cohere en crear modelos de lenguaje extenso para uso empresarial y gubernamental, en contraste con gigantes orientados al consumidor como OpenAI. Profundiza en el avance de la arquitectura transformer, su accesibilidad a través de interfaces de chat y por qué este momento se siente especialmente transformador.
La discusión explora las aplicaciones prácticas, a menudo invisibles, de la IA dentro de las empresas, donde los modelos de Cohere automatizan de manera segura tareas como sintetizar informes a partir de datos internos. Frosst es franco sobre las limitaciones de la tecnología, expresando escepticismo sobre que los modelos actuales conduzcan a la inteligencia artificial general (IAG) y criticando la excesiva atención de la industria hacia ella como una narrativa distractora, casi religiosa. En su lugar, aboga por una conversación pragmática sobre el impacto real de la IA: su potencial para aumentar en lugar de reemplazar el trabajo humano, y la urgente necesidad de políticas para gestionar sus efectos disruptivos en los mercados laborales y la desigualdad.
Mirando hacia adelante, Frosst describe el camino de Cohere como proveedor de infraestructura fundamental, similar a un servicio público, y sus ambiciones de convertirse en una empresa pública y duradera. Sitúa el desarrollo de la IA en un contexto geopolítico, señalando que solo cuatro países poseen actualmente la capacidad de construir esta tecnología, y argumenta su importancia estratégica sin recurrir a metáforas alarmistas de “carrera armamentística”. En todo momento, enfatiza que el verdadero valor de la IA no está en replicar la inteligencia humana, sino en liberar a las personas del trabajo tedioso para que se concentren en el pensamiento creativo y estratégico.
Perspectivas Sorpresivas
- El desarrollo de modelos de IA fundamentales es tan intensivo en capital y experiencia que es comparable a la aeroespacial o la infraestructura pesada, con solo unas diez empresas a nivel mundial capaces de hacerlo.
- La enorme ola de adopción desencadenada por ChatGPT fue impulsada por una cantidad relativamente pequeña de datos de ajuste específicos para chat aplicados a un modelo entrenado en toda la web, un proceso inesperadamente eficiente que hizo la tecnología intuitiva para el público.
- A pesar del entusiasmo, un destacado desarrollador de IA es abiertamente escéptico de que los modelos basados en transformers conduzcan a la IAG, viendo esta búsqueda como una distracción narrativa de discusiones más urgentes sobre política económica e integración práctica.
- El modelo de negocio para la IA empresarial es fundamentalmente diferente del de la IA para consumidores; al implementar modelos directamente en el entorno seguro de un cliente, empresas como Cohere pueden lograr márgenes saludables sin las enormes pérdidas por cliente observadas en algunos servicios de IA para consumidores.
- Desde una perspectiva global, la capacidad para construir modelos de IA de vanguardia está actualmente limitada a solo cuatro países: EE. UU., China, Francia y Canadá.
Conclusiones Prácticas
- Para quienes consideren una carrera en un mundo transformado por la IA, prioricen seguir su curiosidad y pasión genuinas sobre tratar de predecir el campo “óptimo”, ya que el panorama es demasiado caótico para pronosticarlo con precisión.
- Al implementar IA en una empresa, concéntrese en su fortaleza para automatizar tareas específicas, a menudo tediosas (como cruzar datos de correos electrónicos y sistemas CRM), para aumentar a los trabajadores humanos, no para reemplazar roles enteros.
- Para mantener una perspectiva saludable en un campo dominado por un entusiasmo intenso y escenarios apocalípticos, conéctese con actividades completamente ajenas a la tecnología y estudie historia para reconocer que, aunque nuestros tiempos se sientan sin precedentes, la humanidad ha navegado por muchos períodos de cambio radical.
- Aborde la conversación sobre el impacto económico de la IA abogando por políticas y regulaciones inteligentes dirigidas a una distribución equitativa de la riqueza, en lugar de quedar atrapado en debates improductivos sobre riesgos existenciales hipotéticos.
A construção de modelos fundamentais de IA é mais parecida com a construção de um foguete do que com um projeto de software típico—uma façanha tão intensiva em recursos que apenas cerca de dez empresas no mundo são capazes de realizá-la. Esta perspectiva de Nick Frosst, cofundador da empresa de IA empresarial Cohere, enquadra uma conversa abrangente que traça a evolução da IA, de uma busca acadêmica até se tornar a narrativa econômica definidora do nosso tempo. Frosst, um ex-pesquisador do Google Brain que trabalhou com Geoffrey Hinton, explica o foco singular da Cohere na criação de grandes modelos de linguagem para uso empresarial e governamental, contrastando com gigantes voltados para o consumidor, como a OpenAI. Ele se aprofunda no avanço revolucionário da arquitetura transformer, sua acessibilidade através de interfaces de chat, e por que este momento parece singularmente transformador.
A discussão explora as aplicações práticas, muitas vezes invisíveis, da IA dentro das empresas, onde os modelos da Cohere automatizam com segurança tarefas como a síntese de relatórios a partir de dados internos. Frosst é franco sobre as limitações da tecnologia, expressando ceticismo de que os modelos atuais levarão à inteligência geral artificial (AGI) e criticando o foco excessivo do setor nisso como uma narrativa perturbadora, quase religiosa. Em vez disso, ele defende uma conversa pragmática sobre o impacto real da IA: seu potencial para ampliar, e não substituir, o trabalho humano, e a necessidade urgente de políticas para gerenciar seus efeitos disruptivos nos mercados de trabalho e na desigualdade.
Olhando para o futuro, Frosst delineia o caminho da Cohere como fornecedora de infraestrutura fundamental, semelhante a uma empresa de serviços públicos, e suas ambições de se tornar uma empresa pública e duradoura. Ele coloca o desenvolvimento da IA em um contexto geopolítico, observando que apenas quatro países atualmente possuem a capacidade de construir essa tecnologia, e argumenta sua importância estratégica sem recorrer a metáforas alarmistas de “corrida armamentista”. Ao longo da conversa, ele enfatiza que o verdadeiro valor da IA não está em replicar a inteligência humana, mas em libertar as pessoas de trabalhos tediosos para que possam se concentrar em pensamentos criativos e estratégicos.
Visões Surpreendentes
- O desenvolvimento de modelos fundamentais de IA é tão intensivo em capital e expertise que é comparável à aeroespacial ou infraestrutura pesada, com apenas cerca de dez empresas globalmente capazes de fazê-lo.
- A enorme onda de adoção gerada pelo ChatGPT foi alimentada por uma quantidade relativamente pequena de dados de ajuste fino específicos para chat, aplicados a um modelo treinado em toda a web—um processo inesperadamente eficiente que tornou a tecnologia intuitiva para o público.
- Apesar do frenesi, um dos principais construtores de IA é abertamente cético de que modelos baseados em transformer levarão à AGI, vendo essa busca como uma distração narrativa de discussões mais urgentes sobre política econômica e integração prática.
- O modelo de negócios para IA empresarial é fundamentalmente diferente da IA para consumidores; ao implantar modelos diretamente no ambiente seguro de um cliente, empresas como a Cohere podem obter margens saudáveis sem os enormes prejuízos por cliente observados em alguns serviços de IA voltados para o consumidor.
- De uma perspectiva global, a capacidade de construir modelos de IA de fronteira está atualmente limitada a apenas quatro países: EUA, China, França e Canadá.
Lições Práticas
- Para aqueles considerando uma carreira em um mundo impactado pela IA, priorize seguir sua genuína curiosidade e paixão em vez de tentar prever o campo “ótimo”, pois o cenário é muito caótico para ser previsto com precisão.
- Ao implementar IA em uma empresa, concentre-se em sua força na automação de tarefas específicas, muitas vezes tediosas (como cruzar dados de e-mails e sistemas de CRM) para aumentar os trabalhadores humanos, não para substituir funções inteiras.
- Para manter uma perspectiva saudável em um campo dominado por um hype intenso e cenários apocalípticos, mantenha-se envolvido em atividades completamente alheias à tecnologia e estude história para reconhecer que, embora nossa época pareça sem precedentes, a humanidade já navegou por muitos períodos de mudança radical.
- Aborde a conversa sobre o impacto econômico da IA defendendo políticas e regulamentações inteligentes voltadas para uma distribuição equitativa da riqueza, em vez de se envolver em debates improdutivos sobre riscos existenciais hipotéticos.
Ed Elson speaks with Nick Frosst, a co-founder of Cohere. They discuss why the company chose an enterprise-only strategy, how he sees the future of AI unfolding, and whether an IPO is on the horizon.
Learn more about your ad choices. Visit podcastchoices.com/adchoices
Leave a Reply
You must be logged in to post a comment.