“This Didn’t End the Way It’s Supposed to End.” (Bonus)

Summary & Insights

Why did a computer science pioneer predict the death of radiology a decade ago, only for the profession to face a labor shortage today? The tension between theoretical AI capability and real-world clinical utility is at the heart of a fascinating conversation between Jacob Goldstein and Dr. Saurabh Jha. While AI is a master of pattern matching—the primary task of reading medical scans—the transition from a laboratory success to a bedside tool is fraught with “cognitive burden.”

Dr. Jha explains that early AI tools often acted like an “irritating medical student,” flagging far too many anomalies. This created a paradox: instead of saving time, AI forced radiologists to perform two tasks—their own assessment and a second assessment to determine if the AI was wrong. The danger here isn’t just inefficiency, but the risk of “over-calling” disease, leading to unnecessary biopsies and patient anxiety without actually improving health outcomes.

The conversation shifts to a stark global divide in AI adoption. In high-resource settings, AI is a luxury that must be near-perfect to be useful. However, in low-middle-income countries or remote areas like Everest Base Camp, AI is a lifesaver. In these regions, where radiologists are nonexistent, an AI that is “as good as an okay doctor” is infinitely better than no doctor at all, particularly for rapid screening of diseases like tuberculosis.

Looking forward, the primary concern is not the replacement of the human worker, but “cognitive disappearance.” Dr. Jha warns that if inexperienced residents rely on AI too early, they may succumb to automation bias—the tendency to trust the machine without knowing how to question it. To prevent this, he advocates for a “human-in-the-loop” approach where expertise is forged through manual struggle before AI is used to extend cognitive abilities.

Surprising Insights

The “Normal” Difficulty: In radiology, identifying a clear disease is often easier than confirming that a patient is healthy. “Normal” has far more variability than “diseased,” making the avoidance of false positives a more complex task than simple detection.
The Utility Threshold: For AI to be truly useful in a high-stakes professional environment, it cannot merely be “better than average”; it must be nearly 99.99% accurate. If there is a 10% error rate, the human must still treat every single output as a potential error, which nullifies the time-saving benefit.
Inverse Tech Drift: While most technology drifts from wealthy nations to poorer ones, AI’s first high-impact use cases have often been in low-income regions to combat tuberculosis, where the lack of human infrastructure makes “good enough” AI a revolutionary tool.
Automation Bias Trap: Inexperienced practitioners risk a permanent knowledge gap if they use AI before they have developed the intuition to know when the AI is wrong, potentially creating a generation of doctors who cannot function without a digital prompt.

Practical Takeaways

Prioritize “Deep Work” Before Automation: If you are entering a new field, avoid using AI tools for the “drudgery” of entry-level tasks until you have developed the fundamental intuition required to audit the AI’s work.
Audit Your Tools for Cognitive Load: When implementing AI in your workflow, measure whether the tool is actually saving time or simply adding a “verification step” that increases your mental burden.
Focus on the “Border Zone”: When using probabilistic tools, pay the most attention to the “fuzzy” areas between two categories; this is where human expertise provides the most value and where AI is most likely to fail.
Maintain “Analog” Competency: Establish “AI-free” zones or exams—such as the oral boards mentioned by Dr. Jha—to ensure your core skills remain sharp and independent of technology.

Tại sao một người tiên phong trong lĩnh vực khoa học máy tính lại dự đoán về “cái chết” của ngành chẩn đoán hình ảnh từ một thập kỷ trước, để rồi ngày nay nghề này lại đối mặt với tình trạng thiếu hụt nhân lực? Sự mâu thuẫn giữa khả năng lý thuyết của AI và tiện ích lâm sàng trong thế giới thực chính là trọng tâm của cuộc trò chuyện đầy thú vị giữa Jacob Goldstein và Tiến sĩ Saurabh Jha. Mặc dù AI là bậc thầy trong việc đối chiếu mẫu (pattern matching)—nhiệm vụ chính khi đọc các bản quét y tế—nhưng quá trình chuyển đổi từ thành công trong phòng thí nghiệm sang công cụ áp dụng tại giường bệnh lại đầy rẫy những “gánh nặng nhận thức”.

Tiến sĩ Jha giải thích rằng các công cụ AI thời kỳ đầu thường hoạt động giống như một “sinh viên y khoa gây phiền nhiễu”, khi đánh dấu quá nhiều dấu hiệu bất thường. Điều này tạo ra một nghịch lý: thay vì tiết kiệm thời gian, AI buộc các bác sĩ chẩn đoán hình ảnh phải thực hiện hai tác vụ—tự đánh giá và đánh giá lần hai để xác định xem AI có sai hay không. Mối nguy hiểm ở đây không chỉ là sự kém hiệu quả, mà còn là rủi ro “chẩn đoán quá mức” (over-calling) bệnh lý, dẫn đến những ca sinh thiết không cần thiết và gây lo lắng cho bệnh nhân mà không thực sự cải thiện kết quả sức khỏe.

Cuộc trò chuyện chuyển sang sự phân hóa sâu sắc trong việc áp dụng AI trên toàn cầu. Ở những môi trường giàu nguồn lực, AI là một món đồ xa xỉ và phải gần như hoàn hảo mới có ích. Tuy nhiên, ở các quốc gia thu nhập thấp và trung bình hoặc các vùng hẻo lánh như Trạm cơ sở Everest, AI lại là cứu cánh. Tại những khu vực này, nơi không hề có bác sĩ chẩn đoán hình ảnh, một AI “giỏi ngang một bác sĩ mức trung bình” vẫn tốt hơn vô cùng so với việc không có bác sĩ nào, đặc biệt là trong việc tầm soát nhanh các bệnh như lao.

Nhìn về tương lai, mối quan tâm chính không phải là việc thay thế con người, mà là hiện tượng “biến mất nhận thức” (cognitive disappearance). Tiến sĩ Jha cảnh báo rằng nếu các bác sĩ nội trú chưa có kinh nghiệm quá phụ thuộc vào AI từ sớm, họ có thể rơi vào định kiến tự động hóa (automation bias)—xu hướng tin tưởng máy móc mà không biết cách đặt câu hỏi nghi vấn. Để ngăn chặn điều này, ông ủng hộ phương pháp “con người trong vòng lặp” (human-in-the-loop), nơi chuyên môn được hình thành thông qua những nỗ lực rèn luyện thủ công trước khi dùng AI để mở rộng khả năng nhận thức.

Những góc nhìn bất ngờ

Khó khăn khi xác định trạng thái “Bình thường”: Trong chẩn đoán hình ảnh, việc xác định một căn bệnh rõ ràng thường dễ hơn là xác nhận một bệnh nhân hoàn toàn khỏe mạnh. Trạng thái “bình thường” có nhiều biến số hơn nhiều so với trạng thái “bệnh lý”, khiến việc tránh các kết quả dương tính giả trở thành một nhiệm vụ phức tạp hơn là chỉ phát hiện bệnh.

Ngưỡng tiện ích: Để AI thực sự hữu ích trong một môi trường chuyên môn rủi ro cao, nó không thể chỉ “tốt hơn mức trung bình”; nó phải chính xác gần như 99,99%. Nếu tỷ lệ sai sót là 10%, con người vẫn phải coi mọi kết quả đầu ra là một sai sót tiềm tàng, điều này làm mất đi lợi ích tiết kiệm thời gian.

Sự dịch chuyển công nghệ ngược: Trong khi hầu hết công nghệ dịch chuyển từ các quốc gia giàu sang các nước nghèo, những trường hợp sử dụng AI có tác động cao đầu tiên lại thường nằm ở các vùng thu nhập thấp để chống lại bệnh lao, nơi sự thiếu hụt cơ sở hạ tầng nhân lực khiến một AI “đủ tốt” trở thành một công cụ mang tính cách mạng.

Bẫy định kiến tự động hóa: Những người hành nghề thiếu kinh nghiệm có nguy cơ bị hổng kiến thức vĩnh viễn nếu họ sử dụng AI trước khi phát triển được trực giác để biết khi nào AI sai, điều này có khả năng tạo ra một thế hệ bác sĩ không thể làm việc nếu thiếu các gợi ý kỹ thuật số.

Bài học thực tiễn

Ưu tiên “Làm việc sâu” (Deep Work) trước khi tự động hóa: Nếu bạn bắt đầu bước chân vào một lĩnh vực mới, hãy tránh sử dụng các công cụ AI cho những công việc “nhàm chán” ở cấp độ cơ bản cho đến khi bạn phát triển được trực giác nền tảng cần thiết để kiểm tra và đánh giá công việc của AI.

Kiểm tra tải nhận thức của công cụ: Khi triển khai AI vào quy trình làm việc, hãy đo lường xem công cụ đó thực sự tiết kiệm thời gian hay chỉ đơn thuần thêm vào một “bước xác minh” làm tăng gánh nặng tâm trí của bạn.

Tập trung vào “Vùng biên” (Border Zone): Khi sử dụng các công cụ mang tính xác suất, hãy chú ý nhất đến những vùng “mờ” giữa hai phân loại; đây là nơi chuyên môn của con người mang lại giá trị cao nhất và cũng là nơi AI dễ sai sót nhất.

Duy trì năng lực “Thủ công”: Thiết lập các vùng hoặc kỳ thi “không AI”—chẳng hạn như các kỳ thi vấn đáp mà Tiến sĩ Jha đã đề cập—để đảm bảo các kỹ năng cốt lõi của bạn luôn sắc bén và độc lập với công nghệ.

為什麼一名電腦科學先驅在十年前預言放射科將會消亡，而該專業在今天卻面臨勞動力短缺？理論上的 AI 能力與現實世界的臨床實用性之間的緊張關係，正是 Jacob Goldstein 與 Saurabh Jha 博士之間這場迷人對話的核心。雖然 AI 是模式匹配（Medical scan 影像讀取的首要任務）的大師，但從實驗室的成功轉化為床邊的工具，過程充滿了「認知負荷」。

Jha 博士解釋道，早期的 AI 工具表現得就像一名「令人惱火的醫學生」，標記了過多不必要的異常之處。這造成了一個悖論：AI 並未節省時間，反而迫使放射科醫生執行兩項任務——他們自己的評估，以及第二次評估以確定 AI 是否出錯。這裡的危險不僅在於效率低下，還在於「過度診斷」疾病的風險，導致不必要的切片檢查和患者焦慮，而實際上並未改善健康結果。

對話隨後轉向 AI 採用的顯著全球分歧。在資源豐富的環境中，AI 是一種奢侈品，必須近乎完美才有用。然而，在低中收入國家或像聖母峰大本營這樣的偏遠地區，AI 則是救命稻草。在這些放射科醫生完全缺失的地區，一個「與普通醫生相當」的 AI 系統，也比完全沒有醫生要好得多，尤其是在結核病等疾病的快速篩查方面。

展望未來，主要擔憂並非人類工作者的被取代，而是「認知消亡」。Jha 博士警告說，如果缺乏經驗的住院醫生過早依賴 AI，他們可能會陷入「自動化偏誤」（automation bias）——即在不知道如何質疑機器的情況下傾向於信任機器的傾向。為了防止這種情況，他主張採用「人機協作」（human-in-the-loop）的方法，在利用 AI 擴展認知能力之前，先通過手動實踐的艱苦磨練來鍛鍊專業能力。

驚人的洞察

「正常」的難度： 在放射科中，識別明確的疾病通常比確認患者健康更容易。「正常」的變異性遠高於「疾病」，這使得避免偽陽性（false positives）比單純的檢測更複雜。

實用性門檻： AI 要在高風險的專業環境中真正發揮作用，不能僅僅是「優於平均水準」，而必須達到近乎 99.99% 的準確率。如果錯誤率為 10%，人類仍必須將每個輸出視為潛在錯誤，這將抵消節省時間的效益。

反向技術漂移： 大多數技術是從富裕國家流向貧困國家，但 AI 首批高影響力的應用案例往往出現在低收入地區（如對抗結核病），在那裡，由於缺乏人力基礎設施，即便僅是「夠好」的 AI 也是革命性的工具。

自動化偏誤陷阱： 如果從業人員在培養出能判斷 AI 何時出錯的直覺之前就使用 AI，可能會導致永久性的知識缺口，潛在地創造出一代沒有數位提示就無法工作的醫生。

實踐啟示

在自動化之前優先進行「深度工作」： 如果你進入一個新領域，在養成審核 AI 工作所需的基本直覺之前，請避免在入門級任務的「枯燥工作」中使用 AI 工具。

審查工具的認知負荷： 在工作流程中引入 AI 時，衡量該工具究竟是在節省時間，還是僅僅增加了一個增加心理負擔的「驗證步驟」。

關注「邊緣地帶」： 使用概率工具時，請將注意力集中在兩個類別之間「模糊」的區域；這是人類專業知識能提供最大價值的地方，也是 AI 最容易出錯的地方。

維持「類比」能力： 建立「無 AI」區域或考核（例如 Jha 博士提到的口試），以確保你的核心技能保持敏銳且不依賴於技術。

Pourquoi un pionnier de l’informatique a-t-il prédit la mort de la radiologie il y a dix ans, alors que la profession fait aujourd’hui face à une pénurie de main-d’œuvre ? La tension entre la capacité théorique de l’IA et son utilité clinique réelle est au cœur d’une conversation fascinante entre Jacob Goldstein et le Dr Saurabh Jha. Bien que l’IA soit passée maître dans la reconnaissance de formes — la tâche principale de l’interprétation d’imageries médicales — le passage du succès en laboratoire à l’outil au chevet du patient est semé d’embûches liées à la « charge cognitive ».

Le Dr Jha explique que les premiers outils d’IA se comportaient souvent comme un « étudiant en médecine irritant », signalant beaucoup trop d’anomalies. Cela a créé un paradoxe : au lieu de gagner du temps, l’IA obligeait les radiologues à effectuer deux tâches : leur propre évaluation et une seconde évaluation pour déterminer si l’IA s’était trompée. Le danger ici n’est pas seulement l’inefficacité, mais le risque de « sur-diagnostic », menant à des biopsies inutiles et à l’anxiété des patients sans pour autant améliorer les résultats de santé.

La conversation s’oriente ensuite vers un profond clivage mondial dans l’adoption de l’IA. Dans les environnements riches en ressources, l’IA est un luxe qui doit être quasi parfait pour être utile. Cependant, dans les pays à revenu faible ou intermédiaire, ou dans des zones reculées comme le camp de base de l’Everest, l’IA est une planche de salut. Dans ces régions, où les radiologues sont inexistants, une IA « aussi compétente qu’un médecin moyen » est infiniment préférable à l’absence totale de médecin, particulièrement pour le dépistage rapide de maladies comme la tuberculose.

Pour l’avenir, la préoccupation principale n’est pas le remplacement du travailleur humain, mais la « disparition cognitive ». Le Dr Jha avertit que si des résidents inexpérimentés s’appuient trop tôt sur l’IA, ils pourraient succomber au biais d’automatisation — la tendance à faire confiance à la machine sans savoir comment la remettre en question. Pour éviter cela, il prône une approche « l’humain dans la boucle » (human-in-the-loop), où l’expertise se forge par l’effort manuel avant que l’IA ne soit utilisée pour étendre les capacités cognitives.

Perspectives Surprenantes

La difficulté du « Normal » : En radiologie, identifier une pathologie claire est souvent plus facile que de confirmer qu’un patient est en bonne santé. Le « normal » présente beaucoup plus de variabilité que le « pathologique », faisant de l’évitement des faux positifs une tâche plus complexe que la simple détection.

Le seuil d’utilité : Pour que l’IA soit réellement utile dans un environnement professionnel à enjeux élevés, elle ne peut se contenter d’être « meilleure que la moyenne » ; elle doit être précise à 99,99 %. S’il existe un taux d’erreur de 10 %, l’humain doit toujours traiter chaque résultat comme une erreur potentielle, ce qui annule le gain de temps.

La dérive technologique inverse : Alors que la plupart des technologies migrent des nations riches vers les pays plus pauvres, les premiers cas d’utilisation à fort impact de l’IA se sont souvent produits dans les régions à bas revenus pour combattre la tuberculose, où le manque d’infrastructure humaine fait d’une IA « suffisamment bonne » un outil révolutionnaire.

Le piège du biais d’automatisation : Les praticiens inexpérimentés risquent une lacune cognitive permanente s’ils utilisent l’IA avant d’avoir développé l’intuition nécessaire pour savoir quand elle se trompe, créant potentiellement une génération de médecins incapables de fonctionner sans une invite numérique.

Conseils Pratiques

Prioriser le « travail profond » avant l’automatisation : Si vous débutez dans un nouveau domaine, évitez d’utiliser des outils d’IA pour les tâches ingrates de débutant jusqu’à ce que vous ayez développé l’intuition fondamentale requise pour auditer le travail de l’IA.

Auditer vos outils selon la charge cognitive : Lors de l’implémentation de l’IA dans votre flux de travail, mesurez si l’outil fait réellement gagner du temps ou s’il ajoute simplement une « étape de vérification » qui augmente votre charge mentale.

Se concentrer sur la « zone frontière » : Lors de l’utilisation d’outils probabilistes, portez une attention particulière aux zones « floues » entre deux catégories ; c’est là que l’expertise humaine apporte la plus grande valeur et que l’IA est la plus susceptible d’échouer.

Maintenir une compétence « analogique » : Établissez des zones ou des examens « sans IA » — tels que les examens oraux mentionnés par le Dr Jha — pour garantir que vos compétences fondamentales restent aiguisées et indépendantes de la technologie.

Warum sagte ein Pionier der Informatik vor einem Jahrzehnt den Tod der Radiologie voraus, nur damit die Profession heute mit einem Fachkräftemangel konfrontiert ist? Das Spannungsfeld zwischen theoretischer KI-Leistungsfähigkeit und realem klinischem Nutzen steht im Zentrum eines faszinierenden Gesprächs zwischen Jacob Goldstein und Dr. Saurabh Jha. Während die KI ein Meister der Mustererkennung ist – der Hauptaufgabe beim Auswerten medizinischer Scans –, ist der Übergang vom Laborerfolg zum Werkzeug am Patientenbett mit einer erheblichen „kognitiven Belastung“ verbunden.

Dr. Jha erklärt, dass frühe KI-Tools oft wie ein „nerviger Medizinstudent“ agierten, indem sie viel zu viele Anomalien markierten. Dies schuf ein Paradoxon: Anstatt Zeit zu sparen, zwang die KI die Radiologen dazu, zwei Aufgaben zu erledigen – ihre eigene Beurteilung und eine zweite Prüfung, um festzustellen, ob die KI falsch lag. Die Gefahr besteht hier nicht nur in der Ineffizienz, sondern im Risiko eines „Over-calling“ von Krankheiten, was zu unnötigen Biopsien und Patientenangst führt, ohne die gesundheitlichen Ergebnisse tatsächlich zu verbessern.

Das Gespräch verlagert sich auf eine drastische globale Kluft bei der Einführung von KI. In ressourcenstarken Umgebungen ist KI ein Luxusgut, das nahezu perfekt sein muss, um nützlich zu sein. In Ländern mit niedrigem oder mittlerem Einkommen oder in abgelegenen Gebieten wie dem Everest-Basislager hingegen ist die KI ein Lebensretter. In diesen Regionen, in denen es keine Radiologen gibt, ist eine KI, die „so gut wie ein mittelmäßiger Arzt“ ist, unendlich viel besser als gar kein Arzt – insbesondere für das schnelle Screening von Krankheiten wie Tuberkulose.

Mit Blick auf die Zukunft ist die Hauptsorge nicht der Ersatz des menschlichen Arbeiters, sondern das „kognitive Verschwinden“. Dr. Jha warnt davor, dass unerfahrene Assistenzärzte, wenn sie sich zu früh auf KI verlassen, dem „Automation Bias“ erliegen könnten – der Tendenz, der Maschine blind zu vertrauen, ohne zu wissen, wie man sie hinterfragt. Um dies zu verhindern, plädiert er für einen „Human-in-the-Loop“-Ansatz, bei dem Fachkenntnisse erst durch mühsame manuelle Arbeit gefestigt werden, bevor die KI eingesetzt wird, um die kognitiven Fähigkeiten zu erweitern.

Überraschende Erkenntnisse

Die Schwierigkeit des „Normalen“: In der Radiologie ist es oft einfacher, eine eindeutige Erkrankung zu identifizieren, als zu bestätigen, dass ein Patient gesund ist. „Normal“ weist eine viel größere Variabilität auf als „erkrankt“, wodurch die Vermeidung falsch-positiver Ergebnisse eine komplexere Aufgabe ist als die reine Detektion.

Die Nutzensschwelle: Damit eine KI in einem hochriskanten professionellen Umfeld wirklich nützlich ist, darf sie nicht nur „über dem Durchschnitt“ liegen; sie muss nahezu 99,99 % genau sein. Bei einer Fehlerrate von 10 % muss der Mensch weiterhin jedes einzelne Ergebnis als potenziellen Fehler behandeln, was den Zeitgewinn zunichtemacht.

Inverser Tech-Drift: Während die meisten Technologien von wohlhabenden Nationen in ärmere fließen, lagen die ersten hochwirksamen Anwendungsfälle von KI oft in einkommensschwachen Regionen zur Bekämpfung von Tuberkulose, wo das Fehlen menschlicher Infrastruktur eine „gut genuge“ KI zu einem revolutionären Werkzeug macht.

Die Automation-Bias-Falle: Unerfahrene Praktiker riskieren eine dauerhafte Wissenslücke, wenn sie KI nutzen, bevor sie die Intuition entwickelt haben, um zu erkennen, wann die KI falsch liegt. Dies könnte eine Generation von Ärzten hervorbringen, die ohne digitale Eingabeaufforderung nicht mehr arbeitsfähig ist.

Praktische Lehren

„Deep Work“ vor Automatisierung priorisieren: Wenn Sie in ein neues Feld einsteigen, vermeiden Sie es, KI-Tools für die „mühsame“ Routinearbeit auf Einstiegsebene zu nutzen, bis Sie die grundlegende Intuition entwickelt haben, die erforderlich ist, um die Arbeit der KI zu prüfen.

Tools auf kognitive Belastung prüfen: Messen Sie bei der Implementierung von KI in Ihren Workflow, ob das Tool tatsächlich Zeit spart oder lediglich einen „Verifizierungsschritt“ hinzufügt, der Ihre mentale Belastung erhöht.

Fokus auf die „Grenzzone“: Achten Sie bei der Verwendung probabilistischer Tools besonders auf die „unscharfen“ Bereiche zwischen zwei Kategorien; hier bietet menschliche Expertise den größten Mehrwert und hier ist die Wahrscheinlichkeit eines KI-Fehlers am höchsten.

„Analoge“ Kompetenz bewahren: Schaffen Sie „KI-freie“ Zonen oder Prüfungen – wie die von Dr. Jha erwähnten mündlichen Facharztprüfungen –, um sicherzustellen, dass Ihre Kernkompetenzen geschärft bleiben und unabhängig von der Technologie sind.

The N.B.A. superstar Chris Bosh was still competing at the highest level when a blood clot abruptly ended his career. In his new book, Letters to a Young Athlete, Bosh covers the highlights and the struggles. In this installment of the Freakonomics Radio Book Club, he talks with guest host Angela Duckworth.