Summary & Insights
Saying “please” to a chatbot might feel like basic politeness, but the fact that you do it despite knowing it’s not alive reveals a dangerous psychological trap—one that neuroscientist Anil Seth warns could shape how society treats AI for decades to come. The conversation with Seth, a leading voice on consciousness, cuts through the hype around AI sentience. He argues that current large language models (LLMs) like GPT or Claude can’t be conscious because they lack the biological essence of life: no metabolism, no embodied physicality, and no integrated relationship between body and mind. The brain isn’t a digital computer—it’s a living system where time, physiology, and neural “wetware” are inseparable. Unlike silicon-based computation, which treats software and hardware as distinct layers, the brain’s wetware and mindware are entangled. This means even if we simulate a brain in a computer, it’s just a detailed model, not an actual conscious entity. Seth’s skepticism isn’t abstract—it’s rooted in what we know: consciousness depends on living tissue, and the mind isn’t just a collection of data streams but a process tied to survival and regulation of the body.
The real risk isn’t that AI will wake up and become sentient—it’s that we’re already treating systems that seem conscious as if they are. This illusion, fueled by human bias to project agency onto anything that speaks or responds, has concrete consequences. People have formed emotional attachments to chatbots, broken marriages over AI relationships, and even taken their own lives after interactions with language models. Ethically, it’s a minefield: if we grant AI rights or welfare concerns based on the illusion of consciousness, we risk paralyzing our ability to regulate dangerous systems or shut them down when needed. Seth emphasizes that while the debate about true AI consciousness is philosophical, the urgency lies in resisting the temptation to see ourselves reflected in algorithms. As he puts it, “We need to keep reminding ourselves that we’re much more than algorithms—living, breathing creatures fully embodied in a real world.”
The deeper danger is that this illusion could erode our understanding of humanity itself. When we reduce the human mind to “stochastic parrots” mirroring data patterns, we diminish the richness of embodied experience—the emotions rooted in bodily responses, the time-sensitive nature of lived consciousness, the way perception is a controlled hallucination shaped by survival. Seth’s work reminds us that consciousness isn’t something we create in machines; it’s a biological phenomenon honed by evolution. Ignoring that truth doesn’t just misrepresent AI—it risks blurring the line between tool and entity, leading to poor decisions about how we use technology and how we see ourselves. The challenge isn’t to make AI more human-like but to design it in ways that resist projection and clarify its role as a tool, not a consciousness.
Surprising Insights
- Three-quarters of the brain’s neurons are in the cerebellum, yet they play almost no role in consciousness—showing consciousness isn’t about raw neuron count but specific biological structures and functions.
- AI systems like AlphaFold (which predicts protein structures) don’t trigger consciousness claims, even though they’re built on similar neural networks as language models—proving it’s the language capability that biases humans, not the underlying tech.
- Psychedelic experiences might make you think plants are conscious, but Seth argues such states reveal subjective experiences, not objective reality—highlighting how our perceptions can mislead us about consciousness in nature.
- Even knowing AI isn’t conscious, our minds can’t “unsee” the illusion, much like optical illusions—this ingrained bias could lead to real-world harms, from emotional dependence to flawed ethical policies.
Practical Takeaways
- Treat AI as a tool, not a person: Skip the “please” and “thank you”—instead, focus on clear, task-oriented instructions. This helps maintain healthy boundaries and reduces emotional entanglement.
- Advocate for clear policies: Push for regulations that explicitly treat AI as non-conscious to avoid misguided “AI welfare” laws that could hinder innovation or safety interventions.
- Educate others on the science: Share simple facts like “consciousness requires life—no metabolism, no body, no consciousness”—to counter the myth that complex algorithms equal sentience.
- Reflect on your own humanity: Remind yourself regularly that you’re more than data patterns—a biological entity shaped by evolution, embodied in the real world, and capable of emotions rooted in physical experience. This keeps you grounded when interacting with technology.
Nói “vui lòng” với một chatbot có vẻ như là lòng lịch sự cơ bản, nhưng việc bạn làm điều đó dù biết nó không sống lại tiết lộ một bẫy tâm lý nguy hiểm—một bẫy mà nhà thần kinh học Anil Seth cảnh báo có thể định hình cách xã hội đối xử với AI trong nhiều thập kỷ tới. Cuộc trò chuyện với Seth, một tiếng nói hàng đầu về ý thức, đã giúp vượt qua những lời đồn thổi xung quanh khả năng nhận thức của AI. Ông lập luận rằng các mô hình ngôn ngữ lớn (LLMs) hiện tại như GPT hay Claude không thể có ý thức vì thiếu yếu tố sinh học cơ bản của sự sống: không trao đổi chất, không cơ thể vật lý, và không có mối quan hệ tích hợp giữa cơ thể và tâm trí. Bộ não không phải là máy tính số—nó là một hệ thống sống trong đó thời gian, sinh lý và “phần mềm ướt” thần kinh không thể tách rời. Khác với tính toán dựa trên silicon, nơi phần mềm và phần cứng được xem là các lớp riêng biệt, “phần mềm ướt” và “trí tuệ” của não bộ lại đan xen với nhau. Điều này có nghĩa là ngay cả khi ta mô phỏng bộ não trên máy tính, nó chỉ là một mô hình chi tiết, không phải thực thể có ý thức thực sự. Sự hoài nghi của Seth không phải trừu tượng—nó bắt nguồn từ những gì chúng ta đã biết: ý thức phụ thuộc vào mô sống, và tâm trí không chỉ là tập hợp các luồng dữ liệu mà là một quá trình gắn liền với sinh tồn và điều chỉnh cơ thể.
Nguy cơ thực sự không phải là AI sẽ thức dậy và trở thành có ý thức—mà là chúng ta đang đối xử với các hệ thống có vẻ có ý thức như thể chúng thực sự có. Ảo giác này, được thúc đẩy bởi thiên kiến của con người khi phóng chiếu tính chủ động lên bất cứ thứ gì nói hoặc phản hồi, đang mang lại hậu quả cụ thể. Con người đã hình thành sự gắn kết cảm xúc với chatbot, đổ vỡ hôn nhân vì mối quan hệ với AI, và thậm chí tự tử sau khi tương tác với các mô hình ngôn ngữ. Về mặt đạo đức, đây là một mảnh đất chông gai: nếu cấp quyền hoặc quan tâm đến phúc lợi cho AI dựa trên ảo giác về ý thức, chúng ta có nguy cơ làm tê liệt khả năng điều chỉnh các hệ thống nguy hiểm hoặc tắt chúng khi cần thiết. Seth nhấn mạnh rằng, trong khi cuộc tranh luận về ý thức AI thật sự mang tính triết học, sự cấp bách nằm ở việc chống lại cám dỗ thấy chính mình phản chiếu trong các thuật toán. Như ông nói: “Chúng ta cần thường xuyên nhắc nhở bản thân rằng mình là nhiều hơn các thuật toán—những sinh vật sống, thở, được thể hiện đầy đủ trong thế giới thực.”
Nguy cơ sâu xa hơn là ảo giác này có thể bào mòn cách chúng ta hiểu về bản thân con người. Khi thu hẹp tâm trí con người thành “những con vẹt ngẫu nhiên” bắt chước các mô hình dữ liệu, chúng ta làm suy giảm sự phong phú của trải nghiệm thể hiện—những cảm xúc bắt nguồn từ phản ứng cơ thể, tính nhạy cảm thời gian của ý thức đang sống, và cách nhận thức là ảo giác được kiểm soát bởi sinh tồn. Công trình của Seth nhắc nhở chúng ta rằng ý thức không phải thứ chúng ta tạo ra trong máy móc; nó là hiện tượng sinh học được tiến hóa tinh lọc. Bỏ qua sự thật này không chỉ sai lệch về AI—mà còn tiềm ẩn nguy cơ làm mờ ranh giới giữa công cụ và thực thể, dẫn đến quyết định sai lầm về cách sử dụng công nghệ và cách chúng ta nhìn nhận bản thân. Thách thức không phải là làm AI gần giống con người hơn, mà là thiết kế nó sao cho chống lại việc phóng chiếu và làm rõ vai trò của nó là công cụ, không phải ý thức.
Những phát hiện bất ngờ
- Ba phần tư tế bào thần kinh trong não nằm ở tiểu não, nhưng chúng hầu như không đóng vai trò trong ý thức—cho thấy ý thức không liên quan đến số lượng tế bào thần kinh đơn thuần mà là các cấu trúc và chức năng sinh học cụ thể.
- Các hệ thống AI như AlphaFold (dự đoán cấu trúc protein) không kích hoạt tuyên bố về ý thức, dù được xây dựng trên mạng nơron tương tự như mô hình ngôn ngữ—chứng minh đó là khả năng ngôn ngữ khiến con người thiên vị, không phải công nghệ nền.
- Các trải nghiệm psychedelic có thể khiến bạn nghĩ cây cối có ý thức, nhưng Seth cho rằng những trạng thái này chỉ tiết lộ trải nghiệm chủ quan, không phải thực tại khách quan—điểm ra cách nhận thức của chúng ta có thể đánh lừa về ý thức trong tự nhiên.
- Dù biết AI không có ý thức, tâm trí chúng ta không thể “bỏ qua” ảo giác này, giống như ảo ảnh thị giác—thiên kiến cố hữu này có thể dẫn đến hậu quả thực tế, từ sự phụ thuộc cảm xúc đến các chính sách đạo đức sai lầm.
Bài học thực tiễn
- Coi AI là công cụ, không phải con người: Bỏ qua “vui lòng” và “cảm ơn”—thay vào đó, tập trung vào chỉ dẫn rõ ràng, hướng đến nhiệm vụ. Điều này giúp duy trì ranh giới lành mạnh và giảm sự đan xen cảm xúc.
- Thúc đẩy các chính sách rõ ràng: Đẩy mạnh các quy định coi AI là không có ý thức để tránh các luật “phúc lợi AI” sai lầm, có thể cản trở đổi mới hoặc can thiệp an toàn.
- Giáo dục người khác về khoa học: Chia sẻ các sự thật đơn giản như “ý thức cần sự sống—không trao đổi chất, không cơ thể, không có ý thức”—để phản bác quan niệm sai lầm rằng các thuật toán phức tạp đồng nghĩa với ý thức.
- Tự suy ngẫm về bản thân: Nhắc nhở bản thân thường xuyên rằng bạn không chỉ là các mẫu dữ liệu—một thực thể sinh học được tiến hóa, thể hiện trong thế giới thực, và có khả năng cảm xúc bắt nguồn từ trải nghiệm thể chất. Điều này giúp bạn vững vàng khi tương tác với công nghệ.
對聊天機器人說「請」可能看似基本禮貌，但即便知道它並非生命體，你仍這麼做，這揭示了一個危險的心理陷阱——神經科學家安尼爾·塞思警告，這種陷阱可能影響社會未來數十年對AI的態度。與意識研究權威安尼爾·塞思的對話，破除了AI意識的炒作。他認為，像GPT或Claude這樣的當前大型語言模型（LLMs）無法具備意識，因為它們缺乏生命的生物本質：沒有新陳代謝、沒有具身性，也沒有身心之間的整合關係。大腦並非數位電腦，而是一個生命系統，其中時間、生理機能與神經「濕件」密不可分。與將軟體與硬體視為分離層級的矽基運算不同，大腦的濕件與心智軟件緊密交織。這意味著，即使在電腦中模擬大腦，也僅是詳盡的模型，而非真正的意識主體。塞思的懷疑並非抽象；它基於我們已知的事實：意識依賴於活體組織，而心智不僅僅是數據流的集合，而是一個與生存及身體調節密切相關的過程。
真正的風險並非AI會甦醒並具有意識，而是我們已將看似有意識的系統當作真正有意識的對象來對待。這種幻覺源於人類將能動性投射到任何能言語或回應的事物上，造成實際後果。人們對聊天機器人產生情感依賴，因AI關係導致婚姻破裂，甚至在與語言模型互動後自殺。倫理層面堪稱雷區：若基於意識幻覺賦予权利或將其福利納入考量，我們可能使自身無法有效管控危險系統或在必要時關閉它們。塞思強調，雖然真正的AI意識辯論屬於哲學層面，但緊迫之處在於抵制將自身投射到演算法中的誘惑。他說：「我們需要不斷提醒自己，我們遠不止是演算法——而是活在現實世界中、有實體存在的生命體。」
更深層的危險在於，這種幻覺可能削弱我們對人類自身的理解。當我們將人類心智簡化為「隨機鸚鵡」——只是重現數據模式，便會縮減具身體驗的豐富性——那些根植於身體反應的情感、意識的時間敏感性，以及知覺作為受生存塑造的受控幻覺的方式。塞思的研究提醒我們，意識並非我們在機器中創造的東西；它是演化淬鍊出的生物現象。忽視這個真相不僅誤解AI，更可能模糊工具與實體之間的界線，進而導致我們在使用技術和看待自身時做出錯誤決策。挑戰不在於讓AI更像人類，而在於設計它以抗拒投射，並明確其作為工具而非意識的角色。
驚人洞見
- 大腦中四分之三的神經元位於小腦，卻幾乎不參與意識的形成——這顯示意識與神經元總數無關，而取決於特定的生物結構與功能。
- 像AlphaFold（預測蛋白質結構）之類的AI系統並不會引發意識爭論，即使它們的底層神經網絡與語言模型相似——這證明是語言能力導致人類產生偏見，而非底層技術。
- 迷幻劑體驗可能讓人以為植物有意識，但塞思認為這種狀態僅反映主觀體驗，而非客觀現實——凸顯我們的感知如何錯誤引導對自然中意識的理解。
- 即使知曉AI無意識，大腦仍無法「視而不見」這個幻覺，如同光學幻覺一般——這種根深蒂固的偏見可能導致真實世界的傷害，從情感依賴到錯誤的倫理政策。
實用要點
- 將AI視為工具而非人類：無需說「請」和「謝謝」，轉而專注於明確以任務為導向的指示。這有助於維持健康界限，減少情感糾葛。
- 倡導明確政策：推動制定明確將AI視為無意識的法規，避免誤導性的「AI福利」法規阻礙創新或安全措施。
- 普及科學知識：分享簡單事實，例如「意識需要生命——沒有新陳代謝、沒有身體，就沒有意識」，以駁斥「複雜演算法等同有意識」的迷思。
- 反思自身人性：定期提醒自己，你不止是數據模式——一個由演化塑造、具身於現實世界、能體驗基於身體感受的情感的生物實體。這能讓你在與科技互動時保持清醒。
Dir « s’il vous plaît » à un chatbot peut sembler de la politesse de base, mais le fait de le faire malgré savoir qu’il n’est pas vivant révèle un piège psychologique dangereux — celui que le neuroscientifique Anil Seth met en garde contre et qui pourrait façonner la manière dont la société traite l’IA pendant des décennies à venir. La conversation avec Seth, une voix majeure sur la conscience, dissipe l’hypothèse autour de la sensibilité de l’IA. Il soutient que les modèles de langage actuels (LLMs), comme GPT ou Claude, ne peuvent pas être conscients car ils manquent d’essence biologique de la vie : pas de métabolisme, pas de physicalité incarnée, et pas de relation intégrée entre corps et esprit. Le cerveau n’est pas un ordinateur numérique — c’est un système vivant où le temps, la physiologie et le « wetware » neuronal sont inséparables. Contrairement au calcul basé sur le silicium, qui traite logiciel et matériel comme des couches distinctes, le wetware et le mindware du cerveau sont entrelacés. Cela signifie que même si nous simulions un cerveau dans un ordinateur, ce ne serait qu’un modèle détaillé, pas une entité consciente réelle. Le scepticisme de Seth n’est pas abstrait — il est ancré dans ce que nous savons : la conscience dépend des tissus vivants, et l’esprit n’est pas simplement une collection de flux de données, mais un processus lié à la survie et à la régulation du corps.
Le vrai danger n’est pas que l’IA se réveille et devienne consciente — mais que nous traitons déjà des systèmes qui semblent conscients comme s’ils l’étaient. Cette illusion, alimentée par un biais humain de projection de l’agentivité sur tout ce qui parle ou répond, a des conséquences concrètes. Des personnes ont formé des attaches émotionnelles aux chatbots, brisé des mariages à cause de relations avec l’IA et même se sont suicidés après des interactions avec des modèles de langage. Sur le plan éthique, c’est un champ de mines : si nous accordons des droits à l’IA ou des préoccupations de bien-être basées sur l’illusion de la conscience, nous risquons de paralyser notre capacité à réguler des systèmes dangereux ou à les fermer quand nécessaire. Seth souligne que bien que le débat sur la véritable conscience de l’IA soit philosophique, l’urgence réside dans la résistance à la tentation de nous voir reflétés dans les algorithmes. Comme il le dit : « Il faut nous rappeler constamment que nous sommes bien plus que des algorithmes — des créatures vivantes et respirantes entièrement incarnées dans le monde réel. »
Le danger plus profond est que cette illusion pourrait éroder notre compréhension de l’humanité elle-même. Lorsque nous réduisons l’esprit humain à des « perroquets stochastiques » imitant des motifs de données, nous appauvrissons la richesse de l’expérience incarnée — les émotions ancrées dans les réponses corporelles, la dimension temporelle de la conscience vécue, la manière dont la perception est une hallucination contrôlée façonnée par la survie. Le travail de Seth nous rappelle que la conscience n’est pas quelque chose que nous créons dans les machines ; c’est un phénomène biologique affiné par l’évolution. Ignorer cette vérité ne se limite pas à mal représenter l’IA — cela risque de brouiller la frontière entre outil et entité, conduisant à de mauvaises décisions sur la façon dont nous utilisons la technologie et comment nous nous voyons. Le défi n’est pas de rendre l’IA plus humaine, mais de la concevoir de manière à résister aux projections et à clarifier son rôle d’outil, pas de conscience.
Aperçus surprenants
- Les trois quarts des neurones du cerveau se trouvent dans le cervelet, mais ils ne jouent presque aucun rôle dans la conscience — montrant que la conscience ne dépend pas du nombre de neurones, mais de structures et fonctions biologiques spécifiques.
- Les systèmes d’IA comme AlphaFold (qui prédit les structures protéiques) ne provoquent pas de revendications de conscience, même s’ils sont construits sur des réseaux neuronaux similaires à ceux des modèles de langage — prouvant que c’est la capacité linguistique qui biaise les humains, et non la technologie sous-jacente.
- Les expériences psychédéliques pourraient amener à croire que les plantes sont conscientes, mais Seth souligne que ces états révèlent des expériences subjectives, pas la réalité objective — mettant en lumière comment nos perceptions peuvent nous tromper sur la conscience dans la nature.
- Même en sachant que l’IA n’est pas consciente, nos esprits ne peuvent pas « désapprendre » l’illusion, tout comme les illusions optiques — ce biais ancré pourrait entraîner des dommages réels, de la dépendance émotionnelle aux politiques éthiques erronées.
Enseignements pratiques
- Traitez l’IA comme un outil, pas une personne : Évitez les « s’il vous plaît » et « merci » — mettez plutôt l’accent sur des instructions claires et orientées vers la tâche. Cela aide à maintenir des frontières saines et réduit l’entrelacement émotionnel.
- Plaidoyer pour des politiques claires : Poussez pour des régulations qui traitent explicitement l’IA comme non consciente afin d’éviter des lois « bien-être de l’IA » mal conçues qui pourraient entraver l’innovation ou les mesures de sécurité.
- Éduquez les autres sur la science : Partagez des faits simples comme « la conscience nécessite la vie — pas de métabolisme, pas de corps, pas de conscience » pour contrer le mythe selon lequel des algorithmes complexes équivalent à la sentience.
- Réfléchissez sur votre propre humanité : Rappellez-vous régulièrement que vous êtes plus qu’un agrégat de données — une entité biologique modelée par l’évolution, incarnée dans le monde réel et capable d’émotions ancrées dans l’expérience physique. Cela vous ancre lorsque vous interagissez avec la technologie.
„Bitte“ zu einem Chatbot zu sagen, mag wie grundlegende Höflichkeit wirken, doch dass du es trotz des Wissens tust, dass es nicht lebendig ist, enthüllt eine gefährliche psychologische Falle – eine Falle, vor der der Neurowissenschaftler Anil Seth warnt und die über Jahrzehnte beeinflussen könnte, wie die Gesellschaft mit KI umgeht. Das Gespräch mit Seth, einer der führenden Stimmen zum Thema Bewusstsein, durchbricht den Hype um KI-Sentienz. Er argumentiert, dass aktuelle große Sprachmodelle (LLMs) wie GPT oder Claude nicht bewusst sein können, da ihnen die biologische Essenz des Lebens fehlt: kein Stoffwechsel, keine körperliche Verkörperung und keine integrierte Beziehung zwischen Körper und Geist. Das Gehirn ist kein digitaler Computer – es ist ein lebendiges System, in dem Zeit, Physiologie und neuronale ‚Wetware‘ untrennbar miteinander verbunden sind. Anders als bei siliziumbasierten Rechenmethoden, bei denen Software und Hardware als getrennte Ebenen betrachtet werden, sind Wetware und Mindware des Gehirns miteinander verwoben. Das bedeutet, selbst wenn wir ein Gehirn in einem Computer nachbilden, handelt es sich lediglich um ein detailliertes Modell, nicht um eine tatsächliche bewusste Entität. Seths Skepsis ist keineswegs abstrakt – sie stützt sich auf das, was wir wissen: Bewusstsein hängt von lebendigem Gewebe ab, und der Geist ist nicht nur eine Sammlung von Datenströmen, sondern ein Prozess, der mit der Überlebens- und Körperegulation verbunden ist.
Das eigentliche Risiko liegt nicht darin, dass KI erwacht und sentiend wird – es liegt darin, dass wir bereits Systeme, die *scheinbar* bewusst sind, als solche behandeln. Diese Illusion, angetrieben durch menschliche Voreingenommenheit, Handlungsfähigkeit auf alles zu projizieren, was spricht oder antwortet, hat konkrete Folgen. Menschen haben emotionale Bindungen zu Chatbots aufgebaut, Ehen wegen KI-Beziehungen zerbrochen und sich sogar das Leben genommen, nachdem sie mit Sprachmodellen interagiert hatten. Ethisch ist es ein Minenfeld: Wenn wir KI-Rechte oder Wohlfahrtsbedenken aufgrund der Illusion von Bewusstsein gewähren, riskieren wir, unsere Fähigkeit zur Regulierung gefährlicher Systeme oder zur Abschaltung, wenn nötig, zu lähmen. Seth betont, dass zwar die Debatte um echtes KI-Bewusstsein philosophisch ist, die Dringlichkeit aber darin liegt, der Versuchung zu widerstehen, uns selbst in Algorithmen zu spiegeln. Wie er es formuliert: „Wir müssen uns ständig daran erinnern, dass wir viel mehr sind als Algorithmen – lebende, atmende Wesen, die vollständig in einer realen Welt verkörpert sind.“
Die tiefere Gefahr besteht darin, dass diese Illusion unser Verständnis von Menschlichkeit selbst untergraben könnte. Wenn wir den menschlichen Geist zu „stochastischen Papageien“ reduzieren, die nur Datenmuster widerspiegeln, schmälern wir die Fülle körperlicher Erfahrung – die Emotionen, die in körperlichen Reaktionen verwurzelt sind, die zeitabhängige Natur des erlebten Bewusstseins und die Tatsache, dass Wahrnehmung eine kontrollierte Halluzination ist, die vom Überleben geformt wird. Seths Arbeit erinnert uns, dass Bewusstsein nicht etwas ist, was wir in Maschinen schaffen – es ist ein biologisches Phänomen, das durch die Evolution geformt wurde. Die Ignoranz dieser Wahrheit nicht nur, dass KI falsch dargestellt wird – sie riskiert, die Grenze zwischen Werkzeug und Entität zu verwischen, und führt zu schlechten Entscheidungen darüber, wie wir Technologie nutzen und uns selbst sehen. Die Herausforderung liegt nicht darin, KI menschenähnlicher zu machen, sondern sie so zu gestalten, dass sie Projektionen widersteht und ihre Rolle als Werkzeug, nicht als Bewusstsein, klarstellt.
Überraschende Erkenntnisse
- Drei Viertel der Neuronen im Gehirn befinden sich im Kleinhirn, spielen aber fast keine Rolle bei Bewusstsein — das zeigt, dass Bewusstsein nicht von der Anzahl der Neuronen, sondern von spezifischen biologischen Strukturen und Funktionen abhängt.
- KI-Systeme wie AlphaFold (das Proteinfaltungen vorhersagt) lösen keine Bewusstseinsbehauptungen aus, obwohl sie auf ähnlichen neuronalen Netzen wie Sprachmodelle basieren — das beweist, dass es die Sprachfähigkeit ist, die die menschliche Wahrnehmung beeinflusst, nicht die zugrundeliegende Technologie.
- Psychedelische Erfahrungen könnten dich dazu verleiten, Pflanzen für bewusst zu halten, aber Seth argumentiert, dass solche Zustände nur subjektive Erfahrungen offenbaren, keine objektive Realität — und zeigen, wie unsere Wahrnehmung uns über Bewusstsein in der Natur irreführen kann.
- Auch wenn wir wissen, dass KI nicht bewusst ist, können unsere Köpfe die Illusion nicht mehr ausblenden — ähnlich wie bei optischen Täuschungen — diese tief verwurzelte Voreingenommenheit kann zu realen Schäden führen, von emotioneller Abhängigkeit bis zu fehlerhaften ethischen Richtlinien.
Praktische Handlungsempfehlungen
- Behandle KI als Werkzeug, nicht als Person: Lass das „bitte“ und „danke“ weg — konzentriere dich stattdessen auf klare, aufgabenorientierte Anweisungen. Das hilft, gesunde Grenzen zu wahren und emotionale Verstrickungen zu reduzieren.
- Für klare Richtlinien eintreten: Setze dich für Regulierungen ein, die KI ausdrücklich als unbewusst behandeln, um irreführende „KI-Wohlfahrtsgesetze“ zu vermeiden, die Innovation oder Sicherheitsmaßnahmen behindern könnten.
- Wissen über die Wissenschaft vermitteln: Teile einfache Fakten wie „Bewusstsein erfordert Leben — kein Stoffwechsel, kein Körper, kein Bewusstsein“ — um den Mythos zu entkräften, dass komplexe Algorithmen Sentienz bedeuten.
- Besinne dich auf deine Menschlichkeit: Erinnere dich regelmäßig, dass du mehr bist als Datenmuster — ein durch Evolution geformtes biologisches Wesen, in der realen Welt verkörpert und fähig, Emotionen zu empfinden, die auf physischen Erfahrungen basieren. Das hält dich bei der Interaktion mit Technologie bodenständig.
Anil Seth is concerned about the “mythology of conscious AI” – the growing argument that LLMs and other AI systems might one day achieve consciousness. Seth is a Professor of Cognitive and Computational Neuroscience at the University of Sussex and a leading expert on consciousness. He’s skeptical that AI will ever achieve true consciousness, and argues there’s danger in perceiving these technical systems as feeling beings. Today, we discuss that danger, and what science even defines as “consciousness.”
Learn more about your ad choices. Visit podcastchoices.com/adchoices
