生成式人工智能最近的“超人”表现让人憧憬机器也会产生意识。但有人出来泼冷水，靠增加指数级的计算资源只能极大地改善模拟，但却永远无法到达彼岸。本文主要探讨了为什么计算机无法获得意识，阐述了科学的局限性、哲学与科学的区别、大脑与意识的关系，以及人工智能与连接主义的局限。
文章来自编译。
人类已经将自身由细胞组成的生物体变成了完全不同的东西。但有一点令人困惑，那就是现代神经科学的进步与影响如何引导其从业者将人性的奇迹塞进大脑，以及计算机科学家如何进一步将大脑转化成硅电路的逻辑门。
由于人类以感觉为“输入”，以言语和行动为“输出”，这已经变成了人工智能的信条，也就是令人信服地模仿人类的输入输出行为就相当于让计算机真正具备人类特质。
——阿里·舒尔曼（Ari Schulman）
科学家们之所以能逃脱这种形而上学式谋杀的惩罚，是因为他们开发的技术具有极高的实用性。（Tallis 2014。）但令人惊讶的是，一群哲学家却屈服于神经科学的光环，并向那些还原论者伸出了援助之手。
娱乐媒体通过《她》以及《机械姬》等电影，将这种愚蠢的行为变成了未来的可能性。
本文话题涉及到当下很火的从生物学到计算机伪科学的“神经”智能时尚，同时还回答了我之前一篇谈人工智能与意识的文章许多问题与有效批评。
在1998 年的一场讨论意识的会议之后，研究意识的先驱神经科学家克里斯托弗·科赫 (Christopher Koch) 跟心灵哲学家大卫·查尔默斯 (David Chalmers) 打赌说， 25 年内，人们会发现大脑当中意识的神经关联性。
得分：哲学家 1，科学家 0。
科赫还没在大脑中找到意识的神经指标。2023 年，查默斯被宣布为获胜者，奖品是一箱葡萄牙的优质葡萄酒。
生成式人工智能以及一众GPT的成功激发了人们对通用人工智能 (AGI) 即将到来以及人工智能可拥有意识的期待。19 位科学家最近发表的一篇论文进一步指出：“开发出满足这些指标（意识）的人工智能系统已无明显的技术障碍。”
毫无疑问，我们可以制造智能机器。可是，我们能制造出有意识的机器的假设的前提，是基于一系列关于科学、大脑以及思维的错误假设。
科学及其局限性
意识问题
2005 年，《科学》杂志将意识这个“难题”评为科学界第二重要的未解问题。难就难在解释事物是如何产生主观体验的。大脑这样的物质系统如何产生意识？如何通过神经活动模式区分香草与薰衣草的气味？大脑作为一个物质对象，如何创造出非物质的精髓，比如价值观、目的、意义、感觉或思想？
尽管神经科学取得了令人瞩目的进步，但它没法回答这些问题——一个也回答不了。
这个问题很难解决，它源于我们对意识的理解。虽然意识机器的可能性不能被断然否决，但罗素茶壶假说或飞行意大利面怪物假说也不能被断然否决。这两个假说在逻辑上都是合理的。但问题不在于意识机器的论证在逻辑上是否一致，而在于它是不是一个值得接受的有效假说。
神经科学家坚信，解决与意识相关的简单问题会让我们朝着一个方向前进，也就是大脑处理结构与意识体验结构之间会存在越来越紧密的对应关系。不过，希望神经活动与内在体验之间对应关系更紧密就能解决难题，就像相信只要走得足够远，你就能走到地平线一样。
传统意义的“科学”意识理论不存在，因为科学只能描述和预测自然的行为方式，而不能描述和预测自然是什么。后者的研究属于哲学领域，或者更确切地说，属于形而上学领域。伯特兰·罗素 (Bertrand Russell) 早在一个世纪前就得出了这一结论 (Russell 2009)。
科学解释事物的运作方式，而哲学则寻求对事物意义的理解。科学研究事实，而哲学探究事实的意义。
量子力学是物理学当中一门非常成功的学科，其数学以坚如磐石的精度描述了量子现实。然而，量子现实意味着什么则完全是另一回事。量子物体怎么能既是粒子又是波？意识在测量过程中会导致波函数坍缩吗？这个学科的正统观念几十年来一直在压制这类问题，让追求这一道路的物理学家的职业生涯陷入了死胡同。量子物理学家会告诫人们：“闭嘴，算你的东西就行了！”
科学把所有现实都简化为量子、数字或计量单位。它处理的是外部事物，即可以用感官及其延伸感知的现实经验领域。意识对于科学家来说是一个难以捉摸的概念，因为它完全是主观的，无法简化为客观对应物。
试图用定量方法解决意识的难题，就像试图通过看屏幕播放的电影来弄清楚前者是如何制造出来的。
解释（Explanation）与诠释（Interpretation）
对于《李尔王》的文字，科学能解释的是其定量维度：纸张的密度和重量、标牌墨水的化学成分、页数等等。这些是你可以通过经验观察或了解到的关于文字的东西。然而，要理解《李尔王》的含义，我们需要学习一种语言及其符号，然后才能与他人进行多数人都能理解的沟通，从而着手进行。
解读并非只是主观的随性而发；《李尔王》讲述的并不是战争的轻浮。诠释有好有坏。而这些诠释性理解与经验解释同样重要，有时候甚至更加重要。
另一个例子是谈话疗法，或心理疗法，这是一段解释性的奥德赛，展示了解释如何影响幸福感和人类能动性。你不会从脑电波、皮质醇、血清素以及多巴胺水平的角度来解释你的焦虑，而是从焦虑本身的第一人称体验（或感受性）的角度来解释：疏离感、迷失方向、不适以及想得太多什么的。跟知识相反，这些都是只有通过主体间语境才能理解的现象体验。
任何工具都不能直接观察理性、价值观、思想或情感。亚历山大·林克莱特（Alexander Linklater）说得最为精到：
值得一提的是，尽管 fMRI 扫描非常出色，但神经科医生仍可以通过与患者相处来多了解心理功能。
换句话说，通过对话来理解含义和背景，从而理解患者的体验。
物质是否能产生感受性或主观体验这个问题本身没法靠经验判断，也不属于科学范畴。换句话说，物质产生感受性这种看法在科学上毫无根据：它是一种哲学（形而上学）学说。解决这一难题的所有尝试都失败了，它仍然顽固地成为形而上学唯物主义教派的教条主义者眼中的异类。
但，我们依然不缺乏尝试。
方法之一是无解方案（non-solution）：由于我们大脑的构造方式，我们永远无法解决难题。这是哲学之愚。这种方法有什么意义？如果你不想了解周围的世界，为什么要研究哲学？
另一种是用消除唯物主义的形式来解释意识，这种激进的主张认为意识是虚幻的；换句话说，心理状态错误地认为自己并不存在。支持这种看似荒谬的、自相矛盾的观点，这就是哥德尔式的悖论（Kastrup 2015）。你都不用动太多脑子就能看出这些哲学家们是怎么推翻自己的论点的：如果我们不能相信自己的心智告诉我们自己是有意识的话，那么为什么要相信同一个心智告诉我们自己没有意识呢？如果意识是一种幻觉，那么谁或什么在产生幻觉？这让你想知道这种幻觉是如何超脱在意识之外产生的。
第三个方法是现代泛心论，这是物理主义的一种更精致、更复杂的形式，它认为万物都有意识：动物、树木、岩石，甚至亚原子粒子都有。
他们试图用更基本的意识形式来解释动物和人类的意识：基本物质实体的意识，比如夸克和电子。
泛心论认为，当原子及其基本的“意识”部分聚集在一起形成复杂的聚合体时，这些小小的部分就会创造出“某种东西”，可以产生生命的意义、盐的味道或爱的感觉。但是，这个难题仍然是个谜，因为它将感受性推向物质的更基本层面（基本粒子），但没法解释这些聚合体如何导致主观体验。
有个老笑话可以搬过来用：意识在实践上行得通，但在理论上却行不通。
心智是一台机器吗？
从根本上来说，心智是一种句式的计算设备，它从感觉传感器那里接收句子作为输入，对其进行逻辑运算，并输出其他句子。（Churchland，1989）
我们发现，行动源自我们的感知，而我们的感知是由大脑活动构建的……我们的行动完全是机械式的……我们是可编程的机器，我们得像把地球是圆当作理所当然一样接受这一点。 （Carter，2010）
把神经哲学当作幌子的科学主义，是服务于认知科学的形而上学，彼得·温奇几十年前批评这种哲学变成了“助手”，只是作为科学的工具，用来消除语言混淆，为科学解释铺平道路。用约翰·洛克的话来说：“扫一下地，清除一些妨碍知识获取的垃圾。”
于是，语言就成为充分表达事物和描述事物作用的工具。
如今，我们竟将’who’转化为’what’，将’我’分解为’它们’的集合。探寻人性真相的旅程，演变成了将万物，包括我们自身，还原为单纯物质的过程。在神经科学的魅惑之下，语言——容我说得直白些——遭受了一次精神上的脑叶切除。我们的表达，曾经丰富多彩，如今却变得贫瘠单调，仿佛失去了描绘人性复杂性的能力。
雷蒙德·塔利斯（Raymond Tallis）将这种手法称为’转移修饰语思维’。用维特根斯坦的话说，这导致语言’休假去了’——也就是脱离了它本该有的严谨与准确。，正是建立在这种概念转移之上。这种偷梁换柱正是塔利斯所谓的’神经神话学’的核心。
哲学家们把时间花在对概念的思考上。为什么？认知科学的概念大多都很好。我们需要的是继续发现事实。
大脑不会产生意识
把相关性、原因与身份混为一谈
生物主义和神经哲学对人类在自然界地位的认识是错误的，因为它们将相关性与因果关系跟身份混为一谈，同时将心智、生物以及物质置放在同一抽象层面。
功能正常的大脑是体验的必要条件，但并非充分条件。主观体验与神经活动模式的相关性并不能确定大脑产生意识的因果关系。（ Papinaeu，2001）。虽然主观体验具有客观的神经相关性，但科学只能得出这一结论。消防员在某个地点的存在可以与火灾相关联，但火灾的原因无法从这种相关性中推断出来。
神经放电的感知相关性是否等同于感知的体验？对红色的体验与其神经成像相关性的知识并不相同。火灾现场的消防员并不等同于他们被派往要扑灭的火灾。此外，如果神经或神经冲动被认为会引起感受性或意识，那么它们就不可能彼此等同。如果 A 与 B 等同，A 就不能导致 B，反之亦然。
只有一神论的上帝才能做到这样的壮举。
妖言惑众正在肆虐。
神经神话学误导了我们，让我们自认为自己知道和理解哈很多。我会举两个例子。
术语按照可操作的方式来定义。然后，在挥手之间，用一连串未经审慎检验的隐喻，大脑与心智之间的界限就这样被轻易抹去了。
信息
克劳德·香农开创性的信息理论是通信与计算机科学的基础，该理论将信息单位定义为“比特”，表示在两个可能性一样的备选中做出的选择。信息内容用消息的熵或不确定性来衡量：不确定性越大，信息越多。因此，抛硬币是高熵（信息），因为结果不确定，概率为 50/50。
这个信息工程定义要想行得通，必须摒弃掉任何意义的概念。用香农的话来说：
通信的语义与工程问题无关。
然后，理论将神经系统的功能视为一个传输系统，并把大脑概念化成一个处理和存储设备，这只是迈出了一小步。
衡量信息的方法变成了信息的定义，无视了信息对接收者来说信息量有多大（是不是很有趣、很激动人心、很令人愉悦或令人震惊）。但是，从对信息的一般理解当中剔除掉意义（信息的词源来自拉丁语 informare ，意思是“赋予一个东西形式、形状或特征”），这就忽略了对理解的要求。
所以，计算机没法思考或理解；它做的只是根据一组规则（算法）交换符号。计算机指令集决定了符号与数字如何相互交换。
哲学家约翰·塞尔（John Searle）提出的中文房间思想实验驳斥了图灵测试（衡量机器智能是否与人类智能相当的指标）以及把心智（mnd）等同为信息处理系统的概念。类比如下：
把一个不懂中文的人放进一个封闭的空间里。这个人通过输入槽接收“输入”，也就是汉字，然后根据一套英语规则操纵这些符号，并“输出”看似经过深思熟虑的汉字答案。在外面的观察者看来，房间似乎能听懂中文。可是里面的人只是按照规则操作，其实并不理解任何的符号。
计算机以及现代基于 GPT 的人工智能系统看似能理解语言，但其实不然。
句法（结构、形式、规则以及词语排列）不能等同语义（意义与解释）。句法正确的句子，可能逻辑一致但毫无意义。
理解意义跟基于规则的符号操作不一样，因为符号还没被解释。中文房间想这样一种观点发起挑战：即经过适当编程的计算机可以变得聪明，像人类一样理解事物。这意味着通过图灵测试未必就意味着具备了真正的理解或智能。
脱离语义的信息也让泛心论哲学家认为信息以及进而的体验无处不在。门也携带信息，因为门的关闭状态为 1，打开状态为 0。
岩石也能有信息状态——比方说，膨胀和收缩时——甚至从电子的不同状态也能找到信息状态。因此，会有与岩石或电子相关的体验。（Chalmers，1997 年）。
如果岩石有意识，那大脑也有意识，这一点毋庸置疑。心智则取决于大脑当中信息位的“功能组织”。可是，这种功能组织如何导致感受性呢……没人知道。
记忆
计算机有内存，用来存储和处理信息。可是，神经科学尚未找到大脑中记忆“文件”的位置或“地址”，甚至连这种“文件”是否存在都不知道。
行为主义心理学家卡尔·拉什利 (Karl Lashley) 试过给老鼠制造脑损伤，想确定记忆与学习的不同位置。在给经过迷宫导航训练的老鼠制造脑损伤后，他观察到老鼠的表现并未受到影响。他得出结论，“记忆”没有独立的地址，而是遍布整个大脑。
根据他的学生、神经学家唐纳德·赫布提出的理论，记忆的神经基础是形成“细胞集群”，也就是体现被记住的体验的细胞集合（神经元一起放电、被连接在一起），以及神经细胞之间突触的选择性刺激或抑制。在赫布看来，这种变化只是局部变化，而不是整个大脑的变化。
局部记忆与分布式记忆、原子记忆与格式塔记忆理论：说道大脑中记忆的位置，神经科学仍然没有定论：
我们已经发现记忆形成的某些神经关联，即伴随着记忆出现的某些大脑活动，但尚未发现信息本身存储在哪里。（Kastrup，2015）
联结主义
那能不能通过模拟神经模式来对大脑建模然后创造出心智呢？
联结主义这种计算形式是 GPT 以及 LLM （大语言模型）的基础，给经典的认为思维类似于处理符号语言的数字计算机的认知科学提供了一种替代方案。大脑似乎不按规则运作，没有处理单元，信息也不存在于文件或地址之中。联结主义将大脑模拟成分布式结构当中大量互连的系统，让模拟神经元之间的连接因为学习、训练或“体验”而发生变化。
算力的迅猛发展让物理学和非线性数学的自组织思想被重新发现，还让神经生物学家得以了解大脑对损伤的恢复能力以及认知的灵活性。
与（假设大脑通过处理符号进行计算的）认知计算理论不同，联结主义的前提是计算是从大量简单组件或模拟神经元的连接层面开始的，这些组件或神经元会动态连接并“自我组织”。这种大型人工神经网络在模式识别、分类以及翻译等一系列认知能力方面取得了惊人的成功。
意义并不存在于构成系统的人工神经元之中，而是“存在于从许多此类成分的相互作用所产生的复杂活动模式之中”（Varela 2016）。我会在后面详细阐述复杂性、涌现性以及模式等术语。
生成式人工智能的惊人进步引发了人们对联结主义及其最新形式，也就是深度学习的浓厚兴趣。人工智能的新兴特性与符号计算有何关联，或者符号规律如何从复杂模式中“涌现”，这些问题是当今人工智能研究最热门的领域之一，但目前还未得到很好的理解。
可是，这个问题是有误导性的。从复杂模式涌现出规律是一个数学过程，而不是现象学意义或经验意义上的过程。通过 GPT 和 LLM 进行的神经网络模拟没法理解输入的人类符号，也没法理解它生成的输出。它所做的是通过一系列数学和几何算法将问题转化为答案。
所以GPT（Generative Pre-training Transformer）才叫GPT，以人类数据作为输入，以人类解释的输出进行训练。
人工神经网络无疑将推动机器智能的发展。这些系统会不会产生意识或体验到像人工神经元系统一样的感觉则完全是另一回事。
有人曾希望，只要处理能力和复杂性足够，计算机系统就能“跃升”到产生意识的地步，但这个错误的希望在这个难题上仍然会破灭，因为地图不是领土。
错误的抽象及错误的同构
人们想诉诸于涌现、模式和复杂性等具有巨大错误解释力的术语，来解释复杂机器组件当中并不明显的“更高级”功能的出现。
人工智能工程师将机器精神化，同时将思维机械化。他们的目标是通过大脑和计算机之间高度抽象的同构来消除心智与大脑之间的障碍，他们通过用软件模拟神经网络来实现这一目标。可是，硅电路、大脑跟心智属于完全不同的“种类”，或者不是一个性质层面。
细胞、大脑和生物体都由物质构成。但生命比物质更重要。比方说，自创生，也就是自我维持和自我复制的能力，是生命所独有的，在物理圈（physiosphere）是找不到的。
物质比生命更基本，但重要性却更低：摧毁完所有的生命，原子仍会继续存在。摧毁完一切物质，生物圈（biosphere）也会随之消失。物理圈是生物圈的一部分，但反之则不然（编者按：原文如此，应该反过来）。同样的道理也适用于理性圈（noosphere），也就是思想所在的心理社会领域。心智圈比生物圈更重要，而生物圈又更加基础。
物质、生命及心智：每一层都增加了一个神秘的“额外内容”，从而创造出更大的深度或无法通过科学实现的，在本质上的提升。
在实验室里面还没有诞生过生命，意识也尚未从合成生命当中诞生。从死的物质中创造出意识是一个更艰巨的挑战。可是，这并没有阻止超人类主义的领袖雷·库兹韦尔预测我们将能把我们的意识上传到计算机里面。
抛开哲学上的细微差别，在质上的本质飞跃似乎源于在量上的复杂性的增加，但定义这种飞跃的构成或解释为什么会有这样的飞跃我们仍然无法企及。
类比可以让我们理解为什么这仍然是个谜。计算机跟管道、阀门以及供水系统没有什么不同。阀门就像可以打开和关闭的晶体管。管道是电路，水是电流。从计算的角度来看，认为它们同构是完全合理的：这些系统仅在数量或大小上有所不同，但在本质上并无不同。
因此，这种管道跟阀门系统赋予庞大规模与极高复杂性之后，也可以复制任何现有计算机的操作。
我们是否有充分的理由相信，我们是否有充分理由相信这样的水管系统也能像大脑一样产生私密的、有意识的内在体验？做一个管道系统、阀门系统以及水系统也会有感觉？（编者注：此处引用了哲学家托马斯·内格尔的《做一只蝙蝠是什么感觉》）如果你对这个问题的回答是“是”，那么逻辑就会迫使你开始怀疑你家里的卫生系统——包括管道、阀门和水——是不是会有意识，当你出去度假时关掉主阀门是不是相当于谋杀。”
但区分秩序与复杂性的也是心智。因此，对模式、涌现和复杂性的诉求是本末倒置，因为心智会发现并定义模式、涌现和复杂性。大脑的神经模式极其复杂：数十亿个神经元可能的组合数量超过了宇宙的原子数量
这种复杂性应该消除人们对意识会从中“涌现”，并重新审视复杂性、模式以及“作为不理解它们”的涌现的标准。
意识延伸于大脑之外：身体与生活世界
某些针对人工智能和人工意识的最有力论证来自存在主义和现象学传统，特别是埃德蒙德·胡塞尔、马丁·海德格尔以及莫里斯·梅洛-庞蒂（他深谙当时的神经科学）的思想。人工智能科学家曾嘲笑和无视这些观点，但这些观点如今却得到了最新的人工智能研究的认可。
不像很多人工智能研究人员对智能和意识在潜意识的认识一样，我们不是“缸中之脑”。按照梅洛-庞蒂的“活生生的身体”（lived body）这个概念，跟环境的物理互动对于神经的正确发育与感知至关重要：
如果小猫在大脑发育的关键早期几个月内被抱在怀里，允许它观察周围环境，但不让它独立活动，小猫就会出现严重的视力障碍。虽然小猫的眼睛和视神经在生理上是正常的，但它的高级视觉处理能力，如深度感知和物体识别，就会受到严重损害。
大脑存在于人体的物理范围内，与物理圈、生物圈以及理性圈有着错综复杂的关系。在人类存在的背景下，从根本上我们与心智的集体相连，并与由这些个体自我和文化所塑造的复杂社会文化结构紧密相关。
海德格尔明确指出，我们的“存在”无法脱离其背景语境：我们的意识和自我并不是被存放在躯体或柜子里，而是融入与他人共同创造的有意义的生活世界中不可或缺的一部分。
虽然基于胡塞尔、海德格尔和梅洛·庞蒂几十年前所提出思想的具身认知运动及其在人工智能的整合体现出向前迈进了一步，但其本体论基础仍然局限在大脑与神经系统之中。将心智扩展到具身并不能让认知科学家解决一个核心问题，也就是理解、表征或处理发生在自身之外的事物或事件，并为其主人和其他人从这种“相关性”（aboutness）中创造一个生活世界的问题。
此外，具身认知还导致了这样一种悖论：从计算角度进行推理比计算感知和感觉运动技能要简单得多。尽管无数次预测全自动无人驾驶（ ADV ）即将问世均屡屡失败，我们仍没法将智能融入到车辆，让它们实现自动驾驶。尽管大肆宣传，但人工智能仍没法把碗装满你的洗碗机，近期内都不会。
靠增加指数级的计算资源来解决难题并不能解决问题，只能极大地改善模拟。这些资源的应用仍然是人工智能迈向（其无法到达的）意识领域的一个开放式的进步。
结论
意识和心智不仅仅是自然的写照：
认知不是通过预先给定的思维来表征预先给定的世界，而是在世界存在物所进行的各种行为的历史基础上对世界和思维的演绎。（Varella，2016）
认知是预先存在的心智对预先存在的世界的表征，而是世界和心智基于生物体在世界执行各种行动的历史而实施的过程（Varella，2016）
现象学家提出的挑战仍然存在。大脑和神经系统要靠科学家的思想去感知、解剖和实验：大脑位于思想与意识之中，而不是反过来。
如果意识的难题——以及机器的意识——被误解了会怎样？
如果意识是根本，物质是意识的附带现象，而我们却面临物质的难题会怎样？虽然这听起来不符合直觉，但不妨思考一下：
我们是否知道任何存在于我们的经验（感觉、知觉、思考……）之外的事物呢？
如果你对这个问题的回答是否定的话，那你就会明白，科学可以创造意识这个信念不过是人工智能的迪士尼化罢了。
机器中的幽灵只是个幽灵罢了。
幽灵不可怕，可怕的是幽灵有文化；用付费的AI工具，你也可以打败幽灵的。国际虚拟信用卡就是一个可以付费AI工具。4399Pay就是一家专门提供国际虚拟信用卡的平台，敢兴趣的朋友可以回到官网或者添加客服TG（@dabai717）进行了解。
