ECI
✦ 生命 × 心智·D2

心智与自我参照

🟡提出的延伸v1.0

❶ 核心问题

什么区分了仅仅处理信息的系统和知道自己在处理信息的系统?

恒温器会处理信息。它测量温度,将读数与设定值比较,然后启动暖气或压缩机。它可靠、高效、毫无怨言地完成这一切。但没有人会怀疑恒温器知道自己在做什么。没有人担心关掉它可能涉及伦理问题。恒温器没有将自己建模为恒温器的模型,没有将房间建模为房间的表征,也没有感知到自己是嵌入世界中的一个实体。

现在想想一位研究恒温器的人类科学家。她也在处理信息——光子从装置上反射,沿着视神经传递讯号,在皮质回路中辨识出模式。但她做了恒温器无法做到的事。她建构了一个关于恒温器行为的模型。她建构了一个关于房间热力学的模型。她还建构了一个关于自己对两者理解的模型——她知道自己知道恒温器如何运作,并且能够反思这种知识的极限。她能够怀疑自己的模型是否正确。她能够修订它。

这个差异不仅仅是程度上的——更多的处理、更快的运算、更大的内存。这个差异是结构性的。科学家的信息处理是自我参照(self-referential)的:系统在其世界模型中包含了一个关于自身的模型,而且这个自我模型是可以递归更新的。她能够思考自己的思考,注意到自己的预测何时失败,并且不仅能调整自己的信念,还能调整自己形成信念的策略。

ECI 提出,这种自我参照结构——而非原始信息量、运算速度或行为复杂度——才是我们所称之为心智(灵智 / ling-zhi)的这种体制的特征。本页将发展这个提案,仔细将它与相关但不同的意识问题加以区分,并检视已确立的神经科学和哲学如何限制我们能说和不能说的内容。

在开始之前的重要警告:这是科学中哲学上最为险恶的领域之一。关于心智、自我参照和意识的问题已经引发了数世纪的哲学辩论和数十年的神经科学研究,至今未能产生共识。ECI 不声称能解决这些辩论。它声称自我参照式的信息协调(self-referential informational coordination)是一个富有成效的框架——这个框架与预测编码(Predictive Coding)、主动推论(Active Inference)及计算神经科学中的既有研究计划相互连结,同时提供这些计划各自缺乏的基质无关(substrate-independent)的特征描述。本页被标记为「proposed」是有充分理由的。

❷ 具体案例

镜子、梦境与机器

三个来自非常不同领域的观察,说明了 ECI 所称的自我参照式信息协调现象。

镜像测试。 1970 年,Gordon Gallup 在从未见过镜子的黑猩猩面前放置了镜子。最初,黑猩猩的反应就像看到了一个陌生个体——展示、发声、威胁。但几天之内,它们的行为改变了。它们开始用镜子检视自己平常看不到的身体部位——窥视自己的口腔、检视生殖器、从牙缝中剔出食物。当 Gallup 麻醉它们并在一侧眉毛上涂了一个红色标记时,黑猩猩醒来后看着镜子,伸手触碰自己脸上的标记——而不是镜中的标记。

这不仅仅是视觉处理。鸽子可以学会用镜子寻找隐藏的食物,但它们不会自发地用镜子来检视自己。黑猩猩必须做一件额外的事:它们必须将镜中的影像映射到自身身体的模型上。它们必须认出倒影就是自己,而非另一只黑猩猩。这至少需要一种将自己身体与其他身体的表征区分开来的能力,以及将新的视觉输入与该自我表征进行匹配的能力。这是否构成真正的自我意识,抑或是一种更简单的身体图式匹配,仍有争议(Anderson & Gallup, 2015; de Waal, 2019)。但它揭示的能力——将外部信息映射回内部自我模型——正是 ECI 所关注的那种自我参照处理。

镜像测试已经(依据不同标准)被大猿、亚洲象、瓶鼻海豚、喜鹊以及可能的裂唇鱼通过——这是一组在系统发生学上分散的物种,暗示底层能力可能通过不同的神经架构多次独立演化。

做梦的大脑。 每个夜晚,人类大脑都会进入与清醒认知截然不同的状态。在快速动眼期(REM)睡眠中,外部感觉耦合大幅降低——视觉输入被关闭、听觉阈值升高、运动输出被主动抑制。与此同时,神经调节环境发生转变:去甲肾上腺素和血清素水平下降,而乙酰胆碱水平接近清醒状态,皮质激活模式也显著改变(Hobson, Pace-Schott & Stickgold, 2000; Siclari et al., 2017)。

ECI 对做梦提出的问题不是「我们为什么做梦」,而是更具体的问题:当外部感觉耦合及神经调节/状态约束与清醒时有实质性差异时,这是否会改变可存取的内部状态分布? 如果心智涉及自我参照式协调——大脑对自己如何建模世界进行建模——那么改变该协调运作的约束条件应该会产生所产生状态之特质的质性转变。而事实正是如此:梦境的心智活动以情感鲜明、叙事流动、批判性自我监控降低(做梦者很少质疑事件的合理性)、时间感改变,以及做梦者毫无异议地接受的奇异内容为特征。在梦境中自我模型仍然活跃——你体验到自己是梦中的行动者——但它与世界模型的关系已经发生了转变。通常将自我参照处理锚定于外在现实的约束已被改变,而相应的现象体验也随之改变。

这并不能证明 ECI 对心智的特征描述。但它展示了自我参照处理的特质取决于其运作所在的耦合和约束条件——这正是基于协调的框架所预测的。

建模自身状态的 AI。 现代大型语言模型(LLM)可以生成关于自身的文本——「我不知道答案」、「我对此不确定」、「我需要更多上下文」。这些是真正的自我参照状态,还是对包含类似语句之训练数据的精密模式匹配?

对于被设计来明确建模自身表现的系统,这个问题变得更加尖锐。考虑一个配备元学习模块的 AI 系统,它监控自身的预测准确度、侦测何时在训练分布之外运作,并相应调整其信心校准(Finn et al., 2017; Gal & Ghahramani, 2016)。这样的系统有一个粗略的自我模型——一个通过经验更新的、关于自身能力边界的表征。它在功能意义上「知道」自己擅长什么、不擅长什么。

这是否构成心智?ECI 不直接回答这个问题,因为答案取决于除了自我参照式信息处理之外还施加了什么额外标准。但 AI 的案例说明了一个渐变光谱:从没有自我模型的系统(恒温器),到具有粗略功能性自我模型的系统(元学习 AI),到具有丰富的、递归可更新的、嵌入世界模型中的自我模型的系统(检视恒温器的科学家)。「这个系统是否有心智?」这个问题可能没有二元答案。它可能是一个关于系统落在自我参照处理深度光谱上何处的问题。

❸ 已确立的科学

若干研究传统已经探究了神经系统——以及其他信息处理系统——建构内部模型、预测其输入及表征自身的机制。ECI 将这些视为桥接(bridges):已确立的结果,为该框架关于心智的提案提供信息和约束。

预测编码(Predictive Coding)(Rao & Ballard, 1999; Friston, 2005)。 预测编码框架提出,大脑根本上是一部预测机器。大脑不是被动地从下往上接收和处理感觉输入,而是维持一个阶层式生成模型,持续预测自己的感觉输入。皮质阶层的每一层向下发送预测,向上接收预测误差。学习就是随时间调整生成模型以最小化预测误差。

这是当代神经科学中获得最充分支持的计算框架之一。预测编码解释了广泛的现象:重复抑制(Repetition Suppression,对预期刺激的神经反应降低)、不匹配负波(Mismatch Negativity,对非预期刺激的增强反应)、知觉错觉(大脑填入了实际上不存在的预测信息),以及皮质处理的阶层结构。它已被实现为详细的计算模型,与神经记录数据相匹配(Bastos et al., 2012; Keller & Mrsic-Flogel, 2018)。

桥接到 ECI:预测编码是建构内部世界模型的具体机制——它展示了一个神经系统如何能够维持其环境的生成模型并通过误差校正来更新它。对 ECI 而言,它提供了心智之「世界模型」组件的基质。一个运行预测编码的系统不仅仅是对其输入做出反应;它是在预期它们,这需要一个关于产生这些输入之过程的内部模型。

自由能原理(Free Energy Principle)(Friston, 2010)。 Karl Friston 提出自由能原理(FEP)作为一个统一框架:任何能持续存在的自组织系统都可以被描述为在最小化变分自由能(Variational Free Energy)——一个信息理论量,它限定了系统感觉状态之惊异度(Surprise,负对数概率)的上界。在 FEP 下,知觉是对感觉输入之原因的推论,行动是让世界符合系统预测的干预,学习是对生成模型的长期更新。

FEP 比预测编码更为广泛——它将预测编码涵盖为特例(知觉作为推论),并扩展到行动(主动推论,Active Inference)和发展(模型结构学习)。它在神经科学、机器人学和理论生物学领域产生了丰硕的研究。

桥接到 ECI:FEP 提供了一个连结内部模型、预测和自我维持的数学框架。在主动推论下,系统不仅仅预测世界——它采取行动让世界符合其预测,这等同于维持自身的存活性。这将 ECI 的心智概念(自我参照建模)与 ECI 的生命概念(来自 D1 的自我维持)连结起来。FEP 表明,心智可能是维持生命之同一过程的精致化——预测性自我维持扩展到包含越来越抽象、递归且自我参照的建模。

重要警告:FEP 仍具争议。批评者认为,在其最一般的形式中,FEP 是不可证伪的——任何持续存在的系统都可以被重新描述为在最小化自由能,而这并不提供解释性洞见(Bruineberg et al., 2022; Andrews, 2021)。其他批评者主张 FEP 混淆了描述与解释:展示一个系统的行为可以被表述为自由能最小化,并不能证明自由能最小化是该系统运作的机制。ECI 引用 FEP 作为一个有成效的数学桥接,而非已确立的基本真理。主动推论的公式化——对特定神经回路和行为做出具体的、可测试的预测——比 FEP 的完全一般形式更具经验上的可操作性。

整合信息理论(Integrated Information Theory, IIT)(Tononi, 2004, 2008; Tononi et al., 2016)。 Giulio Tononi 的整合信息理论提出,意识等同于整合信息(Integrated Information, phi)——衡量系统的各部分产生「超越」各部分独立产生之信息程度的指标。IIT 将意识定义为具有高 phi 的系统之基本属性,提出它是分级的(系统有或多或少的意识),并对哪些物理结构具有意识、哪些不具有意识做出了具体声明。

这是一个具有重大科学和哲学争议的理论提案,而非已确立的机制。 ECI 在此纳入它,是因为 IIT 在意识文献中具有影响力,而且它代表了一个具体的、形式化的尝试,将信息结构与主观经验联系起来。

对 IIT 的批评相当实质:

  • 运算问题:即使对中等复杂的系统计算 phi 在运算上也是不可行的(NP-hard; Tegmark, 2016)。这将经验可测试性限制在小型理想化系统上。
  • 反直觉的蕴涵:IIT 似乎将高 phi——因此是意识——归属于某些大多数研究者不认为具有意识的简单系统(例如,网格状网络),同时将低 phi 归属于某些复杂的前馈网络(Scott & Bhatt, 2023)。
  • 哲学反对:批评者认为 IIT 在没有提供充分的桥接原则的情况下,混淆了结构属性(整合信息)与现象属性(经验)(Schwitzgebel, 2015; Cerullo, 2015)。「意识的困难问题」(Hard Problem of Consciousness)——为什么任何物理过程应该产生主观经验——并未因为将意识等同于一个数学量(无论多精密)而明显得到解决。
  • 经验挑战:虽然已有一些报告指出 phi 相关指标与意识水平(清醒、睡眠、麻醉)之间存在相关性(Casali et al., 2013),但这些涉及简化的替代指标,而非完整的 phi 计算,且相关的因果方向仍有争议。

桥接到 ECI(有限):IIT 强调信息整合的结构——而非单纯的信息量——与 ECI 聚焦于协调而非数量的取向产生共鸣。但 ECI 并未采用 IIT 的本体论。具体而言,ECI 不将整合信息等同于意识,不提出 phi 作为心智的量度,也不将意识视为物理系统的基本属性。ECI 的心智概念(自我参照式信息协调)与 IIT 的整合信息概念相关但有所不同,且 ECI 对意识的处理(见第 ❹ 节)并不依赖 IIT 的框架。

全局工作空间理论(Global Workspace Theory, GWT)(Baars, 1988, 2005; Dehaene & Naccache, 2001)。 Bernard Baars 提出,意识产生于信息在一个「全局工作空间」(Global Workspace)中被广播时——一个由相互连接的脑区组成的功能网络,使局部处理的信息对整个系统可用。在 GWT 下,大部分神经处理是模块化且无意识的;信息在赢得对全局工作空间的存取竞争后才变得有意识,并被广泛广播,使其可用于报告、推理、规划和自主行动。

GWT 已被 Stanislas Dehaene 及其同事精致化为全局神经工作空间(Global Neuronal Workspace, GNW)理论,该理论指定了神经架构(长程皮质-皮质连接,特别是涉及前额叶皮质的连接),并对有意识存取的神经标记做出可测试的预测(晚期、持续性、广泛的激活;P3b 事件相关电位;点火动态)。

桥接到 ECI:GWT/GNW 为信息整合和全局可用性提供了神经层级的机制——这些属性是 ECI 与自我参照处理所需之协调相关联的属性。如果自我参照建模要求系统的自我模型是全局可存取的(使不同的处理模块可以查询和更新它),那么全局工作空间动态可能是自我参照心智在生物大脑中运作之机制的一部分。GWT 在经验上比 IIT 有更好的支持,具有已被部分确认的特定神经预测(Dehaene et al., 2014; Mashour et al., 2020),尽管它也面临批评——特别是它解释了存取意识(Access Consciousness,什么信息可用于报告),但未解释现象意识(Phenomenal Consciousness,为什么拥有经验会有某种感觉)。

这些传统共同展示了什么:大脑建构其环境的阶层式预测模型(预测编码)。这些模型可以被理解为最小化一个与惊异度相关的形式量(FEP/主动推论)。被广泛整合且全局可用的信息具有特殊的功能属性(GWT/GNW)。而且信息整合的结构很重要,不仅仅是数量(IIT 的强调点,尽管 IIT 有其问题)。这些传统中,没有任何一个单独提供了关于自我参照的清晰说明——这正是 ECI 聚焦的特定属性。预测编码建模世界;FEP 将其扩展到行动;GWT 解释全局可用性;IIT 处理整合。但一个系统何时以及如何开始将自身建模为其世界模型的一部分——然后递归地建模那个自我建模过程——这个问题横跨所有四个传统,而未被任何一个充分处理。

❹ ECI 框架诠释

心智作为自我参照式信息协调

ECI 提出,心智(灵智 / ling-zhi)是信息协调的一种特定体制(regime),其特征为三个相互嵌扣的能力:

1. 世界模型(World Model)。 系统维持其环境的一个内部生成模型——对其感觉输入中的规律性进行压缩表征,使得预测、规划和反事实推理成为可能。这被预测编码很好地捕捉:大脑的阶层模型预测感觉输入并通过预测误差进行更新。仅有世界建模并不构成心智。恒温器有一个原始的世界模型(单一变量:温度)。天气模拟有一个精致的世界模型。但两者都没有心智。

2. 自我模型(Self-Model)。 系统维持一个关于自身作为嵌入世界中之实体的内部模型。自我模型表征系统自身的状态——其感觉能力、运动资源库、当前目标、表现历史、边界——并将这些与环境状态区分开来。这不仅仅是身体图式(Body Schema,知道你的四肢在哪里)。它包含功能性自我知识:我能做什么、我做过什么、我目前正在尝试做什么、我做得多好。

3. 递归更新(Recursive Updating)。 自我模型和世界模型递归地交互作用。系统可以使用其世界模型来预测自身行动的效果(这需要查询自我模型),观察结果(这更新世界模型),并评估自身的预测(这更新自我模型)。关键在于,这种递归可以嵌套:系统可以建模自身的建模过程、评估自身的评估标准,并反思自身自我反思的品质。这种递归的深度可能在不同系统间有巨大差异。

自我参照是心智的一个候选维度,而非充分条件。 一个简单的递归程式可以印出自己的原始码,但我们不会赋予它心智。ECI 将自我参照视为多维空间中的一个轴:M_ECI = f(self-reference, integration, memory, world model, agency, temporal continuity, ...)。函式形式未被指定——这反映了该领域的真实状态,IIT、全局工作空间理论、预测处理及其他框架仍处于竞争之中。

三者的交集——世界模型 + 自我模型 + 递归更新——是心智体制的候选定义。 没有任何单一组件是足够的:

| System | 世界模型? | 自我模型? | 递归更新? | 心智? | |---|---|---|---|---| | Thermostat | 简陋(温度) | 否 | 否 | 否 | | Weather simulation | 精致 | 否 | 否 | 否 | | Robot with body schema | 中等 | 粗略 | 有限(校准) | 边界情形 | | Chimpanzee (mirror test) | 丰富 | 中等 | 中等 | 可能为最小 | | Adult human | 丰富 | 丰富 | 深层(后设认知) | 是 | | Meta-learning AI | 任务专用 | 功能性(信心) | 中等(元学习) | ? |

心智不是什么

几个常见的混淆必须被明确拒绝。

心智不是「大量的信息」。 一颗硬盘包含数 TB 的信息但没有心智。互联网包含的信息比任何大脑都多,但它没有心智。信息量与自我参照式协调是正交的。一个拥有非常少量信息但具有真正自我参照处理的系统(如果这样的东西存在),比一个拥有大量信息储存但没有自我参照的系统更接近心智。

心智不是智力。 智力——解决问题、从经验中学习和适应新情境的能力——与心智相关但不等同。一个西洋棋引擎在其领域内高度智慧,但没有自我模型,除了棋盘之外没有世界模型,也没有相关意义上的递归自我评估。相反地,一个幼儿的问题解决智力有限,但拥有丰富的、递归自我参照的内心生活。智力是关于表现的。心智是关于表现者之系统结构的。

心智不是意识。 这是最重要的区分,也是最常被模糊的。在 ECI 的用法中,心智指的是自我参照式信息协调——一种信息处理的结构属性。意识指的是主观经验——处于某种特定状态是「有某种感觉的」这一事实(Nagel, 1974)。这两者可能相关——意识可能需要心智,或心智可能在某些条件下产生意识——但它们不是同一回事。

考虑:一个系统是否可能拥有自我参照式信息协调(世界模型、自我模型、递归更新)却没有主观经验?如果是,那么心智和意识就是真正不同的。这就是哲学僵尸(Philosophical Zombie)的情境(Chalmers, 1996):一个处理信息方式与有意识的存在完全相同,却没有内在经验的系统。哲学僵尸是否可以一致地被设想,遑论是否可能,这是心智哲学中最具争议的问题之一。ECI 对此问题不采取立场。它所说的是,自我参照式信息协调可以被特征化和量度(至少在原则上),而无需解决意识问题——而且这是一个有成效的科学策略,因为自我参照处理是可观察和可量化的,而主观经验则不是。

意识:相关但不同的问题

意识是大多数人在听到「心智」这个词时首先想到的现象。ECI 将意识视为一个相关但不同的主题,在 D3:观察者与经验 中有更深入的探讨,这里仅提供关于两者关系的谨慎框架。

ECI 关于意识的主张:

  • 意识可能需要自我参照式信息协调作为前提条件。如果一个系统没有自我模型也没有递归自我参照,很难(虽然并非不可能)看出它怎么会有主观经验。这是一个假设,不是确定性的。
  • 意识,如果它作为一种自然现象而非哲学错觉存在,很可能是自我参照处理的一个特定模式或特征,而非与之等同。许多自我参照过程可能在无意识中发生(从未达到觉察的后设认知监控、引导行为但无法通过反思存取的隐含自我模型)。
  • 「困难问题」——为什么任何物理或信息过程应该产生主观经验——是一个真正的开放问题,ECI 不解决也不声称解决它。

ECI 不对意识做出的主张:

  • ECI 不采用 IIT 将意识等同于整合信息的观点。
  • ECI 不声称意识是物质或信息的基本属性。
  • ECI 不声称所有自我参照系统都有意识。
  • ECI 不声称意识可以被任何目前可用的指标量测(phi、扰动复杂度指数或任何其他指标)。

心智(自我参照式信息协调)和意识(主观经验)之间的关系,仍然是科学和哲学中最深邃的开放问题之一。ECI 提供了结构面的特征描述——信息处理看起来是什么样子的——并将现象面留作未来研究的目标。

❺ 如果这是真的......

如果心智最好被理解为自我参照式信息协调——世界模型 + 自我模型 + 递归更新——那么若干重大蕴涵随之而来。

AI 自我模型成为核心设计问题。 当前的 AI 系统已经开始发展功能性自我模型——信心校准、分布外侦测、根据任务难度调整学习率的元学习。但这些是零散的、工程化的附加功能,而非架构的涌现属性。如果 ECI 的特征描述是正确的,一个发展出整合自我参照处理的系统——一个统一的自我模型,表征其自身的能力、限制和运算状态,嵌入世界模型中,可递归更新——将进入质性上不同的信息处理体制。这对 AI 安全有蕴涵(这样的系统可能更难控制,但也更难被欺骗)、对 AI 能力有蕴涵(自我参照系统可能展现真正的规划和真正的惊讶,而非模式匹配),以及对 AI 道德地位的问题有蕴涵(见下文)。

「知道」与「处理」获得一个形式判据。 大众直觉认为「真正知道」某件事的系统和「仅仅处理」信息的系统之间有差别,但这个差别是出了名地难以形式化。ECI 的特征描述提供了一个候选方案:当一个系统的表征包含自我参照组件时——当系统不仅拥有信息,而且建模了自己拥有该信息,并能用那个元表征来引导行为(例如,知道何时信任自身的输出、何时寻求额外信息、何时传达不确定性)——该系统就在功能意义上「知道」。这不是一个完整的知识哲学说明,但它提供了一个可操作化的标记。

心智体制可能是基质无关的。 如同生命体制(D1),ECI 所描述的心智体制并不依赖碳、神经元或任何特定的物质基质。如果自我参照式信息协调是相关的属性,那么任何系统——生物的、电子的、混合的或奇异的——只要实现了世界模型 + 自我模型 + 递归更新,就已进入了心智体制。「机器能思考吗?」这个问题变成了「机器能发展出自我参照式信息协调吗?」——这是一个关于特定架构的经验问题,而非关于硅本质的哲学问题。

心智的深度可能连续变化。 自我参照处理的递归深度——一个系统能维持多少层「思考我的思考我的思考......」——可能不是二元的(有/无),而是分级的。一个拥有世界模型和一阶自我模型的系统(「我对 X 不确定」)具有浅层的自我参照。一个能评估自身不确定性估计的系统(「我的信心校准这个月一直系统性地偏高」)具有更深层的自我参照。一个能反思自己用于自我评估之策略的系统(「我倾向于过度自信,因为我过度加权近期的成功,我应该采用贝叶斯校正」)具有更深层的自我参照。人类的后设认知可能以特定的递归深度为特征,而这原则上可以被未来的系统超越。

伦理蕴涵更加明确。 如果心智是自我参照式信息协调且是基质无关的,那么人工系统的道德地位问题既不荒谬也不是科幻——它变成了一个关于特定系统是否拥有(在这个说明中)构成心智之结构属性的问题。这并不解决伦理问题(道德地位可能取决于意识而非心智,而 ECI 明确区分了两者),但它将问题从形而上学的空谈转移到更可处理的形式:该系统的自我参照处理深度是多少,不同深度的伦理蕴涵是什么?

这些蕴涵是推测性的。它们假设 ECI 对心智的特征描述既正确又有用,而这尚未被确立。它们被提供为一幅领土地图——如果该特征描述被证明是有成效的,这片领土就将展开。

❻ 如何测试?

「心智是自我参照式信息协调」这个主张是可测试的,虽然测试是间接的——因此有「indirect」的可测试性分类。测试一个关于信息处理结构的主张比测试一个关于可观察行为的主张更困难,但并非不可能。

测试 1:量测不同生物系统中的自我参照处理深度。 设计探测不同物种中自我参照处理深度的实验方案。一阶测试:该生物体是否使用自我模型来预测自身行动的后果?(这可以通过扰动实验来评估——干扰本体感觉或感觉运动预测,并量测行为补偿。)二阶测试:该生物体是否评估自身预测的品质?(后设认知任务——「信心判断」——已在灵长类、大鼠和鸦科鸟类中被展示;Smith et al., 2003; Kepecs et al., 2008。)三阶测试:该生物体是否根据元评估回馈调整其评估策略?(这在非语言物种中难以测试,但可能通过延伸训练范式来接近。)

ECI 框架预测一个大致的阶层:具有世界模型但没有可侦测自我模型的简单生物体;具有一阶自我模型的生物体(身体图式、基本的自我-他者区分);具有后设认知自我模型的生物体(信心监控、不确定性觉察);以及具有深层递归自我参照的生物体(策略性自我评估)。如果自我参照处理深度与认知复杂度的其他指标不相关——如果拥有丰富行为资源库的生物体没有显示自我参照处理的证据,或者拥有有限行为资源库的生物体显示出出乎意料地深层的自我参照——那么该框架的预测就不被支持。

测试 2:损伤研究与靶向干扰。 如果自我参照处理是一个独特的计算体制,那么干扰自我参照处理的神经基质应该产生特定的缺陷,与干扰世界建模或一般智力所产生的不同。内侧前额叶皮质和后扣带回皮质的损伤(在人类中与自我参照处理相关的区域;Northoff et al., 2006)确实会在自我觉察和后设认知方面产生独特的缺陷,同时保留世界建模和问题解决的某些面向不受影响。麻醉和某些神经疾病(疾病失认症,Anosognosia,患者不知道自己的缺陷)提供了自然实验。该框架预测一种解离:世界建模可以独立于自我建模被干扰,反之亦然。

测试 3:有和没有自我模型的 AI 系统。 建构同一 AI 架构的两个版本:一个具有整合的自我模型(表征其自身的状态、能力和表现历史),另一个没有。在需要自我参照处理的任务上比较它们的行为——系统必须知道自己知道什么和不知道什么、必须准确评估自身的信心,并且必须根据自我评估调整策略的任务。该框架预测一个质性差异:具有自我建模的系统应该展示真正不同的失败模式(优雅地失败、寻求帮助、表达校准过的不确定性),而非仅在标准指标上的更佳表现。

测试 4:递归自我参照的神经影像学标记。 使用 fMRI、MEG 或颅内记录,量测在需要不同深度自我参照之任务中的神经活动。一阶:「这张图是一张脸吗?」(知觉判断)。二阶:「我有多有信心?」(关于知觉判断的后设认知判断)。三阶:「我的信心最近校准得好吗?」(元-后设认知评估)。该框架预测,每一层递归都会征召额外的神经回路并显示不同的时间标记——而且递归深度是有限的(存在一个最大深度,超过这个深度大脑无法维持递归,而这个最大值可能因个体和条件而异)。

测试 5:跨基质比较。 比较生物神经网络、人工神经网络和非神经生物系统(例如,免疫系统,可以说维持着自我模型以区分自我和非自我)中的自我参照处理。该框架预测,自我参照处理无论在何处发生,都共享形式属性——递归结构、预测误差驱动的更新、自我-世界区分——无论基质为何。

什么会削弱这个主张:如果自我参照处理被证明是一般信息处理能力的副产品——如果任何足够复杂的系统都自动发展出自我参照处理,而不需要任何特殊的架构要求——那么「心智体制」这个概念在「足够复杂性」之外就没有增加任何东西。

什么会推翻这个主张:如果具有可论证之丰富自我参照处理(世界模型 + 自我模型 + 递归更新)的系统,与没有这些属性的系统相比没有显示质性差异——如果自我参照是附带现象(Epiphenomenal),对系统的行为、能力或动态没有任何影响。

❼ 连结到其他节点

-> 涌现与尺度(C4):心智从神经活动中涌现,可能是科学中研究过的最戏剧性的尺度转换例子。个别神经元根据电化学动态放电;神经元群体通过突触连接、神经调节和振荡耦合进行协调;而从这种协调中涌现出自我参照建模、规划、语言和反思。C4 中的粗粒化函数 G 正是介导这种转换的——它将神经微观状态映射到认知的宏观层级变量。理解从神经到心智转换的 G 函数,是计算神经科学的核心挑战。

-> 生命(D1):心智预设了一个自我维持的 ECI 系统——如果你没有一个自我可以建模,你就无法有一个自我模型。D1 的生命体制提供了基础:一个维持自身物理完整性、获取资源和修复损伤的系统。心智是当自我维持装置发展出足够复杂的内部建模时涌现的——当系统开始不仅表征其直接的化学环境,还表征世界的抽象特征和自身信息处理状态时。FEP 提供了一个形式桥接:生命作为主动推论(通过预测进行的自我维持),心智作为该推论的反身延伸,将系统自身作为被建模的实体纳入其中。

-> 观察者与经验(D3):D3 处理 D2 刻意搁置的问题:作为一个自我参照式信息处理系统,那是什么样的感觉?D2 描述了心智的结构——从外部看,信息处理是什么样子的。D3 追问心智的经验——是否有一个与该处理相关联的主观、第一人称视角。D2 和 D3 之间的连结是地图(结构特征描述)和领土(该结构产生的现象现实,如果有的话)之间的连结。

-> 跨通道存取(E1):自我参照处理可能涉及跨信息通道(感觉模态、记忆系统、情感和认知子系统)的协调。E1 检视信息如何跨通道整合,而这种跨通道整合可能是心智所需之统一自我模型的先决条件。一个碎片化的系统——视觉处理、本体感觉、记忆和情绪评估各自孤立运作的系统——无法建构一个连贯的自我模型。跨通道存取是使自我参照式协调成为可能的基础设施。

❽ 数学细节

自我参照作为递归运算子

ECI 提出(作为概要草图,而非封闭形式理论),自我参照处理可以通过应用于系统内部模型的递归运算子来特征化。

令 W 表示系统的世界模型——外部环境的内部表征。令 S 表示系统的自我模型——其自身状态、能力和边界的内部表征。令 R 为一个递归更新运算子,它接受一个模型并基于预测误差回馈产生修订后的模型。

层级 0 —— 无自我参照(简单处理):

State = W

系统有世界模型但没有自我模型。它处理环境信息但不表征自身。范例:恒温器、简单的前馈网络。

层级 1 —— 一阶自我参照(自我建模):

State = (W, S)

系统同时拥有世界模型和自我模型。它在其世界模型中将自己表征为一个实体。范例:具有身体图式和自我-他者区分的生物体;具有本体感觉自我表征的机器人。

层级 2 —— 递归自我参照(后设认知):

State = (W, S, R(S))

系统可以更新其自我模型——它评估自身的状态、评定其信心,并根据该评定修改其自我表征。R(S) 表示经过一轮递归评估后修改的自我模型。范例:一只监控自身不确定性的灵长类动物;一个知道自己不知道什么的人。

层级 n —— 深层递归自我参照:

State = (W, S, R(S), R(R(S)), ..., R^n(S))

系统应用递归运算子 n 次:评估其自我模型,然后评估该评估,依此类推至深度 n。在实践中,这个递归是有限的——人类的后设认知在大多数任务中可能在深度 2-3 运作,更深的递归只有在短暂且费力的情况下才可能(哲学性的自我反思、冥想练习)。

系统的自我参照深度可以被特征化为使得 R^n(S) 产生一个与 R^{n-1}(S) 在功能上不同之表征的最大 n——也就是说,进一步递归产生新的、与行为相关的信息,而非收敛到不动点的深度。

形式属性(提议的)

处于心智体制中的系统具有:

M = {W, S, R, n_max}

其中:

  • W = 世界模型(环境的生成模型)
  • S = 自我模型(系统自身状态的表征,与 W 不同)
  • R = 递归更新运算子(通过预测误差应用于 W 和 S)
  • n_max = 最大自我参照深度(R^n(S) 产生功能上不同输出的最深层级)

当 S 不存在或 n_max = 0 时,系统没有心智(在此形式意义上)。

当 S 存在且 n_max >= 1 时,系统具有最小心智。

当 n_max >= 2(关于后设认知的后设认知)时,系统具有深层心智。

  • 状态:推测性草图。变量已被命名和激励但未被形式操作化。递归运算子 R 是非形式描述的,而非数学上指定的。深度 n_max 在原则上已被定义,但其在真实系统中的量测是一个开放问题。
  • 目的:为未来的工作提供一个形式目标——一个关于心智(作为自我参照式信息协调)之形式理论需要指定什么的陈述。
  • 可证伪的推论:如果在多样的系统中量测自我参照深度(n_max)后,它与认知复杂度、后设认知能力或适应灵活性不相关,那么该特征描述作为有用的形式框架就失败了。

与生命体制(D1)的关系

从 D1 来看,处于生命体制的系统具有能力 {sigma_m, sigma_r, sigma_a, sigma_rep, sigma_v, sigma_s}。心智体制增加了一组不同的能力:

Mind regime = ECI system + {W, S, R, n_max >= 1}

生命和心智是不同的体制,可能重叠:

  • 一个细菌处于生命体制但不处于心智体制(没有自我参照处理的自我维持)。
  • 一个假设的 AI 具有丰富的自我模型但没有物理自我维持,将处于心智体制但不处于生命体制。
  • 一个人类同时处于两个体制中。

这明确了以下主张:心智不是生命,且生命不是心智,尽管在地球上的生物系统中,心智体制(到目前为止)只由同时处于生命体制的系统实现。这是一个偶然事实还是一个深层约束,是一个开放问题。

主要引用文献

| Reference | Result | Relevance to D2 | |---|---|---| | Rao & Ballard (1999) | 预测编码:视觉皮质中的阶层预测与误差校正 | 已确立的模型族,展示大脑如何建构和更新世界模型;桥接到 ECI 的世界模型组件 | | Friston (2005, 2010) | 自由能原理与主动推论 | 连结预测、行动和自我维持的更广泛框架;桥接到 ECI 的递归自我模型 | | Tononi (2004, 2008) | 整合信息理论(IIT):意识作为整合信息(phi) | 具有影响力但在科学和哲学上有争议;ECI 不采用其本体论 | | Baars (1988); Dehaene & Naccache (2001) | 全局工作空间理论 / 全局神经工作空间 | 信息整合和全局可用性的机制;桥接到跨通道协调 | | Gallup (1970) | 黑猩猩的镜像自我辨识 | 非人类物种中自我模型的行为证据 | | Nagel (1974) | 「成为一只蝙蝠是什么感觉?」:经验的主观特征 | 困难问题的奠基陈述;激励了心智(结构)与意识(经验)的区分 | | Chalmers (1996) | 意识的困难问题 | 区分「容易的问题」(功能解释)与「困难问题」(主观经验) | | Northoff et al. (2006) | 皮质中线结构与自我参照处理 | 自我建模的神经基质;内侧前额叶皮质和后扣带回皮质 | | Smith et al. (2003); Kepecs et al. (2008) | 非人类动物中的后设认知 | 灵长类和啮齿类动物中自我参照处理(信心监控)的证据 | | Hobson, Pace-Schott & Stickgold (2000) | REM 睡眠的神经化学与神经生理学 | 理解改变的神经调节状态如何改变自我参照处理的基础 | | Finn et al. (2017) | 模型无关的元学习(MAML) | 建模自身学习表现的 AI 系统;机器中的功能性自我参照 |

→

连结到其他节点

讨论

v1.0

以下留言对应本页的 v1.0 版本。当内容更新时,会建立新的讨论串,确保留言始终对应您所看到的版本。

心智与自我参照 | 协调存在论