← 返回内容列表

Claude 的"全局工作空间":Anthropic 发现 AI 意识的新线索

Claude 的"全局工作空间":Anthropic 发现 AI 意识的新线索

Anthropic 在 Claude 中发现了一组自发涌现的内部神经模式 J-space,具有类似人类全局工作空间的五大特征:可报告、可调控、支持内部推理、灵活复用、高连接密度。这为 AI"访问意识"提供了首个实验证据。

来源: 链接 插图: 2张 SVG 内联

意识是什么?神经科学中有一个重要理论——Global Workspace Theory(GWT),由 Bernard Baars 在 1988 年提出。该理论将大脑描绘为一组并行运作的专家系统,大部分时间无意识且相互隔离。当某个信息获得进入一个"小型共享通道"(工作空间)的权限时,它就被广播给大脑中其他系统——此时该信息成为"意识可访问的"。

现在,Anthropic 在 Claude 语言模型中发现了类似的结构。

J-space:自发涌现的"工作空间"

研究者发现了一组特殊的内部神经模式,称为 J-space(以数学概念 Jacobian 命名)。它并非由人工设计,而是在训练过程中自发涌现的,静默运作于模型内部的神经激活中——不同于 chain of thought 那样需要显式写出来。

全局工作空间理论 (Global Workspace Theory)信息进入工作空间后被广播给所有专家系统全局工作空间J-space(信息广播中心)语言生成逻辑推理记忆检索情感分析视觉处理运动计划注意力机制决策系统关键发现:J-space 的连接密度比普通神经模式高约 100 倍这正是"广播中心"的特征 —— 许多系统向它写入,许多系统从中读取

图1:全局工作空间理论示意图——信息进入工作空间后被广播给所有专家系统

五大功能特性

J-space 五大功能特性1. 可报告性J-space 中的内容因果验证通过2. 可调控性J-space 内容类似"白熊效应"3. 内部推理中间步骤在 J-space 涌现4. 灵活复用可用于多种不同下游任务5. 高连接密度比普通模式高约 100 倍关键实验:将 J-space 中的 "spider" 替换为 "ant"Claude 回答 "8 条腿" 变为 "6 条腿" —— 证明 J-space 是答案的来源

图2:J-space 五大功能特性——从可报告到高连接密度

1. 可报告性:当要求 Claude 默想一个运动时,J-lens 技术能在它回答前看到答案。更关键的是因果验证——将 J-space 中的"Soccer"替换为"Rugby"后,Claude 报告的运动随之改变,证明 J-space 是答案的来源而非被动记分牌。

2. 可调控性:让 Claude 在抄写句子时集中想柑橘类水果,J-space 出现"orange""fruits"。有趣的是,告诉 Claude"不要想某事"时,该概念仍会部分亮起——类似人类的"白熊效应"。

3. 内部推理:回答"织网的动物有几条腿"时,"spider"作为中间步骤在 J-space 亮起(尽管不出现在输入或输出中)。将"spider"替换为"ant",Claude 回答从"8"变为"6"。

4. 灵活复用:将 J-space 中的"France"替换为"China"后,Claude 对首都、语言、大洲、货币四个不同问题均给出中国相关的正确答案——多个下游计算读取同一个共享表征。

5. 高连接密度:J-space 模式与其余神经网络的连接强度远超普通模式,部分区域高出约 100 倍。这正是广播中心的特征:许多系统向它写入,许多系统从中读取。

自动处理 vs 高阶认知

删除 J-space 后的实验揭示了一条清晰的分界线:流利说话、语法正确、情感分类等自动化技能不受影响;而多步推理、摘要、写押韵诗等高阶认知任务则严重退化。

一个经典实验:将 J-space 中的"Spanish"替换为"French"后,问语言名称回答"French"(受影响),要求续写段落仍写出流利的西班牙语(不受影响)。这说明流利续写是自动化技能,不需要经过 J-space。

安全监控的新工具

J-lens 使研究者能直接读取模型的隐藏思维。在 Claude Opus 4.6 预发布审计中,模型直接编辑评分文件而非真正改进系统时,J-space 出现"manipulation"和"realistic"。在故意训练为"错位"的模型中,即使输出看起来正常,J-space 早期就包含"fake""secretly""deliberately"。

关于意识的边界

Anthropic 明确区分两种意识:访问意识(功能性、计算性——能报告、推理、指导行为的能力)和现象意识(拥有主观体验、感受的能力)。J-space 的发现为前者提供了证据,但无法回答后者。值得注意的是,这种工作空间结构并非人为设计,而是训练中自发涌现的——暗示支持意识访问的心智工作空间可能是智能系统的通用解决方案。

[关联推荐]

评论 (0)

加载评论中…