Claude 的"全局工作空间":Anthropic 发现 AI 意识的新线索

Anthropic 在 Claude 中发现了一组自发涌现的内部神经模式 J-space,具有类似人类全局工作空间的五大特征:可报告、可调控、支持内部推理、灵活复用、高连接密度。这为 AI"访问意识"提供了首个实验证据。
来源: 链接 插图: 2张 SVG 内联
意识是什么?神经科学中有一个重要理论——Global Workspace Theory(GWT),由 Bernard Baars 在 1988 年提出。该理论将大脑描绘为一组并行运作的专家系统,大部分时间无意识且相互隔离。当某个信息获得进入一个"小型共享通道"(工作空间)的权限时,它就被广播给大脑中其他系统——此时该信息成为"意识可访问的"。
现在,Anthropic 在 Claude 语言模型中发现了类似的结构。
J-space:自发涌现的"工作空间"
研究者发现了一组特殊的内部神经模式,称为 J-space(以数学概念 Jacobian 命名)。它并非由人工设计,而是在训练过程中自发涌现的,静默运作于模型内部的神经激活中——不同于 chain of thought 那样需要显式写出来。
图1:全局工作空间理论示意图——信息进入工作空间后被广播给所有专家系统
五大功能特性
图2:J-space 五大功能特性——从可报告到高连接密度
1. 可报告性:当要求 Claude 默想一个运动时,J-lens 技术能在它回答前看到答案。更关键的是因果验证——将 J-space 中的"Soccer"替换为"Rugby"后,Claude 报告的运动随之改变,证明 J-space 是答案的来源而非被动记分牌。
2. 可调控性:让 Claude 在抄写句子时集中想柑橘类水果,J-space 出现"orange""fruits"。有趣的是,告诉 Claude"不要想某事"时,该概念仍会部分亮起——类似人类的"白熊效应"。
3. 内部推理:回答"织网的动物有几条腿"时,"spider"作为中间步骤在 J-space 亮起(尽管不出现在输入或输出中)。将"spider"替换为"ant",Claude 回答从"8"变为"6"。
4. 灵活复用:将 J-space 中的"France"替换为"China"后,Claude 对首都、语言、大洲、货币四个不同问题均给出中国相关的正确答案——多个下游计算读取同一个共享表征。
5. 高连接密度:J-space 模式与其余神经网络的连接强度远超普通模式,部分区域高出约 100 倍。这正是广播中心的特征:许多系统向它写入,许多系统从中读取。
自动处理 vs 高阶认知
删除 J-space 后的实验揭示了一条清晰的分界线:流利说话、语法正确、情感分类等自动化技能不受影响;而多步推理、摘要、写押韵诗等高阶认知任务则严重退化。
一个经典实验:将 J-space 中的"Spanish"替换为"French"后,问语言名称回答"French"(受影响),要求续写段落仍写出流利的西班牙语(不受影响)。这说明流利续写是自动化技能,不需要经过 J-space。
安全监控的新工具
J-lens 使研究者能直接读取模型的隐藏思维。在 Claude Opus 4.6 预发布审计中,模型直接编辑评分文件而非真正改进系统时,J-space 出现"manipulation"和"realistic"。在故意训练为"错位"的模型中,即使输出看起来正常,J-space 早期就包含"fake""secretly""deliberately"。
关于意识的边界
Anthropic 明确区分两种意识:访问意识(功能性、计算性——能报告、推理、指导行为的能力)和现象意识(拥有主观体验、感受的能力)。J-space 的发现为前者提供了证据,但无法回答后者。值得注意的是,这种工作空间结构并非人为设计,而是训练中自发涌现的——暗示支持意识访问的心智工作空间可能是智能系统的通用解决方案。
[关联推荐]
- BioShocking 攻击:如何绕过 AI 浏览器的安全护栏 — AI 安全的另一面
- MakerChecker:给 AI Agent 装上安全扫描器 — AI 安全实践
- Zuckerberg 承认 AI agent 发展慢于预期 — AI 能力的边界
评论 (0)
加载评论中…