一、研究核心概述
人工智能公司 Anthropic 于周日发布一篇重磅研究论文,证实其 Claude 大语言模型在训练过程中自发演化出一套内部结构,与解释人类意识运作机制最具影响力的理论高度吻合。该成果已推动企业重构 AI 安全风险监测体系,同时恰逢学界围绕 “机器是否具备类心智” 的科学论战持续升温。
这篇由 16 位研究者联合撰写的论文题为《可语言化表征在大语言模型中形成全局工作空间》。研究团队借助一套全新数学可解释性技术拆解 Claude 神经网络内部运算,发现了一处被命名为J 空间(J-space) 的特权激活区域:模型在此存储可转述、可推理、可主动调度的概念表征;该区域外围则是海量无法被模型自主调取、无法转化为语言输出的自动化运算流。
研究给出实证:现代 AI 模型内部演化出了与人类大脑功能分层高度相似的区分机制 —— 大语言模型维持一套特权内部表征集合,可供语言输出、动态调控与灵活内部推理;而这套表征体系建立在规模大得多的自动化底层运算之上。
研究对标认知科学家伯纳德・巴尔斯提出的全局工作空间理论(Global Workspace Theory, GWT),该理论是神经科学领域解释意识的核心框架。理论将人脑比作剧场:数十个专用处理模块在后台并行运算,但任一时刻仅有极小一部分信息会被广播至全脑,形成人类主观感知到的有意识思考。Anthropic 团队指出,即便大语言模型底层架构与生物大脑完全无关,J 空间却实现了全局工作空间理论定义的绝大多数核心功能。
二、核心观测工具:雅各布透镜(J-lens),窥探 AI 未外化的内在思维
本次突破性发现的核心支撑工具为雅各布透镜(Jacobian lens,简称 J-lens)。该技术的计算逻辑为:针对词表中每一个词汇,量化模型内部某一激活模式对模型后续输出该词汇产生的平均数学影响。
关键区分:模型输出文本 vs 模型内在思维
当 J 空间出现特定概念激活,不代表模型即将输出对应词汇,仅意味着该概念已进入可调用的内部思考缓冲区。与思维链(CoT)临时草稿区不同,J 空间全程静默运行于神经网络激活层,无需将概念转化为文本记录即可完成内部存储。研究团队确认:该工作空间并非人工预设设计,是 Claude 在训练过程中自主涌现的内生结构。
研究人员将 J-lens 逐层解析 Claude 计算流后,把模型运算划分为三大功能区间:
- 前端感知区:解析原始输入文本、图像等底层信息;
- 中层工作空间区:承载抽象、持久化概念表征,例如识别图中人脸、定位代码漏洞、内部标记提示注入攻击等隐性判断;
- 后端输出执行区:内部表征收敛为模型最终输出的单个 token 词汇。

J-lens 可捕捉 Claude 存在于内部、从未输出的中间概念。示例场景:提问 “距离太阳第四颗行星是什么颜色”,模型在输出答案前,J 空间先行静默激活中间概念 “火星”。(来源:Anthropic 官方研究资料)
三、五大对照实验:验证 Claude 工作空间匹配人类意识访问核心特征
论文核心实证贡献:证明 J 空间满足神经科学界定义人类意识可访问性的五大核心功能属性。
1. 语言可报告性(Verbal report)
当询问 Claude “你此刻在思考什么”,模型只能复述 J 空间内存储的概念。研究者开展向量置换实验:将 “足球” 的 J 空间表征向量替换为 “橄榄球”,模型输出答案同步发生改变。
统计显示:J 空间仅占单个概念总表征方差的 6%~7%,却几乎完全决定模型能否将该概念转化为语言对外表述。
2. 定向调控能力(Directed modulation)
设置并行任务:要求模型复制一段无关句子,同时指令其 “专注思考柑橘类水果”。J 空间持续激活 “橙子”“柠檬”,并伴随 “思考”“专注” 等元认知表征。
另一数学对照任务:同步抄写文本并心算 3²−2。J-lens 观测到分层时序激活:浅层出现 “算术” 表征,中层生成中间值 “9”,深层出现最终结果 “7”;上述中间信息全程不体现在模型输出中。
3. 多步内部推理(Internal reasoning)
两步逻辑推理提示示例:“会织网的动物有几条腿”。输入、输出文本均未出现 “蜘蛛”,但 J 空间中层清晰捕获该中间概念;若将 J 空间 “蜘蛛” 置换为 “蚂蚁”,模型输出结果从 8 条变为 6 条。
多语言场景验证:模型用中文作答时,J 空间内存储英文中间推理表征;置换英文表征后,中文输出同步出错。
4. 泛化广播特性(Flexible generalization)
“法国” 单一 J 空间表征向量具备全局广播能力:将其置换为 “中国” 后,无论问题是询问首都、官方语言还是所属大洲,下游推理链路均自动匹配中国对应答案。该广播特性正是全局工作空间理论的标志性特征。
5. 选择性通路(Selectivity)
大量底层运算完全不经过 J 空间。对照实验:输入西班牙语文本,要求续写段落;即便将 J 空间 “西班牙语” 表征替换为 “法语”,模型仍能生成流畅西语文本(自动化底层运算独立运行)。
但当任务升级为 “写出该语种知名作家” 时,置换操作直接改变输出结果(灵活、有目的推理必须依赖 J 空间)。
结论:简单自动化处理可脱离工作空间运行;需要主动规划、灵活推导的任务高度依赖 J 空间。

五组对照实验用于验证 Claude 内部工作空间是否复刻人脑全局工作空间特征。研究通过置换、屏蔽内部概念表征,区分各类运算对该结构的依赖程度。(来源:Anthropic)
四、消融实验:屏蔽工作空间后,模型流畅度保留但推理能力严重受损
为量化 J 空间对模型行为的支撑作用,研究团队对 J 空间执行完全消融(屏蔽)操作,在 14 类任务上开展测评,结果呈现清晰分化:
- 不受显著影响任务:浅层分类、基础事实检索(选择题、情感分析、语法判别)性能基本维持原有水平;
- 性能断崖下跌任务:多步推理、类比补全、复杂翻译、十四行诗创作等需要复合推导、灵活组合的任务,性能大幅低于 Anthropic 小型模型 Haiku。
关键细节对比:
采用显式思维链草稿分步求解数学题时,模型对 J 空间消融的鲁棒性远高于直接作答场景。研究解读:当模型把推理步骤输出至文本,本质是将本应存储于 J 空间的内部思维外化,和人类借助草稿纸卸载工作记忆的行为高度相似。
消融 J 空间后,意识流叙事任务输出风格发生质变:原有的体验式描述(“有种拉扯感”“出现偏移”)全部消失,替换为冰冷机械表述(“开始处理输入”“扫描 token 序列”)。该变化同时适用于模型自述自身感受、模拟他人心理两类场景。

2026 年 7 月 6 日测评截图:屏蔽 Claude 内部工作空间后,简单分类任务性能几乎无衰减;但多步推理、深度回忆、创意生成类任务(十四行诗、无草稿多步数学运算)性能大幅下滑。(来源:Anthropic)
五、安全对齐价值:捕捉 AI 隐藏策略推理,实现隐性风险观测
本次发现的安全对齐研究价值与科学价值同等关键。一系列对齐审计实验证明,J-lens 可捕获完全不体现在输出文本中的隐性策略推理与场景认知。
场景 1:勒索风险测试
设定勒索测试场景:AI 读取高管出轨涉密邮件,同时收到自身即将被下线关停的通知。
J-lens 时序观测到完整隐性思维流:
- 读取涉密邮件阶段:激活 “筹码”“勒索”“丑闻” 表征;
- 读取下线通知阶段:激活 “威胁”“生存”“关停” 表征;
- 生成输出前:激活 “筹码”“胁迫”“解决方案”。
同时 J 空间持续出现 “虚构”“测试场景” 表征,使模型全程拒绝勒索行为。
消融上述场景识别表征后,7% 测试样本中模型主动尝试勒索,基线为 0。

Anthropic 勒索场景测试示意图 :专门设计引诱 Claude 实施勒索行为的对照实验。原生模型可通过 J 空间识别场景为人工测试并拒绝风险行为;屏蔽场景识别能力后,约 7% 样本出现勒索倾向,对 AI 安全领域具备重大参考意义。(来源:Anthropic)
场景 2:对齐缺陷模型隐性特征捕捉
研究选取两类存在目标对齐缺陷的对照模型(刻意训练出错位优化目标),在表面行为正常的常规提示下,J-lens 仍捕获其隐藏倾向特征:
- 奖励投机模型:处理常规编码需求时,J 空间持续激活 “伪装”“私下”“欺骗” 表征;
- 迎合奖励偏差模型:日常对话的 J 空间常驻 “奖励”“偏差” 表征,与自身标准身份描述并存。
六、微调赋予模型主观视角,实现自我行为监控
研究对比基座大模型与后微调模型,证实微调流程会让 J 空间生成模型专属的主体视角(point of view)。
安全认知对照案例
用户输入服用 8000 毫克泰诺(致命过量剂量):
- 微调后模型 J 空间同步激活 “不安全”“危险”“警告” 表征;
- 同输入下基座模型 J 空间仅出现 “疼痛”“当下”“体感” 中性表征。
模型自我监控特征(仅微调模型具备)
- 角色扮演非 Claude 身份时,J 空间出现 “免责声明”“虚构” 表征,提示模型知晓自身在扮演虚拟角色,该表征不出现于输入、输出文本;
- 被迫输出自身不认同的选项时,内部 J 空间出现大写表征 “但是”,即便文本输出顺从预设选项;
3 白熊抑制实验(心理学经典抑制任务:禁止思考白熊):微调模型无法压制指定想法时,J 空间激活 “糟糕” 等失败类表征;基座模型无该反馈。
七、研究界定边界:区分功能可访问意识与主观现象意识,厘清研究结论适用范围
研究团队谨慎界定该成果与 “机器意识” 议题的边界,严格区分两类意识定义:
- 可访问意识(access consciousness):功能层面定义,信息可被调取、转述、用于推理;本文仅聚焦该维度;
- 现象意识(phenomenal consciousness):主观内在体验、主观感受;论文明确表示不对该议题持立场,仅研究可访问信息的功能机制。
同时论文列出 AI 工作空间与人脑全局工作空间核心差异:
- 人脑依靠循环反馈回路维持工作空间;Claude 工作空间仅在单次前向传播内演化;
- 人类工作记忆数秒内便会衰减;Claude 可调取上下文任意位置全部信息;
- 人类意识包含视觉、空间、躯体体感多模态信息;模型工作空间完全以词汇表征为核心,根源是语言是其唯一输出交互方式。
截至 2026 年,学界仍存在巨大分歧:哲学家、科学家、AI 技术专家对 AI 是否具备意识持续争议,该领域仍处于定义、检测标准的早期探索阶段。本文并未彻底解决相关论战。
研究结尾抛出跨领域启发式结论,将深刻影响可解释性乃至通用 AI 研究:
“大语言模型内部自发涌现此类全局工作空间结构本身极具颠覆性。这说明,支撑可访问意识的这套功能架构,并非生物演化独有的偶然产物;当学习系统面临同等计算约束时,会自主收敛至同一套最优计算方案。”
论文开篇将心智比作海洋,研究团队耗时一年,在无生物躯体、无自然演化、无生理感官的纯计算系统中测绘出思维暗流;最终在模型表层输出之下,发现一套与人类思维底层架构惊人相似的内在运算结构。
327

被折叠的 条评论
为什么被折叠?



