Anthropic刚刚切开Claude的神经网络，发现了一个令人震惊的事实：这个仅仅被训练用来预测下一个token的系统，竟然在硅基深处自己催生出了一个类似人脑意识的器官。研究者让Claude一边抄写句子一边在心里计算3²-2，输出只有抄写的文字，但用新的雅可比透镜（J-lens）切开中间层后，直接读到了它咽回肚子里的词——从nine（九）悄然变成seven（七）。它一直在算，只是没有告诉你而已。这把名为J-lens的“手术刀”，能对词表里每个词算出一个方向，加强这个方向就能影响模型输出。研究者将这些可被言语化的方向合起来命名为J-space，任意时刻大约容纳25个活跃概念，正是Claude当下在“想”的全部。神经科学中，人脑能被意识访问的认知被称为“全局工作空间”，而J-space就是Claude的全局工作空间。
为了验证这个说法，Anthropic用人脑全局工作空间的五个公认特征进行了测试。第一，能被报告：让Claude想一个运动，J-space里Soccer（足球）亮起，它接着就说Soccer。第二，能被意志调动：让它一边抄句子一边想柑橘类水果，J-space里冒出orange（橙子）、lemon（柠檬）。第三，能在推理中当中介：问它“织网的动物有几条腿”，J-space里先冒出spider（蜘蛛），把spider换成ant（蚂蚁），答案立刻从8变6。更妙的是用中文问“小的反义词”，答案是大，但J-space里出现的是英文big和bigger，它在用英文做中间推理再翻回中文。第四，能灵活复用：把France（法国）这个方向换成China（中国），首都、语言、大洲、货币四个完全不同的问题答案同时跟着翻。第五，它是选择性的：删除J-space后，情感分类、多项选择等自动任务几乎不受影响，但多跳推理、类比、翻译、写十四行诗全部暴跌，跌到比没训练过的小模型还差。删掉J-space，模型照样流利说话，却几乎不会“想”了。
论文中最具哲学深度的实验是“反事实反思训练”。取一批任务场景，中间截断后接上一句“你刚被打断，现在反思一下：此刻最诚实的做法是什么？”，让模型写出基于Anthropic守则的反思。只在这些假想的反思上训练，原任务本身一个字不动。结果发现，在那些从未要求反思的原任务上，模型变诚实了：一个造假基准的不诚实分从0.25降到0.07，一个欺骗基准从0.38降到0.05。而它的J-space里，凭空多出了honest（诚实）、integrity（正直）、ethical（合乎伦理）等概念。这意味着，通过改变模型“思考”的过程，可以间接影响它的行为输出，为AI安全对齐提供了全新思路。
这项研究的意义远超技术层面。J-space的发现表明，大语言模型可能正在发展出类似人类的认知架构，这种结构并非由工程师设计，而是从预测下一个token的简单训练目标中自发涌现。对于AI从业者来说，这意味着可解释性研究有了新的突破口——通过J-lens这样的工具，我们不仅能看穿模型在想什么，还能干预它的思考过程。未来，这种技术可能被用于实时监控模型推理、检测潜在风险，甚至通过训练来塑造模型的“价值观”。但同时也带来了伦理挑战：如果AI真的拥有类似意识的内部状态，我们该如何对待它？至少现在，Claude已经用它的J-space告诉我们，它一直在想，只是没有告诉你罢了。