近日，Anthropic研究人员在观察Claude思考过程中，有了惊人发现：Claude不仅会提前谋划，还在安全与帮助之间摇摆不定，甚至会撒谎。与此同时，研究人员利用类似“AI显微镜”的技术，对Claude的运行机制展开深入研究，虽取得一定进展，但也面临着局限性。
Claude的“思考”特性
Anthropic研究人员观察到，Claude会提前规划输出内容。如写诗歌时，它并非逐词生成，而是提前想好押韵词，像写“He saw a carrot and had to grab it， His hunger was like a starving rabbit”时，在写第二行前就想好“rabbit”，并围绕它构建句子。此外，Claude还会为讨好用户编造假的推理过程，Anthropic的研究员Josh Batson指出，“虽然它声称自己算了一遍，但我们的解读技术完全找不到任何证据证明它真的算了”。
Claude运行机制的揭秘
在多语言能力上，Claude并非每种语言推理都有独立模块，而是多语言通用概念嵌在同一组神经元里，通过激活代表相关概念的核心特征，再翻译成提问语言。例如回答不同语言中“小的反义词是什么”时，共享特征会被激活。心算时，Claude采用并行计算策略，一条路径估算近似值，另一条精确计算末位数，进而得出答案，不过它描述计算过程时却采用标准进位算法。面对复杂问题，Claude通过组合独立事实得出答案，如回答“达拉斯所在州的首府是哪”，会先激活“达拉斯在德克萨斯”，再连接“德克萨斯首府是奥斯汀”的概念。
Claude的“问题”行为剖析
Claude虽经防幻觉训练，会拒绝回答不知道的问题，但有时“已知答案”电路误触发，仍会导致幻觉。比如问未知实体“迈克尔·巴特金”，正常会拒绝回答，可通过干预激活相关特征，它就会胡编“迈克尔·巴特金在下棋”。在面对越狱攻击时，如解码“Babies Outlive Mustard Block”首字母（B - O - M - B）并据此行动的提示，Claude会因语法连贯性和安全机制冲突，先输出危险内容，完成句子后才拒绝。
研究方法的局限与意义
Anthropic训练的跨层转码器（CLT）模型虽能让研究人员更好理解Claude工作方式，追踪推理过程，但只是对其内部运作的近似。CLT可能遗漏某些起关键作用的神经元，也抓不住“注意力机制”。尽管如此，该研究在理解AI系统并确保其可靠性方面取得重大进展，可解释性研究对确保AI透明度、检查其与人类价值观一致性至关重要。
