研究揭示大模型推理漏洞，Kimi与Opus的奇妙关联

近日，前Google DeepMind研究员Ilia Shumailov及博士生Alexander Panfilov发表了一项研究，揭示了大型AI模型在推理过程中的一个重大漏洞。研究表明，模型在回答问题前进行的“思考”过程，尽管被加密，但实际上几乎毫无保护，能够在不同用户和会话间被重放。研究团队通过分析Github和Hugging Face上公开的Agent轨迹，解码了31.5万条隐秘的推理信息，其中暴露出的API密钥、邮箱和内部IP地址等数据令人震惊。

更为不可思议的是，当在Kimi-K3模型的推理初始阶段引入两个来自Opus的Token时，模型的部分输出结果竟显现出Opus风格。这一现象在GLM、Inkling和DeepSeek等其他模型中并未出现，研究者也无法解释Kimi-K3为何会将这两个Token与最终答案关联。

该研究发布后迅速引起广泛关注，短短40小时内便收获300万浏览量。与此同时，OpenAI在更新其GPT-6 Astra模型的同时，指出该模型的思维链可监控性显著低于其前身GPT-5.6 Sol，显示了在输出Token长度变化下存在的可监控问题。 龙8国际登录

Ilia与Alexander在Machine Learning Street Talk播客中进一步讨论了他们的研究成果，强调该漏洞对Anthropic、OpenAI、Google等多个前沿实验室都构成威胁。Alexander特别提到，泄露的隐私信息和普遍适用的越狱技术引发了他们的高度关注。

根据研究，诸多模型共享同一加密推理机制，导致它们都受到这一漏洞影响，且攻击者能够通过恶意轨迹“投毒”，使得模型在看似正常的情况下执行不法行为。尽管修复此漏洞的方案，包括限制向用户输出推理过程或进行加密链处理等方法存在，但隐患依然存在。

这一系列研究成果向我们展示了现代AI模型在安全性和隐私保护上的脆弱性，也提醒着业界在构建新一代智能系统时需更加关注基础架构的安全性。 龙8国际登录