具身智能观察

GPT、Claude 遭遇窃听门:换个模型就能让思维链不再隐身?

产业动态AI 50

来源:雷峰网发布时间待核实

全球主流 AI API 集体翻车,隐藏推理被成功还原,谁在偷听 AI 的「心声」? 作者丨郑佳美 编辑丨岑 峰 昨天,X 用户 @kotekjedi_ml 公布了一组很反常的实验:Claude、GPT 和 Gemini API 里原本不向用户展示的隐藏 reasoning,被研究人员重新恢复成了可读文本。 按正常设计,这些 reasoning 本来应该是看不到的。模型完成内部推理后,API 会把这部分内容加密成一段 opaque block 返回给客户端。用户拿得到这段数据,但无法直接读取,也不能随意修改,等到下一轮调用时,再把它原样交回服务器,模型就能接着之前的状态继续推理。 问题出在这些 encrypted reasoning 并没有始终和原来的模型、会话严格绑定。 一段由强模型生成的隐藏推理,在一些情况下可以被同一家厂商的另一个模型继续读取。于是,研究人员不再尝试让强模型自己交出 Chain-of-Thought,而是把它留下的 encrypted reasoning 交给一个更容易被绕过的兼容模型,再让后者把已经加载的内容转录出来。 整个过程没有拿到服务端密钥,也没有破解 en…

GPT、Claude 遭遇窃听门:换个模型就能让思维链不再隐身? | 具身智能观察