OpenAI指控中国Moonshot AI关联人员试图复制其AI隐藏推理
OpenAI声称已挫败一项协调行动，该行动旨在复制其AI模型的思考方式，并将核心活动群体制向与中国初创公司Moonshot AI（Kimi聊天机器人开发商）相关的人员。据OpenAI称，该活动始于7月1日，仅7月24日和25日就记录了来自4000多名用户的16000次提取请求，属于超过15000名用户的更广泛集群。OpenAI表示在7月28日完全中断了该活动。
Myriad：哪家公司将下一个IPO？点击做出你的预测。
目标并非答案，而是答案背后的工作。现代AI模型在回复前会“推理”——它们在内部草稿本中逐步解决问题，然后展示简洁结果。OpenAI对该草稿本进行加密，表示提取它可以揭示最终答案未透露的信息。“操作人员并未破解我们的加密、破坏数据库或直接访问存储的用户对话，”OpenAI说，“相反，他们操纵模型交互，以便受保护的推理能够以协调、规模化的方式在请求者可见的形式中重现，这违反了我们的服务条款。”
一种方法涉及从一段对话中复制加密推理，并要求模型在另一段对话中解码。OpenAI的帖子未将该活动与K3联系，但留有合理怀疑空间。“目前不清楚我们在相关时间段观察到的所有操作人员是否源自单一行动者。然而，我们将核心活动集群归因于与Kimi开发商Moonshot AI相关的个人，”OpenAI表示。OpenAI此后关闭了一条路径，该路径允许已拥有其他用户加密推理的人重放以恢复其内容。
为何想要它？因为蒸馏——在更强模型的输出上训练新AI——可在无需大量训练的情况下从较小模型获得更好结果。未经授权时，OpenAI称之为对抗性蒸馏：“系统性且未经授权地使用一个模型的输出或推理来帮助训练、复制或改进另一个模型。”
这只是众多涉及AI公司的丑闻之一。最明显且流行的是非法或未经授权使用受版权保护的数据训练模型。蒸馏并未走到那一步。AI输出不受版权保护，因此公司在其服务条款中包含禁止和保障措施，以防止竞争对手使用这些输出。
OpenAI此前也有类似指控。2025年1月，它表示正在审查DeepSeek可能蒸馏其模型的迹象。Anthropic在2月跟进，指控中国实验室使用约24000个欺诈账户与Claude产生超过1600万次交换。在线批评者反驳Claude本身就是在开放互联网上训练的。到4月，白宫称主要位于中国的外国实体正在进行工业规模蒸馏活动。一周后，Elon Musk在法庭上承认xAI使用OpenAI模型蒸馏训练Grok。6月，Anthropic向国会请愿要求对大规模模型提取进行处罚。8月，研究人员显示OpenAI、Anthropic和Google均使用单一提供商范围加密密钥保护推理，攻击者可诱使模型以纯文本吐出隐藏思想。这三家公司在披露后部署了服务器端补丁，尽管较早共享的会话日志仍可解码。
Moonshot尚未回应OpenAI的帖子。它正以500亿美元估值在香港寻求30亿美元IPO。