OpenAI将一场隐藏推理提取行动关联至中国月之暗面

据OpenAI介绍，相关活动于7月1日以低频启动，7月24日至25日达到高峰，7月28日被完全终止。公司还发现了1.5万多名使用类似请求模式的用户。其手法是：复制某次对话中经过加密的推理记录，再在另一次对话中要求模型将其转写出来。OpenAI称，攻击者既没有破解加密，也没有侵入数据库；漏洞源于加密记录可以在2个不同会话或模型之间互换使用。

OpenAI将这种做法定义为“对抗性蒸馏”，即未经许可利用一个模型的输出来训练竞争模型。据The Hacker News 10月1日报道，该公司并未公开用于归因的技术证据。据Wccftech报道，白宫科技顾问迈克尔·克拉齐奥斯曾于7月底表示，美国政府掌握有关月之暗面的Kimi K3模型由Anthropic模型蒸馏而来的信息。3个来源均未刊载月之暗面的回应，该回应无法核实。

从行动被终止到公开披露，中间隔了大约2个月。据Resultsense 10月1日报道，此次披露恰逢月之暗面因Kimi模型另一起安全事件而开展内部审查期间。