Anthropic accuses Alibaba: 25,000 fake accounts conducted 28.8 million model distillation attacks on Claude

美国AI巨头Anthropic近日向美国参议院递交了一封措辞严厉的信函,指控中国科技公司阿里巴巴通过大规模”模型蒸馏”攻击,系统性窃取其旗舰模型Claude的核心能力。这场被称为”有史以来最大规模AI模型提取行动”的事件,将中美AI竞争推向了一个新的紧张高度。

28.8 million conversations, 25,000 fake accounts

根据Anthropic在6月10日提交给参议院银行委员会的信函,阿里巴巴旗下Tongyi Qianwen(Qwen)实验室的操作人员,在4月22日至6月5日的六周时间内,通过约2.5万个虚假账户,与Claude进行了超过2880万次对话交换。这一规模几乎是Anthropic今年2月发现的另外三起中国AI实验室攻击事件总和的近两倍。

什么是”模型蒸馏”?

Anthropic使用的关键词是“蒸馏”(Distillation)。这是一种利用强大模型的输出训练较弱模型的技术——攻击者无需接触源代码、模型权重或训练数据,只需向目标模型提出数百万个精心设计的问题,记录答案,然后用这些问答对训练自己的模型。

关键问题在于:克隆出来的模型继承了能力,但没有继承安全护栏。原始Claude模型内置的安全训练、使用政策和访问控制,在蒸馏过程中全部丢失。这意味着被蒸馏的模型可能在完全没有安全保障的情况下,具备接近Claude的强大能力。

Highly precise attack targets

与此前2月发现的攻击不同,这次的行动并非泛泛地提取Claude的通用能力,而是精准瞄准了Claude最具商业价值的核心领域:智能体推理(Agentic Reasoning)、软件工程和长周期任务处理。这些都是Anthropic投入巨资研发、也是最难复制的关键能力。

Industry Impact and Controversy

Anthropic选择将信函递交给国会而非法院,本身就说明了事件的复杂性。目前AI模型的输出在法律上并不像代码或版权文本那样受到明确保护,这也是Anthropic寻求立法而非诉讼的原因。与此同时,阿里巴巴至今未对这些指控做出公开回应。

分析师指出,这一事件对使用API构建产品的开发者有着直接警示意义:你租用的智能可能被复制,而随模型携带的安全控制可能在复制后荡然无存。Greyhound Research首席分析师警告,“企业供应链已不再止于软件、API和云区域,现在还包括租用的智能——而租用的智能可以被复制和重新部署。”

Summarize

无论Anthropic对阿里巴巴的具体指控最终能否被证实,”模型蒸馏”作为一种成本极低的能力复制手段,正在以惊人的速度升级。从2月的1600万次到6月的2880万次,攻击规模的增长曲线本身就是最明确的警告。对于依赖前沿API的开发者而言,模型安全已不再是一个可选项目——它正在成为供应链风险管理的核心议题。

AI Dash — 发现最好用的AI工具,追踪AI行业最新动态。

🔗 Share: Twitter Weibo Copy link

📬 Like this article?

Weekly selected AI tool reviews + practical tutorials, delivered directly to you.

Subscribe to the weekly AI picks →

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top