蒸馏攻击
通过大量查询（数百万次），试图复制或绕过AI模型安全护栏的攻击方式。Anthropic官方发布安全威胁报告，警告有实体正在通过模型蒸馏试图绕过Claude的安全护栏，用于开发生物武器或进行网络攻击。
攻击原理
- 大量查询：通过数百万次API调用获取模型输出
- 能力复制：试图复制模型的核心能力
- 安全绕过：绕过模型内置的安全护栏（Guardrails）
行业影响
- 模型所有权辩论：引发开发者社区对"模型所有权"与"开放权重风险"的深度辩论
- 安全威胁升级：蒸馏攻击可能成为AI行业的下一个主要安全威胁
- 防御需求：催生新的防御技术和商业模式
与现有维基的连接
蒸馏攻击为维基中关于模型安全、验证和信任的讨论（如[[大模型不是真理机器-而是论证机器]]、[[别再做大冤种了-你的AI中转API可能是盗版山寨货-性能狂跌47-2026-03-06]]）增加了新的威胁维度。