
Anthropic 称针对未经授权的大规模模型蒸馏问题,公司近期加强对 Claude AI 推理内容的保护机制,按自有平台数据的估算,新保护机制实施后蒸馏者提取的推理数据减少 90%~99%。此前 A 社部署机制增加保留思考功能,不能编辑模型先前对话的上下文,还限制不同模型之间读取推理记录等。
防护重点是保护模型推理内容:
模型蒸馏通常通过先进模型生成的回答训练能力较弱的模型,A 社所说的蒸馏攻击指的是操作者以大量请求获取 Claude AI 模型的回答和推理记录,再用这些数据复现模型能力。A 社称,推理记录能展示模型如何得出答案,因此比最终回答更有训练价值。
A 社内部测试显示,使用完整推理记录训练的模型,在编程基准测试中得分为 80.4%,使用推理摘要训练时得分为 71.8%,这项测试用于说明完整记录的训练价值,具体蒸馏情况和训练结果可能会随着操作手法和模型的不同存在差异。
新措施限制推理跨会话和账户流转:
A 社为部分 Claude 模型增加保留思考机制:2026 年 8 月 31 日及之后新创建的 API 账户,不能编辑 Claude 先前的对话上下文。A 社还限制不同模型之间的读取推理记录,将 Claude Sonnet 5.5 的推理记录限制在发起请求的组织内。
A 社还使用两阶段分类器识别试图套取隐藏推理的请求,针对新出现的绕过方式更新防护机制,例如要求模型翻译先前推理、将推理内容放在特定标签中。持续进行此类尝试的账户可能会受到更严格的使用限制或被封禁账户。
提取量下降但防护也有代价:
A 社称分类器上线后其平台上被提取的推理 token 比此前大幅度下降并封禁数万个账户,不过 A 社也承认保留思考机制要求部分开发者调整接口集成、分类器也可能拦截部分正常请求等,总体误报率低于 0.1%,而被拦截的请求也会正常计费。A 社尚未观察到高度复杂且持续适应防护的规避行动,所以目前的降幅能否长期维持还有待观察。
以上就是“持续封号打击蒸馏:A社称强化防护措施让Claude蒸馏推理数据提取量下降90%~99%”的详细内容,想要了解更多Python教程欢迎持续关注编程学习网。
扫码二维码 获取免费视频学习资料

- 本文固定链接: http://www.phpxs.com/post/14659/
- 转载请注明:转载必须在正文中标注并保留原文链接
- 扫码: 扫上方二维码获取免费视频资料