跳到正文
开源中国·· 23 天前AI 评分58

Anthropic 公开反蒸馏防御战报:捕获量下降九成

Anthropic 公开反蒸馏防御战报:让推理记录更难被偷、捕获量降了九成

AI 导读

Anthropic 发布博客介绍其应对蒸馏攻击的防御措施。蒸馏攻击指用大量非法账号从更强的 Claude 生成数百万条回复,再用这些回复训练更小的模型模仿其行为,以一小部分开发成本逼近前沿能力。Anthropic 表示过去几个月其防御手段让捕获量下降了约九成,使推理记录更难被窃取。

来源:开源中国 · oschina.net