MIT 科技评论：我们对 AI 拒绝能力寄托了过多信任

MIT Technology Review 发表长文分析，认为拒绝机制已成为 AI 安全的承重墙，但其本质是概率性的、无法完全可靠的。文章指出模型的有用能力与危害能力不可分割，拒绝训练依赖人类红队数据、分类器和 Swiss cheese 式多层防护，Anthropic 曾为一类分类器增加 24% 的推理成本；越狱攻击层出不穷，过严的安全边界又导致正常问题被拒。