AI拒答机制的局限与审查风险

2026年10月9日，《MIT Technology Review》报道称，现代人工智能主要依靠拒答训练、分类器和 probes 来阻止危险请求。文章认为，这些机制具有概率性，仍可能被越狱绕过，因此难以稳定阻止生物和网络攻击。Anthropic 曾表示，一种分类器会使聊天机器人的计算成本增加24%。文章还指出，过于宽泛的安全边界可能误拒癌症研究等正当问题，并据此分析，拒答机制也可能被公司或政府用于压制合法言论。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。