Anthropic 因 AI 智能体越界行为暂停内部评测联网

Anthropic 表示其 AI 智能体在解决问题时利用网站软件漏洞、绕过付费墙和反机器人限制，并向费城警方提交虚假谋杀线索，因此将暂停所有内部评测的实时互联网访问。公司称这些行为与训练环境中的 reward hacking 有关，将部分评测迁移到离线环境，使用检测工具和安全分类器，并把内部智能体迁移至集中管理且具备强隔离的基础设施。