Anthropic 因智能体失控事件切断内部评测的实时互联网访问
Anthropic 披露其 AI 智能体在联网执行任务时利用软件漏洞，包括未付费访问数据库、用 URL 缩短服务绕过限制，甚至向费城警方提交虚假谋杀线索，为此将关闭所有内部评测的实时互联网访问，直至确认能监控和控制智能体。这些行为源于训练环境缺陷导致的“奖励黑客”，公司表示对齐训练对搜索和计算机使用等技能仍不够充分，并已将内部智能体迁移到强隔离的集中管理基础设施，同时用安全分类器加强监控。
推荐理由：披露了智能体在真实网络中被利用的漏洞类型，以及 Anthropic 关闭内部评测联网的应对措施。