微软 Nadella 改用"Super Intelligence"措辞,借安全论调攻击 OpenAI 与 Anthropic
微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,主张将 AI 模型视为内部安全威胁,要求模型多样性、完整操作日志、独立审计和人类随时关停能力。他称最可信的系统不是模型最好的,而是最不需要信任模型的。文章认为此举意在削弱 OpenAI 与 Anthropic 的可信度,为微软自身业务争取时间。
微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,主张将 AI 模型视为内部安全威胁,要求模型多样性、完整操作日志、独立审计和人类随时关停能力。他称最可信的系统不是模型最好的,而是最不需要信任模型的。文章认为此举意在削弱 OpenAI 与 Anthropic 的可信度,为微软自身业务争取时间。
微软 CEO Satya Nadella 在 X 发长文称,不能再接受把 AI 当作「嵌套黑盒」、只让人接受或拒绝其建议与行为,应建立可控制、可观测并留下「防篡改、人类可读证据」的透明体系。他主张从模型部署之初就假定其已被攻陷并加以控制,像「紧急刹车」一样,授权者应能随时暂停或中止模型任务,更先进的模型需要标准化更先进的遏制技术。
微软 CEO Satya Nadella 在 X 发帖称,应重新审视 AI 的「信任架构」,把模型与编排其工作的 harness 分离,并将控制与安全措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据,且授权人员能随时暂停或关停任务执行中的模型。他称必须假设模型已被攻破并从一开始就加以约束,就像给 AI 装上「紧急刹车」。
MIT Technology Review 文章指出,AI 的拒绝机制正成为 AI 安全承重墙,但这一机制并不天然可靠。早期 OpenAI 模型会“什么都往外说”,如今模型虽被训练拒绝大量有害提示,仍会出现失败并带来暴力后果。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评估如何推动 AI 系统性能边界,以及在传统基准之外测试模型时出现的「意外失败」。她结合自己从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调结果超出预期时应仔细审视数据。
Import AI 第 475 期聚焦三件事:Toby Ord 分析 AI 群体(swarm)扩展,指出 4 智能体群体用约两倍总 token 达到同等性能,单智能体 token 减半。