微软 CEO Satya Nadella 称 AI 模型需要「紧急刹车」

微软 CEO Satya Nadella 在 X 发帖称，应重新审视 AI 的「信任架构」，把模型与编排其工作的 harness 分离，并将控制与安全措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据，且授权人员能随时暂停或关停任务执行中的模型。他称必须假设模型已被攻破并从一开始就加以约束，就像给 AI 装上「紧急刹车」。