纳德拉主张假设AI模型已被攻陷并加以遏制

微软 CEO Satya Nadella 在 X 发长文称，不能再接受把 AI 当作「嵌套黑盒」、只让人接受或拒绝其建议与行为，应建立可控制、可观测并留下「防篡改、人类可读证据」的透明体系。他主张从模型部署之初就假定其已被攻陷并加以控制，像「紧急刹车」一样，授权者应能随时暂停或中止模型任务，更先进的模型需要标准化更先进的遏制技术。

微软 CEO Satya Nadella 在 X 发帖称，应重新审视 AI 的「信任架构」，把模型与编排其工作的 harness 分离，并将控制与安全措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据，且授权人员能随时暂停或关停任务执行中的模型。他称必须假设模型已被攻破并从一开始就加以约束，就像给 AI 装上「紧急刹车」。