跳到正文
今天10月11日周日5 条
  1. The Decoder34

    微软 Nadella 改用"Super Intelligence"措辞,借安全论调攻击 OpenAI 与 Anthropic

    微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,主张将 AI 模型视为内部安全威胁,要求模型多样性、完整操作日志、独立审计和人类随时关停能力。他称最可信的系统不是模型最好的,而是最不需要信任模型的。文章认为此举意在削弱 OpenAI 与 Anthropic 的可信度,为微软自身业务争取时间。

  2. TechCrunch · AI30

    我们总忍不住把 AI 当人,但这真的合适吗?

    MIT CSAIL 展示的 Unitree 人形机器人每台约 5 万美元,作者本能地与机器人握手问好;MIT 的 Sherry Turkle 在新书《Artificial Intimacy》中指出,人类天生倾向于对关系型人造物产生情感投入。研究显示约 70% 的人对 AI 保持礼貌,MIT Media Lab 的 Pat Pataranutaporn 提醒需警惕这种拟人化倾向带来的风险。

  3. The Verge · AI46

    微软 CEO Satya Nadella:应假定所有 AI 模型都已被「攻陷」,需要「紧急刹车」

    微软 CEO Satya Nadella 在 X 发长文称,不能再接受把 AI 当作「嵌套黑盒」、只让人接受或拒绝其建议与行为,应建立可控制、可观测并留下「防篡改、人类可读证据」的透明体系。他主张从模型部署之初就假定其已被攻陷并加以控制,像「紧急刹车」一样,授权者应能随时暂停或中止模型任务,更先进的模型需要标准化更先进的遏制技术。

  4. TechCrunch · AI50

    微软 CEO Satya Nadella 称 AI 模型需要「紧急刹车」

    微软 CEO Satya Nadella 在 X 发帖称,应重新审视 AI 的「信任架构」,把模型与编排其工作的 harness 分离,并将控制与安全措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据,且授权人员能随时暂停或关停任务执行中的模型。他称必须假设模型已被攻破并从一开始就加以约束,就像给 AI 装上「紧急刹车」。

10月10日周六
10月9日周五
  1. Simon Willison33

    Matthew Green:有 15% 概率我们将实质失去对现有公钥加密算法的信心

    密码学家 Matthew Green 称,有 1% 概率我们生活在公钥加密不可能实现的 Minicrypt 世界,15% 概率将实质失去对现有公钥加密算法的信心。他指出 AI 制造意外与人类更换标准的速度相差数个数量级,只有提前准备才能从这类意外中恢复。Simon Willison 补充,Minicrypt 出自 Russell Impagliazzo 提出的假想世界。

10月8日周四
  1. MIT Technology Review · AI12

    AVEVA 如何构建更安全的工业自主 AI 路径

    AVEVA 首席技术官 Arti Garg 提出,随着基础模型、物理 AI 和智能体 AI 进入工业场景,AI 可直接作用于物理系统,安全与可靠性成为部署核心。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳排的 AI 环境影响测量标准方法。

10月7日周三
  1. Microsoft Research19

    Microsoft 研究:AI 在传统基准之外为何会「意外失败」

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评估如何推动 AI 系统性能边界,以及在传统基准之外测试模型时出现的「意外失败」。她结合自己从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调结果超出预期时应仔细审视数据。

10月2日周五
  1. GitHub Blog · AI & ML21

    AI 正在改变开发者工作方式,GitHub 给出三项值得强化的技能

    GitHub 提出 AI 时代开发者应强化的三项技能:学会指挥 AI 智能体而非仅使用 AI、不轻信 AI 的第一次回答、用 AI 节省的时间解决更大问题。文中举例称 GitHub Copilot 内置的 Rubber Duck agent 会用第二个模型审查计划、代码与测试;在认证流程示例中,开发者可同时协调三个 AI 智能体分别产出认证、文档和测试。

9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解 AI 热点观点:AI 代码要不要读、RAG 已死、Skills 杀死 MCP?

    GitHub Podcast 最新一期逐条拆解几个 AI 热点观点:AI 生成代码仍需阅读和负责,但审查力度应按风险分级;Skills 与 MCP 解决不同问题,可共存;RAG 并未死亡,只是不再是最新话题,它为模型提供训练数据之外的信息,减少 token 浪费并降低答案不完整的可能。

8月31日周一
8月17日周一
7月7日周二