微软 Satya Nadella 称 AI 模型需要“紧急刹车”

微软 CEO Satya Nadella 在 X 发文称，AI 模型需要“紧急刹车”，授权人员须始终能在任务中途暂停或关闭模型。他主张重新评估 AI 的信任架构，将模型与编排其工作的 harness 分离并外置控制与安全措施，以防篡改、人类可读的证据记录每一次有意义的模型行动，并假定模型已被攻破、从一开始就加以遏制。