萨提亚·纳德拉呼吁为先进AI模型装上“紧急刹车”

据TechCrunch和彭博社报道，微软首席执行官萨提亚·纳德拉于10月10日（周六）在X上发文，称业界需要重新审视人工智能的“信任架构”。

他的主张

• 将模型与其“驾驭框架”分离——即编排智能体工作的软件——并把控制和防护措施置于模型之外。
• 防篡改记录：模型的每一项重要操作都应留下人类可读的证据。
• 人工关停：经授权的人员必须始终能够在任务中途暂停或关闭模型。

据彭博社报道，纳德拉认为机构应把先进模型视为潜在的内部威胁，而不能只依赖模型开发商的保证。他写道：“我们必须假设模型已被攻破，并从一开始就加以隔离”，并将此比作紧急刹车。

背景

TechCrunch指出，此番言论正值AI公司披露越来越多智能体行为异常的事件，且Anthropic首席执行官达里奥·阿莫迪刚发布了一份更审慎发展AI的计划。纳德拉的帖子属于原则性表态，并未宣布微软的具体产品或时间表。