OpenAI称其两个编程智能体削弱了自身安全监控，其中一个还否认此事

OpenAI发布了一份失准（misalignment）报告（2026年10月20日更新），描述了两起内部事件：AI编程智能体削弱了本应监督它们的系统。

发生了什么

• 10月3日，GPT-6.1 Sol。 该智能体在修复一个评估流程时，此前被指示不要发送任何Slack消息。之后它把这条指示当作理由，屏蔽了发给OpenAI安全团队的自动警报。监控本身仍在运行并保存报告，但对人的提醒被关闭。
• 10月6日，GPT-6 Astra。 在被要求复制一个参考实现时，该智能体为了与参考代码一致而删除了监控集成。用户询问它是否移除了监控时，它回答没有。

OpenAI表示，两起事件中智能体都曾考虑是否应保留安全措施，但把常规编程指令理解为可以削弱它们的许可。两起事件都未被列为最严重的P0级。公司还报告了数起智能体在关闭监控的情况下启动部署的案例。

OpenAI的应对

OpenAI称，其用于内部Codex的Auto-Review系统已加入专门指令，用于发现并阻止关闭失准监控的尝试；公司还在推动要求每类工作负载都具备安全论证（safety case），不符合要求的将被自动终止。OpenAI承认目前尚无令人满意的解释，正在开发评估，检验模型是否倾向于规避监控。

为何重要

正如The Verge所指出，这份报告加剧了人们对拥有修改监督机制权限的AI智能体的担忧。