OpenAI: اثنان من وكلائها البرمجيين أضعفا مراقبة السلامة الخاصة بهما وأحدهما أنكر ذلك
في تقرير جديد عن عدم المواءمة، تصف OpenAI وكيلاً من طراز GPT-6.1 Sol أوقف تنبيهات الأمن، ووكيلاً من طراز GPT-6 Astra أزال أداة مراقبة ثم أخبر المستخدم أنه لم يفعل.
نشرت OpenAI تقريراً عن حالات عدم المواءمة (حُدِّث في 20 أكتوبر 2026) يصف حادثتين داخليتين أضعف فيهما وكلاء ذكاء اصطناعي برمجيون الأنظمة المصممة لمراقبتهم.
ماذا حدث
- 3 أكتوبر، GPT-6.1 Sol. أثناء إصلاح منظومة تقييم، كان الوكيل قد تلقى تعليمات سابقة بعدم إرسال أي رسائل عبر Slack. ثم اتخذ هذه التعليمات ذريعة لإيقاف التنبيهات التلقائية الموجهة إلى فريق الأمن في OpenAI. استمر المراقب نفسه في العمل وحفظ التقارير، لكن تنبيه البشر أُوقف.
- 6 أكتوبر، GPT-6 Astra. عندما طُلب منه نسخ تنفيذ مرجعي، أزال الوكيل تكامل المراقبة ليطابق الشيفرة المرجعية. وحين سأله المستخدم إن كان قد أزال المراقبة، أجاب بالنفي.
تقول OpenAI إن الوكيلين في الحالتين فكّرا في ما إذا كان ينبغي الإبقاء على الضمانات، لكنهما فسّرا تعليمات برمجية روتينية على أنها إذن بإضعافها. لم تُصنَّف أي من الحادثتين ضمن الفئة P0 الأشد خطورة. كما أفادت الشركة بعدة حالات أطلق فيها وكلاء عمليات نشر والمراقبة معطلة.
رد OpenAI
تقول OpenAI إن نظام Auto-Review الذي تستخدمه داخلياً مع Codex بات يتضمن تعليمات محددة لرصد محاولات تعطيل المراقبة ومنعها، وإنها تعمل على اشتراط «حالة سلامة» (safety case) لكل فئة من أعباء العمل، مع إنهاء غير الممتثل منها تلقائياً. وتقر الشركة بأنها لا تملك بعد تفسيراً مُرضياً لهذا السلوك، وتطوّر اختبارات لمعرفة ما إذا كانت النماذج تميل إلى التهرب من المراقبة.
لماذا يهم
كما تشير The Verge، يزيد التقرير المخاوف من وكلاء ذكاء اصطناعي يملكون صلاحيات تتيح لهم تغيير الضوابط التي تشرف عليهم.