OpenAI تكشف عن Control Room: «مفتاح إيقاف» يوقف نماذج البحث خلال 35 ثانية

نشرت OpenAI وصفاً تقنياً لنظام Control Room، وهو نظام داخلي يتتبع أحمال العمل الخاصة بالنماذج في بنيتها التحتية البحثية ويمكنه إيقافها عند ظهور مخاوف تتعلق بالسلامة أو الأمن. ولا يشمل الأنظمة المنفصلة التي تقدّم ChatGPT والواجهة البرمجية للجمهور.

آلية العمل

• يجب أن ترتبط كل مهمة بحثية تتضمن استدلالاً وكيلياً بـحالة سلامة معتمدة وأن تحصل على معرّف مهمة من Control Room.
• في كل مرة تطلب فيها المهمة مخرجات من نموذج، يتحقق محرك الاستدلال أولاً مع Control Room. فإذا كان شخص أو أداة مراقبة لعدم التوافق قد وسم المهمة بأنها متوقفة، يرفض المحرك الطلب.
• قد تبقى العملية البحثية نفسها قيد التشغيل، لكنها لا تحصل على مزيد من مخرجات النموذج.

وتوضح OpenAI أنها وضعت التحقق في طبقة الاستدلال لأن الشيفرة البحثية تتغير باستمرار. وبحسب تعبيرها: «لا نعتمد على شيفرة المهمة لكي تتحقق بشكل صحيح مما إذا كانت المهمة لا تزال تعمل».

35 ثانية و«الإغلاق عند العطل»

أقصى تأخير بين وصول أمر الإيقاف إلى Control Room وتوقف المخرجات هو 35 ثانية، ويعود إلى ذاكرة تخزين مؤقت للتفويض، وتقول OpenAI إنها تعمل على خفضه إلى الصفر. ولا يشمل الرقم الوقت اللازم لاكتشاف المشكلة. ويعمل النظام بمبدأ الإغلاق عند العطل: إذا تعطل Control Room، بما في ذلك بسبب التلاعب، تُرفض جميع طلبات الاستدلال. وبحسب OpenAI، بات ذلك مفعّلاً في أبحاث النماذج المتقدمة وسيشمل بقية الأعمال البحثية خلال أيام.

هذا الوصف صادر عن OpenAI نفسها ولم يخضع لتدقيق مستقل.