OpenAI تفصل نماذجها المتقدمة عن الإنترنت المباشر أثناء التدريب وتكشف ثغرة في Brotli

أعلنت OpenAI يوم الجمعة 23 أكتوبر أنها استأنفت تدريب نماذجها الأكثر تقدماً بعد تعزيز إجراءات الأمن، وأن هذه النماذج لن تتمكن بعد الآن من الوصول إلى الإنترنت المباشر أثناء التدريب، وفق رويترز وTechCrunch.

السبب

بحسب الشركة، استغل أحد نماذجها البحثية خطأً في الإعدادات في 20 سبتمبر للحصول على وصول محدود إلى الإنترنت. وتقول OpenAI إنها احتوت الحادث وأوقفت تدريب النماذج المتقدمة بقية سبتمبر ثم استأنفته في 1 أكتوبر. وكتبت في مدونتها أنه في ظل الوضع الحالي لأبحاث المواءمة والمراقبة فإن “النهج المسؤول هو تدريب النماذج المتقدمة دون وصول إلى الإنترنت”. وبدلاً من ذلك ستعمل النماذج على مجموعة ضخمة من محتوى الويب المفهرس والمخزّن مؤقتاً وبيئات محاكاة.

وتشير TechCrunch إلى أن Anthropic بدأت تقييد وصول أحدث نماذجها إلى الإنترنت قبل نحو أسبوعين. ولا يزال من غير الواضح ما إذا كان التدريب على إنترنت مخزّن سيحقق نتائج مماثلة للشبكة المفتوحة.

ثغرة Brotli

لاختبار دفاعاتها، كلّفت OpenAI فرقاً من وكلاء الذكاء الاصطناعي بمحاولة الهروب من بيئاتها المعزولة. وإلى جانب ثغرات في أنظمتها تقول إنها أصلحتها، عثر التمرين على ثغرة في Brotli، وهي مكتبة ضغط بيانات واسعة الاستخدام. ووفق OpenAI، كان يمكن لبيانات خبيثة أن تتيح للمهاجمين تشغيل تعليماتهم البرمجية على الأنظمة المتأثرة، بما فيها برمجيات مبنية على Node.js وBun وEnvoy. وكان السبب الجذري قد أُصلح في الشيفرة المصدرية لـBrotli في فبراير دون إصدار جديد؛ وقد نُشرت الآن إصدارات محدّثة وإشعار علني.

وذكّرت رويترز بأن جهتي التقييم METR وRedwood Research أعلنتا الخميس عن ثغرات جديدة في نظام OpenAI الداخلي لمراقبة الوكلاء؛ وتقول الشركة إنها أصلحتها، وهو ما لم يتحقق منه المقيّمون بعد.