باحثون من Meta وMIT وجامعة واشنطن يكشفون «نماذج لغة السياق» التي تدير ذاكرتها بنفسها

وصف باحثون من Meta ومعهد ماساتشوستس للتكنولوجيا وجامعة واشنطن نماذج لغة السياق (Context Language Models)، وهي طريقة تتيح للنموذج اللغوي إدارة سياق عمله بنفسه بدلًا من مراكمة كل شيء فيه، بحسب ما أفاد موقع AI and Tech News في 11 أكتوبر.

النتائج المعلنة

• حققت النماذج دون تدريب إضافي دقة أعلى بنسبة 11.4% مع عمليات حسابية أقل بنسبة 21.5% في اختبار BrowseComp-Plus.
• رفع التعلم المعزز أداء Qwen3.5-9B في BrowseComp-Plus من 28.8% إلى 42.5% مع حوسبة أقل بنحو 12%.
• حسّن التعلم داخل السياق الدقة في ContextBench بما يصل إلى 35.9 نقطة مئوية.

مشكلات قائمة

يقرّ المؤلفون بقيود: فقد يتخلص النموذج من معلومات يحتاجها لاحقًا، وقد يصبح السياق القابل للتعديل قناة جديدة لاستمرار حقن الأوامر عبر الجولات، كما أن مزيدًا من التحكم لا يضمن قرارات أفضل. النتائج مستمدة من تقييمات الباحثين أنفسهم ولم تُكرَّر بشكل مستقل بعد.