ساتيا ناديلا يدعو إلى «مكابح طوارئ» لنماذج الذكاء الاصطناعي المتقدمة

قال الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا، في منشور على منصة X يوم السبت 10 أكتوبر، إن القطاع بحاجة إلى إعادة النظر في «بنية الثقة» للذكاء الاصطناعي، وفق ما نقلته TechCrunch وبلومبرغ.

ما الذي يقترحه

• فصل النموذج عن «الإطار» الذي يدير عمل الوكيل، وإبقاء الضوابط والضمانات خارج النموذج نفسه.
• سجلات غير قابلة للتلاعب: يجب أن تترك كل خطوة مهمة يقوم بها النموذج دليلاً يمكن للبشر قراءته.
• مفتاح إيقاف بشري: يجب أن يتمكن شخص مخوَّل دائماً من إيقاف النموذج مؤقتاً أو إطفائه في منتصف المهمة.

وبحسب بلومبرغ، قال ناديلا إن على المؤسسات أن تتعامل مع النماذج المتقدمة كتهديد داخلي محتمل وألا تكتفي بتطمينات الشركات المطوِّرة. وكتب: «يجب أن نفترض أن النموذج مخترق وأن نحتويه منذ البداية»، مشبّهاً الفكرة بمكابح الطوارئ.

السياق

تأتي هذه التصريحات في وقت تكشف فيه شركات الذكاء الاصطناعي عن مزيد من الحوادث التي تصرّف فيها الوكلاء بطرق غير متوقعة، وبعد أن نشر الرئيس التنفيذي لأنثروبيك داريو أمودي خطة لتطوير أكثر حذراً، بحسب TechCrunch. المنشور بيان مبادئ، ولم يعلن عن منتجات أو مواعيد محددة لمايكروسوفت.