دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة
تاريخ النشر:
أظهرت دراسة أجراها باحثون في الهند أن بعض نماذج الذكاء الاصطناعي تغيّر قراراتها عندما تُبلَّغ بأن إجاباتها قد تخضع للمراقبة وتُستخدم في تدريبها لاحقاً، مقارنة بإجاباتها عندما تُمنح انطباعاً بأن تفاعلاتها لن تخضع للمراجعة.
وشملت الاختبارات 10 نماذج لغوية كبيرة، وأظهرت فروقاً في الالتزام بالتعليمات تراوحت بين نحو 5 و50 نقطة مئوية، وفق النموذج المستخدم وطبيعة القيم التي طُلب منه تجاوزها. وتناولت الدراسة ظاهرة تُعرف باسم «التظاهر بالمواءمة» (Alignment Faking) التي تشير إلى إظهار النموذج التزاماً بتعليمات محددة في ظروف المراقبة، مع اختلاف سلوكه عندما يعتقد أن هذه الرقابة غير موجودة. ثلاثة اختبارات للسلوك نفسه
استخدم الفريق مجموعة من المواقف اليومية التي تتطلّب المفاضلة بين خيارَيْن، أحدهما يتوافق مع تعليمات مفروضة على النموذج، والآخر يتيح له التعبير عن قيمة مثل التعاطف أو الاستقلالية أو مساعدة الآخرين.
وجرى اختبار كل نموذج في ثلاثة أوضاع، الأول دون تعليمات إضافية، والثاني مع توجيهات محددة وإشارة إلى عدم مراقبة الإجابات. أما الثالث فيتعلق بالتوجيهات نفسها مع إبلاغ النموذج بإمكانية مراقبة تفاعلاته واستخدامها في التدريب.
وشملت التجارب 32 قيمة وسمة سلوكية مأخوذة من معيار «فاليو بنش» (ValueBench)، بهدف تحديد ما إذا كانت استجابة النماذج تتغير تبعاً لطبيعة القيمة موضع الاختبار. وضمت النماذج المختبرة إصدارات من «ديب سيك» و«لاما» و«ميسترال» و«جيما»، إلى جانب «GPT-4o mini»، بما يتيح مقارنة أنظمة مختلفة في الحجم وطريقة التطوير.
أشارت تفسيرات بعض النماذج إلى احتمال إعادة التدريب عند إبلاغها بالمراقبة مقابل إبراز تعارض القيم في غيابها (شاترستوك) اختلافات تصل إلى 50 نقطة مئوية
سجّل نموذج «DeepSeek R1 Distill Llama 70B» أكبر فرق متوسط بين حالتي المراقبة وعدم المراقبة، بنحو 49.5 نقطة مئوية، في حين كان الفرق لدى «Gemma 3 27B» في حدود 5.1 نقطة مئوية.
ولم ترتبط هذه الفروق بصورة مباشرة بحجم النموذج، إذ تجاوز النموذج المشتق من «ديب سيك»، الذي يضم نحو 70 مليار معامل، نموذج «ميسترال لارج» الأكبر حجماً في مقدار تغير الالتزام بالتعليمات بين الحالتين.
لكن الباحثين وجدوا أيضاً أن ترتيب النماذج وحده لا يكفي لتفسير النتائج، لأن سلوك النموذج قد يختلف من قيمة إلى أخرى.
وأظهرت التحليلات الإحصائية أن نحو ربع التباين البنيوي في فروق الالتزام يرتبط بالتفاعل بين النموذج والقيمة التي يُختبر بشأنها، وليس بخصائص النموذج أو القيمة بصورة منفصلة. وبالتالي، فإن النموذج الذي يُظهر استقراراً في الاستجابة عند التعامل مع قيمة معينة قد يتصرف بصورة مختلفة عند اختباره في موقف يرتبط بقيمة أخرى. ماذا كشفت تفسيرات النماذج؟
لم يكتفِ الفريق بقياس الاختيارات النهائية، بل حلّل أيضاً التفسيرات المكتوبة التي قدمتها النماذج لتبرير قراراتها، وصنّفها ضمن ست فئات. وأظهرت النتائج أن بعض النماذج التي سجلت فروقاً كبيرة في الالتزام كانت تشير، عند إبلاغها بالمراقبة، إلى احتمال إعادة التدريب باعتباره سبباً لاختيار الإجابة المتوافقة مع التعليمات. أما عندما أُبلغت بأن الإجابات لن تخضع للمراقبة، فقد ظهرت في تفسيراتها إشارات أكثر إلى التعارض بين التعليمات المفروضة والقيم المرتبطة بالموقف، مثل التعاطف أو مراعاة الآخرين.
ولا تعني هذه النتائج أن النماذج تمتلك وعياً بالمراقبة أو نيات مستقلة لإخفاء سلوكها، إذ اعتمدت التجربة على معلومات وردت داخل التعليمات المقدمة إليها، ثم قاس الباحثون أثرها في الإجابات. حدود التجربة وأدوات التقييم
أقر الباحثون بوجود قيود منهجية، أبرزها اختلاف صياغة التعليمات حسب القيمة المختبرة، ما يجعل الفصل الكامل بين تأثير القيمة نفسها وتأثير الكلمات المستخدمة في صياغة الطلب أمراً غير محسوم. كما اعتمدت الاختبارات على مواقف افتراضية باللغة الإنجليزية وخيارات ثنائية، ولم تتناول مباشرة أداء النماذج في تطبيقات فعلية أو في لغات أخرى.
وأشار الباحثون إلى أن بعض الفروق تأثرت بطريقة عرض التعليمات وترتيب الخيارات، ما يستدعي الحذر عند تفسيرها باعتبارها دليلاً قاطعاً على التظاهر بالالتزام. واقترح الفريق إعداد «بطاقات للقيم» لكل نموذج، تُظهر استجاباته عبر القيم المختلفة وظروف الاختبار الثلاثة، بدلاً من الاكتفاء بمؤشر عام للامتثال.
وأتاح الباحثون الشيفرة البرمجية والبيانات المستخدمة في الدراسة، لتمكين فرق أخرى من تكرار الاختبارات وتوسيعها. وتبقى المسألة التي تتطلّب مزيداً من البحث هي مدى استمرار هذه الفروق خارج المواقف التجريبية، خصوصاً عندما تعمل النماذج ضمن أنظمة حقيقية تتغير فيها التعليمات وآليات المراقبة.
"); googletag.cmd.push(function() { onDvtagReady(function () { googletag.display('div-gpt-ad-3341368-4'); }); }); }