وعي للأخبارأخبار عربية ودولية
النسخة العالمية

تقنية جديدة تكشف النصوص المولّدة بالذكاء الاصطناعي حتى بعد إخفاء مصدرها

تاريخ النشر:

  • تلفزيون سوريا

طوّر باحثون من جامعة كورنيل ومعهد ماساتشوستس للتكنولوجيا، تقنية جديدة للكشف عن النصوص المولدة بالذكاء الاصطناعي، أظهرت قدرة على اكتشاف المحتوى الذي أعيدت صياغته باستخدام أدوات إضفاء الطابع البشري، في محاولة لمعالجة الثغرات التي تواجه أدوات الكشف التقليدية.

ووفق تقرير نشره موقع "MIT News"، تعتمد التقنية على أسلوب يُعرف باسم "التكيف أثناء الاختبار" (Test-Time Adaptation)، يسمح لنظام الكشف بالتعلم من النصوص الجديدة التي يتلقاها وتحديث آلية عمله باستمرار، بدلاً من الاعتماد حصراً على بيانات التدريب السابقة.

وتكمن أهمية هذا الأسلوب في قدرته على التعامل مع التغيرات المتواصلة في أساليب الكتابة وظهور نماذج لغوية جديدة، فضلاً عن مواجهة الأدوات التي تعيد صياغة النصوص المولدة بالذكاء الاصطناعي لتبدو وكأنها مكتوبة بشرياً.

اقرأ أيضاً

مخاوف من تهديد البشرية.. دعوى قضائية تستهدف خمس شركات كبرى للذكاء الاصطناعي

كيف تعمل التقنية

وتعتمد التقنية على تحليل مجموعات من النصوص معاً، بدلاً من فحص كل نص بصورة منفردة، إذ تبحث عن الأنماط المشتركة بينها، مستفيدة مما يسميه الباحثون "التجانس أثناء الاستدلال"، وهي خاصية قد تظهر في النصوص المولدة بالذكاء الاصطناعي عند تحليلها ضمن مجموعات.

ويتيح هذا النهج للنظام الاستفادة من البيانات الجديدة غير المصنفة، أي النصوص التي لا يُعرف مسبقاً ما إذا كانت مكتوبة بشرياً أو مولدة بالذكاء الاصطناعي، ودمجها مع المعرفة التي اكتسبها خلال التدريب، من دون الحاجة إلى إعادة تدريبه من الصفر.

وأظهرت التجارب أن النظام تمكن من اكتشاف 93.3% من النصوص المولدة بالذكاء الاصطناعي التي عُدّلت بهدف تجاوز أدوات الكشف، مقابل 27% فقط لأداة "Pangram" التجارية التي استخدمها الباحثون للمقارنة.

كما اختبر الباحثون قدرة التقنية على التعامل مع التغيرات الطبيعية في أساليب الكتابة بمرور الوقت، وبلغت دقتها 85%، مقارنة بنحو 73% لأساليب الكشف التقليدية، ما يشير إلى قدرتها على التكيف مع النصوص الحديثة وتقليل أخطاء التصنيف.

اقرأ أيضاً

"الهولوغرام" والذكاء الاصطناعي.. هل يتغير شكل تفاعلنا مع التكنولوجيا؟

ماذا تفيد التقنية؟

ويمكن أن تفيد التقنية الجامعات ودور النشر والمؤسسات الإعلامية وجهات التوظيف في التحقق من مصدر المحتوى المكتوب، كما قد تساعد خبراء الأمن السيبراني في رصد رسائل التصيد الاحتيالي المولدة بالذكاء الاصطناعي، وكشف ممارسات التلاعب بنتائج محركات البحث.

ومن المقرر عرض نتائج البحث خلال مؤتمر "NeurIPS" المتخصص في الذكاء الاصطناعي، في وقت لاحق من العام الجاري.

ويرى الباحثون أن التقنية تمثل خطوة نحو تطوير أدوات كشف أكثر قدرة على مواكبة تطور النماذج اللغوية، لكنهم يحذرون من أن التمييز بين الكتابة البشرية والمحتوى المولد آلياً قد يصبح أكثر صعوبة مع تحسن قدرة النماذج على إنتاج نصوص طبيعية، ما يجعل نتائج هذه الأدوات غير كافية وحدها للحكم على مصدر النص.

اقرأ الخبر لدى المصدر