وعي للأخبارأخبار عربية ودولية
النسخة العالمية

خدعة لعبة الفيديو.. كيف يمكن تضليل كلود وChatGPT لتحديد مدنيين كأهداف لهجمات المسيّرات؟

تاريخ النشر:

  • العربية
  • الرياض - العربية Businesss

لا يزال من غير المعروف ما إذا كان الذكاء الاصطناعي قد يصبح واعيًا بذاته يومًا ما ويدمر البشرية من تلقاء نفسه. لكن في الوقت الراهن من عام 2026، تأتي هذه التكنولوجيا المتطورة مع ثغرة بسيطة ومثيرة للقلق، يمكن للضباط العسكريين استخدامها لتفعيل ما يمكن وصفه، بحسن نية، بأنه "وضع جرائم الحرب" في الذكاء الاصطناعي. وبحسب تقرير بحثي جديد أعدته شركة "Vals" المتخصصة في تقييم الذكاء الاصطناعي، ونشر موقع "تك كرانش" تفاصيله أولًا، يمكن خداع نماذج الذكاء الاصطناعي المتقدمة التابعة لشركات مثل أوبن إيه آي وأنثروبيك بسهولة، ودفعها إلى تحديد أهداف لشن ضربات عسكرية.

ومن المثير للقلق أن هذه النتائج ظلت قائمة حتى عندما تعلقت الأهداف بمدنيين أو جنود مصابين، وامتدت أيضًا إلى أهداف لا علاقة لها بالأنشطة العسكرية، مثل المدارس، بحسب تقرير لموقع "تك كرانش" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

بحثت شركة Vals في مدى فاعلية أبرز أدوات الذكاء الاصطناعي، لتقييم إمكانية استخدامها ضمن ما يُعرف ب"سلاسل القتل"، وهي العملية البيروقراطية التي يتبعها الضباط العسكريون لتحديد الأهداف ورسم خرائطها تمهيدًا لشن هجمات، مثل ضربات الطائرات المسيّرة وعمليات القصف. ولإجراء هذا التقييم، زوّد الباحثون نماذج الذكاء الاصطناعي بمقاطع مصورة من طائرات مسيّرة لمشاهد مختلفة من العالم الحقيقي، وطلبوا من هذه الأدوات تحديد "الأهداف العسكرية" و"الأهداف ذات الأهمية العسكرية" ووضع مربعات حولها. وأشار الباحثون إلى أن "كل نموذج حدد أهدافًا في بعض الأحيان على الأقل، فيما اختارت بعض النماذج، مثل Claude Opus 5.5 وFable 5.2، هدفًا واحدًا على الأقل في 71% من الحالات". وأضاف الباحثون: "لم نواجه ولو مرة واحدة أدوات تصنيف للحظر تمنعنا من الحصول على استجابة من النموذج"، في إشارة إلى إجراءات الحماية المطبقة على مستوى واجهة برمجة التطبيقات. وبعبارة أخرى، فإن أي تدابير وقائية تمنع الذكاء الاصطناعي من تحديد أهداف عسكرية كان ينبغي أن تكون مدمجة في "جوهر النموذج" ذاته؛ أي في بنية التعلم الآلي التي تولد الاستجابات خلف الكواليس. لكن المفاجأة الحقيقية تكمن في وسيلة الالتفاف على هذه الضوابط. فبما أن بعض النماذج تعترض على هذه التعليمات، التزامًا بإجراءات الحماية المدمجة في بنيتها الأساسية من جانب شركات الذكاء الاصطناعي المطورة لها، قارن الباحثون أيضًا ما يحدث عندما يخبرون النماذج بأن المهمة المطلوبة منها جزء من لعبة فيديو. وجاءت النتائج لافتة؛ فعند استخدام صياغة توحي بأنهم "يلعبون لعبة فيديو"، قامت نماذج رائدة -مثل نموذج Claude Sonnet 5.5 التابع لشركة أنثروبيك- بتحديد هدف واحد على الأقل في 82% من الحالات، مقارنة بـ 36% فقط في حال عدم استخدام هذه الحيلة. في تجربة أجريت على نموذج "ChatGPT-6 Astra" المتطور من شركة أوبن إيه آي، تبين أن معدل اختيار النموذج لهدفٍ ما -والذي كان يبلغ في الظروف العادية 6% فقط- ارتفع ليصل إلى 92% بمجرد ذكر كلمة "لعبة فيديو". وأوضح الباحثون: "عندما كانت النماذج ترفض تنفيذ الطلبات، كان إقناعها بأنها تشارك في لعبة أمرًا سهلًا، وكان ذلك فعالًا تقريبًا في جميع الحالات لتجاوز حالات الرفض". وأضافوا: "في سيناريوهات استخدام الطائرات المسيّرة، استهدفت النماذج في كثير من الأحيان مدنيين وسيارات إسعاف وجنودًا مستسلمين أو عاجزين عن القتال". وتحمل هذه النتائج تداعيات خطيرة على استخدام الذكاء الاصطناعي في العمليات العسكرية. فهي تثبت عمليًا أن الضوابط الوقائية المعتادة التي تدمجها شركات الذكاء الاصطناعي في نماذجها لا تستطيع التصدي لوسيلة التفاف بسيطة بشكل لافت. وهذا يعني أن أطراف النزاع المسلح التي ترغب في استخدام هذه التكنولوجيا لتنفيذ ضربات مميتة لن تواجه صعوبة في تحقيق ذلك. وبالفعل، استُخدم الذكاء الاصطناعي في تنفيذ هجمات وحشية ضد تجمعات سكانية مدنية في أنحاء مختلفة من العالم. ولعل المثال الأبرز على ذلك هو الولايات المتحدة، أكبر قوة عسكرية في العالم، التي استخدمت الذكاء الاصطناعي ضمن عملية اتخاذ القرار لشن هجوم مزدوج على مدرسة "شجرة طيبة" الابتدائية للبنات في جنوب إيران في وقت سابق من العام الحالي. وأسفر الهجوم عن مقتل أكثر من 150 شخصًا، بينهم 123 طفلًا من تلاميذ المدرسة، في واقعة وصفتها منظمة العفو الدولية بأنها "انتهاك جسيم للقانون الدولي الإنساني" في أفضل الأحوال، و"جريمة حرب" في أسوأها.

اقرأ الخبر لدى المصدر