وعي للأخبارأخبار عربية ودولية
النسخة العالمية

حين تقرر الآلة مَن يعيش ومَن يموت.. تحذير من الروبوتات القاتلة!

تاريخ النشر:

  • الجديد
  • AlJadeed

حين تقرر الآلة مَن يعيش ومَن يموت.. تحذير من الروبوتات القاتلة!

تتصدر الأسلحة الذاتية التشغيل القادرة على استهداف البشر النقاشات في جنيف هذا الأسبوع، حيث تجتمع الدول في مقر الأمم المتحدة حتى الجمعة للبتّ في ما إذا كانت ستبدأ مفاوضات لوضع ضوابط تنظّم استخدامها، فيما يحذّر خبير في مقابلة مع وكالة فرانس برس من مخاطر هذه "الروبوتات القاتلة" التي "تختزل الإنسان إلى مجرد بيانات".

يشدد رئيس وحدة الأسلحة وسير العمليات القتالية في اللجنة الدولية للصليب الأحمر لوران جيزيل على ضرورة الإسراع في وضع قواعد ملزمة قبل نشر أسلحة يصعب التنبؤ بأدائها أو التحكم بها في ساحات المعارك.

ويقول "غالبا ما يُربط النقاش بشأن الأسلحة الذاتية التشغيل بالطائرات المسيّرة، لكنّ هذه التكنولوجيا يمكن دمجها في أي نوع من الأسلحة، كالصواريخ والقنابل".

ليست فكرة السلاح القادر على الردّ من دون تدخل بشري جديدة، لكنّ التطور المتسارع في قدرات هذه الأسلحة واستخداماتها بفضل التقدم في مجال الذكاء الاصطناعي، يدفع دولا للمطالبة ببدء مفاوضات لوضع إطار قانوني ينظّم استخدامها.

ويوضح جيزيل أن بعض هذه الأسلحة الذاتية التشغيل "موجود منذ عقود".

ومن أبرز الأمثلة على ذلك أنظمة الدفاع المضادة للصواريخ المثبّتة على السفن الحربية، والقادرة على رصد التهديدات وإطلاق ردّ تلقائي عليها. ويوضح جيزيل أنه عند مواجهة صاروخ يقترب بسرعة فائقة، "يشرف العسكريون على عمل النظام، لكن لا يتطلب الأمر موافقتهم على كل ضربة".

ويرى الخبير أن مخاطر هذه الأنظمة على المدنيين تظل محدودة في هذه الحالة تحديدا، أي في عرض البحر وفي ظل صواريخ يمكن التعرّف على بصمتها التقنية.

ويوضح أن الألغام المضادة للأفراد تُعدّ شكلا قديما من الأسلحة الذاتية التشغيل، وقد حُظرت تحديدا بسبب طبيعتها العشوائية، إذ لا تميّز بين المدنيين والمقاتلين.

بمجرد زرعها، تنفجر الألغام عند مرور أي شخص، من دون أن يتمكن مَن زرعها من معرفة ما إذا كان هذا الشخص مقاتلا أم مدنيا.

يقول جيزيل "ما يثير قلقنا بشكل خاص هي التطورات التي نشهدها اليوم في ساحات المعارك"، مشيرا إلى تزايد تطوير أسلحة هجومية قادرة على "البحث عن أهداف وتعقّبها".

ويشير كمثال إلى الذخائر الجوّالة، كتلك القادرة على البحث عن رادار للعدو ثم الانقضاض عليه لتدميره. ويوضح أنه نظرا لقدرة هذه الذخائر على العمل بشكل مستقل، فهناك خطر من انفجارها على رادار موجود في منشأة يستخدمها المدنيون أيضا.

مع العلم أنّ القانون الدولي الإنساني، المستند إلى اتفاقيات جنيف والذي تُعتبر اللجنة الدولية للصليب الأحمر حامية له، يشترط على أطراف النزاع التمييز بين المدنيين والمقاتلين، وبين الأهداف العسكرية والأعيان المدنية.

مع ذلك، لا تدعو اللجنة الدولية للصليب الأحمر إلى حظر كل الأسلحة التي تتضمن نوعا من التشغيل الآلي، بل إلى حظر الأسلحة التي يتعذّر التنبؤ بأدائها، وتلك المصمّمة لاستهداف البشر.

ويرى جيزيل أن الأسلحة المصمّمة لاستهداف البشر تطرح إشكالية أخلاقية إضافية، تتعلق بكيفية تعرّفها على الأشخاص واتخاذها قرار استهدافهم.

ويقول إنّ "هذه الأسلحة تختزل الإنسان إلى مجرد بيانات تلتقطها أجهزة استشعار وتحللها خوارزميات، لتكون الآلة في النهاية هي من يقرر مَن يعيش ومَن يموت".

ويلفت الخبير أيضا إلى المخاطر الناجمة عن تطور الأوضاع الميدانية خلال المعارك، إذ قد يستسلم أحد المقاتلين أو يُصاب بين لحظة تفعيل السلاح الذاتي التشغيل ولحظة إطلاقه النار. وفي هذه الحالة، يصبح المقاتل شخصا "خارج القتال" يتمتع بحماية القانون الدولي الإنساني الذي يحظر استهدافه.

لكن السلاح الذاتي التشغيل قد لا يكون قادرا بالضرورة على رصد هذا التغيير والتعامل معه، بحسب اللجنة الدولية للصليب الأحمر.

ويحذّر جيزيل أيضا من احتمال استخدام هذه الأسلحة خارج النزاعات المسلحة، سواء من جانب دول "لتشديد قبضتها الأمنية على سكانها"، أو من جانب جماعات إرهابية.

ويلفت أيضا إلى أن أنظمة برمجية مستقلة تعمل بالذكاء الاصطناعي أظهرت في بيئات اختبار سلوكيات غير متوقعة، وخرجت عن الضوابط التي وضعها مبتكروها.

ويقول "تخيّلوا إذاً حجم الخطر عندما تُدمج أنظمة ذكاء اصطناعي يصعب التنبؤ بها في منظومة أسلحة!".

هذه الأسلحة تختزل الإنسان إلى مجرد بيانات تلتقطها أجهزة استشعار وتحللها خوارزميات، لتكون الآلة في النهاية هي من يقرر مَن يعيش ومَن يموت".

اقرأ الخبر لدى المصدر