أسلحة ذاتية التشغيل قد تقتل مليار إنسان؟ خبير يوضح حدود الخطر الحقيقي

تبدو فكرة أن تقتل أنظمة الذكاء الاصطناعي مليار إنسان أقرب إلى سيناريو من الخيال العلمي، لكن النقاش المتصاعد اليوم لا يتعلق بالرقم بحد ذاته، بل بمن يمتلك قرار استخدام القوة حين تختار منظومة آلية هدفها وتشتبك معه دون تدخل بشري مباشر.

تقييم الخطر الحقيقي وحدود التقنية في مقابلة مع قناة “الجزيرة”، تناول البروفيسور بيتر لي—أستاذ الأخلاقيات التطبيقية بمركز دراسات الدفاع في جامعة بورتسموث وعضو اللجنة الاستشارية لأخلاقيات الذكاء الاصطناعي بوزارة الدفاع البريطانية—التصريحات المنقولة عن بيل غيتس بشأن المخاطر الكارثية للذكاء الاصطناعي. وأوضح “لي” أن غيتس لم يحدد الآلية التقنية التي قد تؤدي لقتل هذا العدد الهائل، مشدداً على أن هذه الأنظمة لا تزال في مراحل تطويرها الأولى.

وأشار الخبير إلى أن السيناريو الكارثي الأشد خطورة قد يرتبط بإدماج الذكاء الاصطناعي في أنظمة القيادة والسيطرة النووية، إلا أنه استبعد قدرة التقنية بحالتها الراهنة على تنفيذ دمار بهذا الحجم، نظراً لأن القوى النووية تفرض إجراءات أمنية معقدة ومستقلة لحماية منظوماتها من الاختراق.

ويرى “لي” أن القضية الأساسية لا تكمن في فرضية أن الآلة “ستستيقظ فجأة لتبيد البشرية”، بل في استمرار دمجها العسكري السريع مقابل تباطؤ القواعد الدولية التي تحكمها.

جنيف تكشف الفجوة بين القيود والسباق العسكري تتزايد مخاوف الأمم المتحدة واللجنة الدولية للصليب الأحمر من تقلص الفاصل الزمني بين تحليل البيانات وتأكيد الضربة العسكرية. وخلال محادثات أممية شهدت مشاركة 128 دولة في جنيف لوضع قواعد ملزمة تحظر الأسلحة الفتاكة ذاتية التشغيل، انتهت الاجتماعات إلى نص غير ملزم.

وأفادت تقارير صحفية، من بينها ما نشرته صحيفة Washington Post، بأن الولايات المتحدة وروسيا دفعتا باتجاه تخفيف القيود المقترحة، وحذف بنود تنص صراحة على وجوب بقاء العنصر البشري مسيطراً على عملية اختيار الأهداف والاشتباك.

ويعزو “لي” هذا الموقف الأمريكي والروسي—والذي ينطبق على الصين أيضاً—إلى التنافس الحاد على الريادة التقنية؛ إذ ترفض القوى الكبرى التخلي عن أي ميزة عسكرية محتملة أو تقييد مساعيها قبل تبثبت تفوقها، وهو موقف يشبه السلوك السياسي الذي سبق معاهدات الحد من الأسلحة النووية في بداياتها.

خطوط الاتصال لا تمنع السباق ورغم إعلان البيت الأبيض عن اتفاق مع بكين لإنشاء قناة اتصال ثنائية لإدارة الحوادث المرتبطة بالذكاء الفائق وتبادل وجهات النظر حول مخاطره، لا يرى “لي” في هذه الخطوة اتفاقاً يحد من الأسلحة ذاتية التشغيل، بل هي مجرد آلية لتخفيف حدة الأزمات ومنع سوء التقدير، بينما يستمر تطوير الأدوات القتالية في الخلفية بأقصى سرعتها.

ويخلص التقرير إلى أن اختزال الملف في أرقام صدمية يتغاضى عن جوهر الخطر؛ فالقضية اليوم هي أن قرار القتل يتحول إلى ساحة تنافس تجرد الإنسان تدريجياً من حلقة القرار، ليصبح السؤال الأهم: من سيتحمل المسؤولية القانونية والأخلاقية عندما تقرر الآلة أن تقتل؟