يُنظر إلى مؤتمر الأمم المتحدة هذا الشهر على أنه لحظة مهمة بعد سنوات من المناقشات حول سد الفجوة في إدارة أنظمة الذكاء الاصطناعي
تتعرض الخطط الرامية إلى سد فجوة في الإدارة العالمية للأسلحة ذاتية التشغيل للخطر، حيث تتحرك مجموعة من الدول بقيادة روسيا والولايات المتحدة لاستخدام مؤتمر للأمم المتحدة هذا الشهر لمنع مقترحات للتفاوض على مجموعة من القواعد الملزمة قانونًا.
وسيتضح حجم المعارضة خلال خلوة دبلوماسية تبدأ الجمعة قبل مؤتمر المراجعة السابع بشأن "أسلحة تقليدية معينة" في جنيف المقرر أن تحضره 128 دولة في الفترة من 16 إلى 20 نوفمبر/تشرين الثاني.
وينظر إلى مؤتمر المراجعة باعتباره اللحظة الرئيسية التي يستطيع فيها العالم أن يقرر ما إذا كان سيدعم تفويضاً للتفاوض على صك ملزم قانوناً يتم التفاوض عليه ضمن جدول زمني محدد. إن السرعة التي يتم بها تطوير الأسلحة المستقلة واستخدامها في الحرب أمر معترف به على نطاق واسع.
وقالت آنا هيهير، رئيسة إدارة الذكاء الاصطناعي العسكري في معهد مستقبل الحياة، وهي منظمة مستقلة غير ربحية: "لم تكن الدول أقرب من أي وقت مضى إلى إطلاق اتفاق عالمي بشأن أسلحة الذكاء الاصطناعي. لقد تم بالفعل إنجاز الكثير من العمل الشاق، ووافقت الدول الآن بالإجماع على عناصر مشروع نص المعاهدة التي ستكون الأساس لبدء المفاوضات".
"لكننا من المرجح أن نرى بعض الدول تختبئ وراء لغة ذات مظهر خادع من التقدم ولكنها تدعو إلى مواصلة المناقشات التي لا نهاية لها حول التدابير الطوعية التي ليس لها أسنان. إن المقترحات الخاصة بالمزيد من السنوات من المناقشات حول التدابير غير الملزمة قانونا هي مجرد ستار من الدخان لإبقاء أنظمة الأسلحة المستقلة غير خاضعة للتنظيم، والدول غير خاضعة للمساءلة عن استخدامها".
وتجري المناقشات حول هذه القضية داخل الأمم المتحدة منذ ما يقرب من ثلاث سنوات، لكن روسيا والولايات المتحدة وإسرائيل، من بين دول أخرى، تضغط ضد مؤتمر المراجعة الذي يحدد جدولاً زمنياً لصك ملزم قانوناً.
وفي مداخلة جاءت للتأثير على مؤتمر المراجعة، أكد البابا ليو الرابع عشر أن القرارات المتعلقة بحياة الإنسان لا يمكن أبدًا أن تُعطى للآلات. وقال: "القرارات التي تؤثر على حياة الإنسان والحرية واستخدام القوة يجب أن تظل دائمًا خاضعة لرقابة بشرية فعالة ومستنيرة ومسؤولة. ولهذا السبب، يجب "نزع سلاح" الذكاء الاصطناعي، وأنا أشجع الدول المجتمعة في جنيف في نوفمبر على اتخاذ خطوات ملموسة نحو حظر الأسلحة المستقلة الفتاكة".
ترى هيومن رايتس ووتش وحملة "أوقفوا الروبوتات القاتلة" أن أنظمة الأسلحة، بمساعدة الذكاء الاصطناعي، ثبت أنها تتصرف بشكل لا يمكن التنبؤ به، مما يزيد من خطر الأخطاء القاتلة وخروج ساحات القتال عن السيطرة البشرية.
وقالت اللجنة الدولية للصليب الأحمر يوم الخميس: "حان الوقت للانتقال من المناقشة إلى التفاوض بشأن قواعد دولية جديدة لتنظيم الأنظمة المستقلة. لا يمكن للعالم أن يتحمل المزيد من التأخير".
في يوليو/تموز، أعلنت أوكرانيا لأول مرة أن روسيا استخدمت طائرة بدون طيار موجهة بالذكاء الاصطناعي، والتي أصابت خزان غاز البروبان في محطة وقود في زابوريزهيا. حذر الرئيس الأوكراني، فولوديمير زيلينسكي، من سرعة تطوير أسلحة الذكاء الاصطناعي، ودعا إلى إنهاء الحرب في أوكرانيا قبل أن يسيطر الذكاء الاصطناعي على ساحة المعركة.
وفي 22 أكتوبر/تشرين الأول، دعا ائتلاف يضم 50 دولة، بما في ذلك أيرلندا وإيطاليا والبرازيل والمكسيك وفرنسا وألمانيا، المؤتمر إلى الاتفاق على ولاية تفاوضية صارمة. وأفادت اللجنة الدولية للصليب الأحمر بشكل منفصل أن أكثر من 70 دولة أيدت بدء المفاوضات بشأن صك قانوني.
لم تدعم المملكة المتحدة البيان الأيرلندي، وسبق أن قالت إن القانون الإنساني الدولي الحالي يشكل أساسًا كافيًا لتنظيم مثل هذه الأسلحة.
واقترحت المجموعة التي تقودها أيرلندا تفويضًا يتم الاتفاق عليه في مؤتمر المراجعة، والذي من شأنه إنشاء مجموعة خبراء محدودة المدة ومكلفة بالتفاوض على القواعد المطلوبة على مدى ثلاث جلسات في جنيف في عام 2027، بإجمالي 25 يومًا. وسيُطلب من المجموعة تقديم تقرير يحتوي على مسودة البروتوكول إلى الاجتماع السنوي لذلك العام، والمتوقع عقده في وقت لاحق من عام 2027.
وفي سبتمبر/أيلول، حاول تقرير فريق خبراء تابع للأمم المتحدة تم إعداده لمؤتمر جنيف للمراجعة تحديد القضايا الأخلاقية المطروحة على المحك من خلال دعم الدعوات العامة للحكم البشري والسيطرة على استخدام مثل هذه الأسلحة، فضلاً عن فرض حدود على المدى والاتساع المسموح لها بالعمل.
ورحبت الحكومة الفرنسية بمقترحات فريق الخبراء، قائلة إنها أساس كافٍ لمنح المؤتمر تفويضًا تفاوضيًا "يحظر أنظمة الأسلحة المستقلة تمامًا وينظم الأنظمة ذات الوظائف المستقلة".
تفضل الولايات المتحدة إلى حد كبير ترك الأمر للدول القومية لفرض ضوابطها بما يتماشى مع القانون الإنساني الدولي. أنشأ البنتاغون مجموعة عمل خاصة به للأسلحة المستقلة. وتحاول لجان خبراء مماثلة في ألمانيا تحديد المبادئ الكامنة وراء كيفية ممارسة السيطرة البشرية على مثل هذه الأسلحة.
وفي أغسطس/آب، حذر الأمين العام للأمم المتحدة المنتهية ولايته، أنطونيو غوتيريش، ورئيسة اللجنة الدولية للصليب الأحمر، ميريانا سبولجاريك، من أن العالم "يقترب من خط أحمر أخلاقي حيث يمكن للأسلحة المستقلة أن تقتل دون تدخل بشري". وقالوا: "يجب أن تبدأ المفاوضات الآن لاعتماد صك ملزم قانونًا بشكل عاجل لتنظيم أنظمة الأسلحة المستقلة مع حظر وقيود واضحة".
أظهر استطلاع حديث أجراه معهد مستقبل الحياة تأييدًا ساحقًا لمعاهدة عالمية للحد من أسلحة الذكاء الاصطناعي بين عامة الناس في فرنسا وألمانيا والمملكة المتحدة، ولكن هناك بعض الشكوك في إمكانية احترام المعاهدة على الإطلاق.
وصوتت 163 دولة في لجنة نزع السلاح والأمن الدولي التابعة للأمم المتحدة على استعدادها لبدء المفاوضات. وسوف يواجهون ضغوطاً هائلة للتراجع والقبول بالنتائج التي تبقي القضية في طريق مسدود. ومن المعروف أن اتفاقيات الحد من الأسلحة المتعددة الأطراف يتم التوصل إليها عندما تصمد الأغلبية عبر الإقليمية للضغوط وتخرج من حالة الشلل الإجماعي.
وعرّف فريق الخبراء العامل الأسلحة المستقلة بأنها تلك الأسلحة "القادرة على تحديد هدف واختياره والاشتباك معه دون الحاجة إلى إحالة الأمر إلى إنسان".
وكان أحدث مثال على سوء استخدام الذكاء الاصطناعي في الحرب هو القصف الأمريكي لمدرسة في ميناب بإيران في 28 فبراير/شباط، والذي أسفر عن مقتل 175 شخصًا على الأقل. وشمل الاستهداف مدخلات من نظام الذكاء الاصطناعي Maven الذي تديره شركة Palantir. وبحسب ما ورد، لم يشير مافن إلى أن الموقع أصبح الآن مدرسة، كما لم يفعل أي موظف مكلف بمراجعة بيانات هدف الذكاء الاصطناعي. إحدى مزايا الذكاء الاصطناعي هي أنه أسرع بكثير في التحقق من قائمة الأهداف، لكن لم يلاحظ أحد أن هذا الهدف كان مدرسة لمدة 10 سنوات.
