تحذير أممي من مخاطر الاستخدام غير المسؤول للتكنولوجيات الحديثة على الأمن البشري والدولي
جاء هذا أثناء الإحاطة التي قدمها الدكتور روبن جيس أمام جلسة عقدها مجلس الأمن اليوم الاثنين تحت عنوان "استشراف تأثير التطورات العلمية على السلم والأمن الدوليين".
وأوضح المسؤول الأممي أن التقارب المتزايد بين التقنيات المختلفة إلى جانب طبيعتها مزدوجة الاستخدام، يمكن أن يفضيا إلى عواقب بعيدة المدى وغير مقصودة.
وشدد على أنه من أجل تمكين الاستجابات السياسية المناسبة والفعالة للأزمات والصراعات المستقبلية ولضمان الحماية المناسبة للمدنيين وقوات حفظ السلام والعاملين في المجال الإنساني، "نحتاج إلى زيادة وعينا وفهمنا للتهديدات والفرص المتزايدة الناشئة عن التطورات العلمية والتكنولوجية".
مخاطر وجودية
وأشار مدير معهد بحوث نزع السلاح إلى ما يمكن أن تحمله التكنولوجيا الكمية والذكاء الاصطناعي العام من تأثيرات على السلم والأمن في السنوات القادمة.
وقال إن التكنولوجيا الكمية ستعطل أمن المعلومات والاتصالات من خلال جعل تقنيات التشفير التقليدية غير فعالة، وستمكن أجهزة الاستشعار التي تعتمد على تلك التكنولوجيا من اكتشاف الأجسام تحت الأرض أو تحت الماء مما سيحدث ثورة في الحرب من ناحية، وجهود المراقبة والتحقق من ناحية أخرى.
وأوضح كذلك أن الحوسبة الكمية ستفتح عصرا جديدا للذكاء الاصطناعي من خلال تمكين حساب النماذج التي لا يمكن تشغيلها حاليا حتى على أقوى أجهزة الكمبيوتر. وأشار أيضا إلى التقدم المتوقع تحقيقه في مجال الذكاء الاصطناعي العام، الذي يمكن أن يعمل بدرجة من المرونة "أقرب إلى الذكاء البشري".
وقال جيس: "بمجرد أن يصل الذكاء الاصطناعي العام إلى مستوى من الذكاء يتجاوز القدرات البشرية، فقد يفقد البشر القدرة على حكمه أو تقييد أفعاله. ويرى العديد من الخبراء هذا باعتباره خطرا ملموسا ومعقولا يستحق الاهتمام الجاد، خاصة بالنظر إلى الطبيعة الوجودية للتهديد".
ونبه إلى أن هذه التكنولوجيا القوية يمكن الاستفادة منها لتحقيق الخير، ومعالجة التحديات العالمية المعقدة، لكنه أضاف أنه "إذا تم استخدامها بشكل غير مسؤول، فقد تشكل مخاطر كبيرة ووجودية على الأمن البشري والدولي".
دور مجلس الأمن
ودعا المسؤول الأممي مجلس الأمن إلى النظر في مجموعة من الإجراءات بما فيها إضفاء الطابع المؤسسي على حوارات استشراف الأفق المنتظمة حول التطورات التكنولوجية والعلمية.
واقترح أيضا الاستفادة من عمل وخبرة هيئات الأمم المتحدة المختلفة لصالح المجلس من خلال إحاطات مخصصة بشأن المجالات العلمية والتكنولوجية ذات الأهمية الخاصة. وقال إن المجلس نفسه يمكنه تقديم منظور فريد من نوعه حول كيفية تأثير التقدم العلمي والتكنولوجيات الجديدة على السلم والأمن.
وأضاف: "بهذه الطريقة، يمكنه تعزيز قدرة منظومة الأمم المتحدة ككل على منع التهديدات الناشئة حديثا أو الاستجابة لها بشكل أفضل، مما يعزز بدوره منظور السلم والأمن المستدامين في المستقبل".
التصرف بشجاعة
أمين عوض، رئيس مجلس المؤسسة في مركز جنيف لحوكمة قطاع الأمن تحدث أمام الجلسة أيضا حيث دعا الدول الأعضاء إلى "التصرف بشجاعة وتبصر لضمان أن تفي التقنيات الناشئة بوعدها بتعزيز السلام والأمن العالميين".
وقال عوض إن التقدم العلمي في مجال التكنولوجيا العصبية والبيولوجيا الاصطناعية والذكاء الاصطناعي والحوسبة الكمية "يعيد تشكيل عالمنا بالفعل". وأضاف أنه "لا ينبغي ادخار أي جهد لضمان أن تكون هذه التطورات لصالح الإنسان وليس للشر".
بدورها، قالت سفيرة اليابان للعلوم والتكنولوجيا، كاجي ميساكو إنه "يجب على العالم أن يجمع قواه لدعم الابتكار مع التخفيف بشكل صحيح من مخاطر وإساءة استخدام التقنيات الناشئة".
وأشارت إلى أن اليابان قادت المناقشة الدولية بشأن حوكمة أنظمة الذكاء الاصطناعي المتقدمة لتحقيق الذكاء الاصطناعي الآمن والموثوق به، بما في ذلك من خلال "عملية هيروشيما للذكاء الاصطناعي"، التي أطلقت في أيار/مايو 2023.