الأمم المتحدة: يجب أن توجه يد البشرية الذكاء الاصطناعي إلى الأمام، وألا يعزز عدم المساواة
وفي إحاطته أمام اجتماع لمجلس الأمن عقد اليوم الخميس بشأن الذكاء الاصطناعي وصيانة السلام والأمن الدوليين، قال غوتيريش إن "الذكاء الاصطناعي بدون إشراف بشري من شأنه أن يترك العالم أعمى".
وشدد على أنه لا ينبغي أبدا ترك مصير البشرية في يد "الصندوق الأسود" للخوارزميات، مضيفا أنه "يجب على البشر أن يحتفظوا دائما بالسيطرة على وظائف صنع القرار، مسترشدين بالقانون الدولي، بما في ذلك القانون الدولي الإنساني والقانون الدولي لحقوق الإنسان، والمبادئ الأخلاقية".
وقال إن يد البشرية هي من صنع الذكاء الاصطناعي، "وهي التي ينبغي لها أن توجهه نحو الأمام".
مخاوف أساسية
وأوضح أمين عام الأمم المتحدة أن أدوات الذكاء الاصطناعي تحدث بالفعل فرقا إيجابيا في البلدان التي تعاني من الصراع وانعدام الأمن، بما في ذلك تحديد انعدام الأمن الغذائي والتنبؤ بالنزوح الناجم عن أحداث الطقس المتطرفة وتغير المناخ.
لكنه حذر من أن الذكاء الاصطناعي دخل أيضا ساحة المعركة بطرق أكثر إثارة للقلق، مشيرا إلى أن الصراعات الأخيرة أصبحت أرضا اختبارية لتطبيقات الذكاء الاصطناعي العسكرية. وقال غوتيريش: "إن توسع الذكاء الاصطناعي في أنظمة الأمن يثير مخاوف أساسية بشأن حقوق الإنسان والكرامة وسيادة القانون".
وحذر من أن سباق التسلح بالذكاء الاصطناعي يخلق أرضا خصبة لسوء الفهم والتقدير والأخطاء. وأضاف أن دمج الذكاء الاصطناعي مع الأسلحة النووية "أمر مثير للقلق بشكل خاص مع عواقب كارثية محتملة".
ولفت كذلك إلى أن أنظمة الذكاء الاصطناعي الكمي قادرة على اختراق أقوى الدفاعات وإعادة كتابة قواعد الأمن الرقمي بين عشية وضحاها.
عمليات التزييف العميق
وشدد الأمين العام كذلك على أنه يجب معالجة المخاطر الأخرى التي تهدد السلام والأمن والتي يفرضها الذكاء الاصطناعي.
وقال: "يخلق الذكاء الاصطناعي محتوى واقعيا للغاية يمكن أن ينتشر على الفور عبر المنصات عبر الإنترنت، مما يؤدي إلى التلاعب بالرأي العام، وتهديد سلامة المعلومات، وجعل الحقيقة غير قابلة للتمييز عن الأكاذيب الصريحة. قد تؤدي عمليات التزييف العميق إلى إحداث أزمات دبلوماسية، وإثارة الاضطرابات، وتقويض أسس المجتمعات".
وأشار إلى أن الاستهلاك الهائل للطاقة والمياه في مراكز بيانات الذكاء الاصطناعي، إلى جانب الاندفاع نحو المعادن الحيوية، يخلق منافسة خطيرة على الموارد والتوترات الجيوسياسية.
توحيد الجهود
وأشار أمين عام الأمم المتحدة إلى عمل الهيئة الاستشارية رفيعة المستوى المعنية بالذكاء الاصطناعي التي وضعت مخططا لمعالجة المخاطر العميقة والفرص التي يقدمها الذكاء الاصطناعي للبشرية.
وتحدث أيضا عن الميثاق الرقمي العالمي الذي تم تبنيه في قـمة المستقبل ويمثل أول إطار معتمد عالميا بشأن حوكمة الذكاء الاصطناعي.
وأضاف أن الميثاق يلتزم بإنشاء لجنة علمية دولية مستقلة بشأن الذكاء الاصطناعي وبدء حوار عالمي بشأن حوكمة الذكاء الاصطناعي داخل الأمم المتحدة، مما يمنح كل دولة مقعدا على الطاولة.
وقال غوتيريش: "لا ينبغي لنا أبدا أن نسمح للذكاء الاصطناعي بأن يكون تجسيدا لتعزيز عدم المساواة". وأكد أنه لا يجوز لأي دولة تصميم أو تطوير أو نشر أو استخدام التطبيقات العسكرية للذكاء الاصطناعي في النزاعات المسلحة التي تنتهك القانون الدولي والقانون الدولي الإنساني وحقوق الإنسان، مضيفا أن هذا يتضمن الاعتماد على الذكاء الاصطناعي لاختيار الأهداف أو التعامل معها بشكل مستقل.
ودعا أمين عام الأمم المتحدة إلى "توحيد الجهود لبناء مستقبل آمن وشامل للذكاء الاصطناعي".