Le sort de l'humanité ne doit pas être laissé aux algorithmes, affirme le chef de l'ONU au Conseil de sécurité

S'adressant aux ministres et aux ambassadeurs lors d’une réunion organisée par les Etats-Unis, qui préside le Conseil pour le mois de décembre, António Guterres a averti que les développements rapides de l'IA dépassent la capacité de l'humanité à la gouverner, soulevant d'importantes questions sur la responsabilité, l'égalité, la sécurité et le contrôle humain dans la prise de décision.

« Chaque moment de retard dans l'établissement de garde-fous internationaux augmente le risque pour nous tous », a déclaré M. Guterres.

Mis en garde contre les applications militaires de l'IA

« Aucun pays ne devrait concevoir, développer, déployer ou utiliser des applications militaires de l'IA dans les conflits armés qui violent le droit international humanitaire et les droits de l'homme. Cela inclut le fait de s'appuyer sur l'IA pour sélectionner ou engager des cibles de manière autonome », a précisé le chef de l’ONU.

Les conflits récents sont devenus des terrains d'essai pour les applications militaires de l'IA

Il a également fait valoir que la concurrence géopolitique autour des technologies émergentes ne doit pas déstabiliser la paix et la sécurité internationales.

Selon M. Guterres, la nature à double tranchant de l'IA, qui revêt d’une part le potentiel de prédire les déplacements causés par le changement climatique ou détecter les mines terrestres, alors que son intégration dans les systèmes militaires et son utilisation abusive dans le domaine de la sécurité numérique présentent des risques importants.

« Les conflits récents sont devenus des terrains d'essai pour les applications militaires de l'IA », a-t-il déclaré, citant l'utilisation de l'IA dans la surveillance autonome, le maintien de l'ordre par prédiction et même dans des décisions de vie ou de mort.

L'intégration potentielle de l'IA dans les armes nucléaires et l'avènement de systèmes d'IA quantique susceptibles de déstabiliser la sécurité mondiale sont particulièrement alarmants, a-t-il souligné.

Le sort de l'humanité ne doit jamais être laissé à la « ‘boîte noire’ d'un algorithme », a-t-il déclaré, soulignant l'importance du contrôle humain sur les décisions impliquant le recours à la force.

Érosion de la confiance

Le rôle de l'IA dans le domaine de l'information est un autre sujet de préoccupation, a signalé le Secrétaire général, relevant que les « deepfakes » et la désinformation générée par l'IA peuvent manipuler l'opinion publique, déclencher des crises et éroder la confiance dans les sociétés.

Il a également attiré l'attention sur les risques environnementaux de l'IA, en pointant di doigt la nature intensive en ressources des centres de données et la concurrence géopolitique pour les minéraux critiques nécessaires à sa technologie.

« Des défis mondiaux sans précédent appellent à une coopération mondiale sans précédent », a-t-il déclaré, appelant à des efforts de collaboration pour s'assurer que l'IA profite à tous et n'exacerbe pas les inégalités.

Pour un cadre mondial

M. Guterres a rappelé les récentes étapes franchies vers la mise en place d'une gouvernance mondiale de l'IA, a savoir l'adoption du Pacte mondial des Nations Unies pour le numérique lors du Sommet de l’avenir, et les deux résolutions clés de l'Assemblée générale sur l'amélioration de la coopération mondiale et le renforcement des capacités.

Une troisième résolution, portant sur l'IA dans le domaine militaire, devrait être examinée par l'Assemblée générale dans les prochains jours.

« Les membres de ce Conseil doivent montrer l'exemple et veiller à ce que la compétition autour des technologies émergentes ne déstabilise pas la paix et la sécurité internationales » a estimé le chef de l’ONU.

« Je vous invite tous à unir vos forces pour bâtir l’avenir de l’Intelligence Artificielle – un avenir sûr, sécurisé et inclusif », a conclu M. Guterres.