L’intelligence artificielle plus risquée que bénéfique sans garde-fous, selon Guterres
Le Secrétaire général de l'ONU a souligné qu’une régulation mondiale des technologies émergentes d'intelligence artificielle (IA) devrait être basée sur les principes fondamentaux de la Charte des Nations Unies et garantir le plein respect des droits humains, ce jeudi, lors d’un Sommet dédié à la sécurité de l'intelligence artificielle organisé par le Royaume-Uni.
S’exprimant depuis Bletchley Park – où des ingénieurs alliés ont contribué à l'effort de guerre pour déchiffrer les codes secrets des nazis - le chef de l'ONU, António Guterres, a insisté sur la nécessité d'une « conversation soutenue et structurée » autour des risques, des défis et des opportunités de cette nouvelle technologie au développement fulgurant.
« L’IA se développe à une vitesse et une ampleur sans précédent. Le paradoxe est qu’elle n’évoluera jamais aussi lentement qu’aujourd’hui », a-t-il formulé, laissant entendre que la technologie se développe à une vitesse exponentielle.
Des menaces sur l'emploi et la paix
Le Secrétaire général a identifié plusieurs menaces sur lesquelles agir, comme la diffusion de puissants modèles d’IA sans garde-fous, les potentielles conséquences négatives de l’IA sur l’emploi, l’érosion de la diversité culturelle due à des algorithmes biaisés, ou encore les tensions géopolitiques résultant de la concentration des sociétés d’IA dans seulement une poignée de pays.
M. Guterres a aussi remarqué qu’à l'heure actuelle, la grande majorité des puces d'IA étaient produites dans l'un des endroits les plus sensibles géopolitiquement parlant.
En outre, en l’absence d’action immédiate, l’IA exacerberait les inégalités déjà croissantes entre pays : par exemple, aucun pays africain ne figure dans le top 50 mondial dans ce domaine.
Les dommages à plus long terme s’étendent au développement potentiel de nouvelles armes dangereuses basées sur l’IA, à la combinaison malveillante de l’IA avec les biotechnologies, ainsi qu’aux menaces que font peser la désinformation, la manipulation de données et la surveillance assistées par l’IA sur la démocratie et les droits humains.
Un cadre strict à l'échelle mondiale est nécessaire
Le chef de l’ONU a appelé à un cadre strict pour surveiller et analyser ces tendances, afin de les prévenir. « Les Nations Unies – une plate-forme inclusive, équitable et universelle de coordination sur la gouvernance de l’IA – sont désormais pleinement engagées dans cette conversation », a-t-il déclaré.
Une régulation à l’échelle mondiale est nécessaire pour éviter les incohérences et les lacunes, a insisté le chef de l'ONU. Pour progresser dans ce domaine, l’Organisation vient de mettre sur pied un Conseil consultatif sur l'IA, composé d'experts gouvernementaux, du secteur privé, de la communauté technologique, de la société civile et du monde universitaire.
Ce nouvel organe fournira des recommandations préliminaires d'ici la fin de l'année sur la création d'un consensus scientifique autour de l’IA. Elles alimenteront le Pacte numérique mondial, qui sera proposé pour adoption lors du Sommet de l'avenir en septembre prochain.