La nécessité d’une règlementation de l’IA est « irréfutable », assurent des experts de l’ONU
« La nature même de la technologie– transfrontalière dans sa structure et son application – nécessite une approche mondiale », conclut le rapport final du groupe d'experts nommé par le Secrétaire général des Nations Unies.
L'intelligence artificielle est en train de transformer notre monde dans une multitude de domaines, qu'il s'agisse d'ouvrir de nouveaux champs de recherche scientifique, d'optimiser les réseaux énergétiques, d'améliorer la santé publique et l'agriculture ou de promouvoir les avancées vers les 17 objectifs de développement durable (ODD).
Cependant, bien que l’IA présente un énorme potentiel bénéfique, ses avantages, si on n’y prend garde, pourraient être accaparés par une poignée d'États, d'entreprises et d'individus pionniers, au risque d’aggraver la fracture et les inégalités numériques.
Afin d'atténuer ces risques, le rapport propose plusieurs recommandations visant à établir un cadre de gouvernance mondiale de l'IA.
Des risques pour les droits humains
Le rapport exprime également sa grande inquiétude sur la manière dont l'IA peut être utilisée pour attenter aux droits de l'homme.
Les matières premières nécessaires aux technologies d'IA, y compris les minéraux critiques, proviennent du monde entier, ce qui entraîne une bataille à l'échelle mondiale pour le pouvoir et la richesse que procurent ces produits rares.
De plus, les systèmes d'armes autonomes pourraient prendre des décisions sans intervention humaine, ce qui soulève des questions éthiques et juridiques quant à la responsabilité et la protection des civils pendant les conflits. Enfin, les progrès de l’IA pourraient stimuler une course aux armements dangereuse pour la sécurité des êtres humains.
Les systèmes de surveillance recourant à l'IA, comme les biais qui faussent ses résultats, suscitent aussi les préoccupations, autant que son rôle possible dans la création et la diffusion de désinformation néfaste à la société civile.
Des disparités mondiales apparaissent déjà
Des disparités planétaires commencent déjà à apparaître. En termes de représentation, des régions entières du monde ont été laissées à l'écart des conversations internationales sur la gouvernance de l'IA.
Seuls sept pays (Canada, France, Allemagne, Italie, Japon, Royaume-Uni et États-Unis) sont parties à sept initiatives importantes en matière d'IA non gouvernementales, alors que 118 autres, principalement parmi les pays du Sud, ne participent à aucune d’entre elles.
« L'équité exige qu'un plus grand nombre de voix jouent un rôle significatif dans les décisions touchant à la bonne gouvernance des technologies qui nous affectent », note le rapport.
« La concentration de la prise de décision dans le secteur de la technologie de l'IA est injustifiable. Nous devons également reconnaître qu'historiquement, de nombreuses communautés ont été entièrement exclues des débats sur la gouvernance de l'IA qui les concernent », ajoute-t-il.
Une architecture inclusive à l'échelle planétaire
Conscient de ces préoccupations, le groupe d'experts de l'ONU propose plusieurs recommandations pour réglementer l'utilisation de l'IA.
Ces dernières incluent la création d'un groupe scientifique international indépendant sur l'IA, l’institution d’un dialogue politique intergouvernemental et multipartite semestriel sur la gouvernance de l'IA permettant de partager les meilleures pratiques, et la création d'un fonds mondial pour l'IA destiné à réduire la fracture numérique.
Le groupe a également souligné que tout déploiement d'IA dans des contextes militaires doit être conforme au droit international humanitaire et aux normes relatives aux droits humains, et a recommandé aux États de mettre en place des cadres juridiques et des mécanismes de surveillance solides.
Dans leur ensemble, ces recommandations appellent les États membres de l'ONU à jeter les bases de la première architecture mondiale inclusive d’une gouvernance de l'IA, fondée sur la coopération internationale et la transparence.