L'UNESCO appelle les gouvernements à réglementer l’usage de l'intelligence artificielle à l’école
Alors que dans une partie du monde les élèves reprennent le chemin de l'école après les vacances d'été, l’UNESCO appelle les gouvernements à mettre en œuvre des réglementations appropriées et à former les enseignants pour garantir une approche centrée sur l’humain lors de l’utilisation de l’intelligence artificielle (IA) générative dans l’éducation.
Dans cet objectif, l’Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO) a publié le tout premier Guide mondial pour l’IA générative dans l'éducation et la recherche, conçu pour faire face aux perturbations causées par ces technologies.
« L'IA générative peut être une formidable opportunité pour le développement humain, mais elle peut aussi être la source de dommages et de préjudices. Elle ne peut être intégrée dans l'éducation sans l'engagement du public et sans de solides garanties et réglementations gouvernementales », a déclaré la Directrice générale de l’UNESCO, Audrey Azoulay.
« Ce Guide de l'UNESCO aidera les décideurs politiques et les enseignants à exploiter de façon optimale le potentiel de l'IA dans l'intérêt supérieur de l’élève », a-t-elle précisé.
La première partie de ce Guide de l’UNESCO explique ce qu'est l'IA générative et comment elle fonctionne. Les sections suivantes abordent les controverses relatives à l'IA générative et leurs implications pour l'éducation, en particulier la façon dont elle aggrave les fractures numériques.
A l’instar des modèles actuels de ChatGPT, qui sont formés à partir de données provenant d’utilisateurs en ligne, qui reflètent les valeurs et les normes sociales dominantes des pays du Nord.
Une limite d’âge de 13 ans
Le guide présente ensuite sept étapes clés que les gouvernements doivent suivre pour réglementer l'IA générative et établir des cadres politiques pour son utilisation éthique dans l'éducation et la recherche.
Il recommande par exemple l'adoption de normes mondiales, régionales ou nationales en matière de protection des données et de vie privée. Il fixe également une limite d'âge de 13 ans pour l'utilisation des outils d'IA dans les salles de classe, et appelle à former les enseignants spécifiquement sur ce sujet.
Fondé sur la Recommandation de l'UNESCO de 2021 sur l'éthique de l'intelligence artificielle et le Consensus de Beijing de 2019 sur l'intelligence artificielle dans l'éducation, ce guide encourage l’intervention humaine, l'inclusion, l'équité, l'égalité des genres et la diversité culturelle et linguistique.
Manque de gouvernance
Le public a découvert l'IA générative en novembre 2022 à la suite du lancement de ChatGPT, qui est devenue l'application à la croissance la plus rapide de l'histoire. Capable de générer des textes, des images, des vidéos, de la musique et des codes de logiciels, les outils d'IA générative ont des conséquences considérables sur l'éducation et la recherche.
Pourtant, le secteur de l'éducation reste insuffisamment préparé à l'intégration éthique et pédagogique de ces outils à évolution rapide. Selon une récente enquête mondiale de l'UNESCO, menée auprès de plus de 450 écoles et universités, moins de 10 % d'entre elles disposent de politiques institutionnelles et/ou d'orientations formelles concernant l'utilisation des applications génératives de l'IA, en grande partie en raison de l'absence de réglementations nationales.
En juin 2023, l’UNESCO a alerté sur le fait que l’IA est déployée à l’école à un rythme trop rapide, avec un manque préoccupant de contrôle, de surveillance ou de réglementation des pouvoirs publics. L’Organisation a publié un document révélant que la publication d’un nouveau manuel scolaire nécessite plus d’autorisations que l’utilisation d'outils d’IA générative en classe.
Semaine de l’apprentissage numérique
Le lancement du guide a lieu au siège de l’UNESCO à l’occasion de la Semaine de l’apprentissage numérique de l’UNESCO, qui rassemble plus de 1.000 participants pour discuter notamment des plateformes publiques d’apprentissage numérique et de l’IA générative dans l’éducation.