Les enjeux éthiques de l’intelligence artificielle

Les enjeux éthiques de l’intelligence artificielle impliquent, en matière d’éducation, de sensibiliser, d'acculturer et de former les élèves et les enseignants à un usage raisonné des outils d’apprentissage automatique. Il s’agit notamment de faire découvrir aux élèves les biais algorithmiques et les discriminations liées aux jeux de données perpétuant certains stéréotypes.

Mis à jour : juin 2022

Contexte

Au vu des questions éthiques soulevées par la généralisation de l’utilisation de l’IA, l’UNESCO a proposé un cadre pour garantir que tous soient préparés à un usage raisonné de ces technologies émergentes. Le 24 novembre 2021, les 193 États membres de l’UNESO ont adopté une recommandation de 28 pages sur l’éthique de l’intelligence artificielle lors de sa 41e conférence générale. Cette recommandation prête une attention particulière aux implications éthiques des systèmes d’IA notamment dans l’éducation :

Points 114- Les États membres devraient investir dans les compétences numériques et l’éducation aux médias et à l’information et les promouvoir, afin de renforcer la pensée critique et les compétences indispensables pour comprendre l’utilisation et les implications des systèmes d’IA, en vue d’atténuer et de combattre la désinformation, la mésinformation et le discours de haine. Une meilleure compréhension et une meilleure évaluation des effets positifs et éventuellement indésirables des systèmes de recommandation devraient faire partie de ces efforts.

Ces recommandations sont déjà prises en compte dans la Stratégie nationale pour l’intelligence artificielle (SNIA) de 2018-2022.

Exploitation en éducation aux médias et à l'information (EMI)

Dans notre société en cours de numérisation, les algorithmes et l’intelligence artificielle sont partout : recommander un produit à des clients, suggérer une liste de musiques en fonction des goûts de l’utilisateur, piloter de façon autonome des automobiles, élaborer automatiquement un diagnostic médical ou encore personnaliser un fil d'activité sur les réseaux sociaux.

Ces usages couvrent de nombreux domaines comme l'utilisation des données personnelles, la prise de décision (biais algorithmique), la communication de l’information ou l’écologie.

L’académie de Besançon a développé une séquence pour éveiller le regard critique des élèves sur les enjeux démocratiques liés à la production d'information en ligne grâce à la création d’une image-affiche.

Dans le cadre des travaux académiques mutualisés (TraAM) EMI, l’académie de Nice a développé un parcours de médiation scientifique en partenariat avec Terra Numerica dans le cadre de l’institut d’intelligence artificielle installé à Sophia Antipolis. L’objectif est de permettre à un public adolescent de comprendre le fonctionnement des bulles informationnelles et des algorithmes de recommandation.

Ressources du CLEMI

Le centre pour l'éducation aux médias et à l'information (CLEMI) propose un ensemble de ressources, jeux, vidéos explicatives, activités pédagogiques sur la compréhension du monde du numérique et la prévention des dangers liés à son utilisation.

Ainsi, le jeu « je suis un algorithme » place l’élève de cycle 3 dans le rôle d’un algorithme. Il le sensibilise sur le lien entre l’algorithme et la diffusion de messages publicitaires dans les sites internet que nous visitons selon nos profils d'utilisateurs et comment il peut véhiculer des stéréotypes. À partir du cycle 4, une autre déclinaison est proposée mettant l’accent sur les stéréotypes véhiculés par ces algorithmes avec le jeu « dis-moi sur quoi tu cliques, je te dirai qui tu es ! ».

Pour faire comprendre le fonctionnement de l’intelligence artificielle (IA), il propose deux activités pédagogiques :

  • L’une est un jeu en ligne pour tout niveau et tout âge. Les notions d’apprentissage machine, de données bien étiquetées et de biais sont explicitées. Les notions de base de l’IA sont exposées et mises en œuvre grâce à de petites activités.
  • L’autre est une fiche permettant d’animer un débat autour de l’intelligence artificielle, et plus précisément autour des enjeux éthiques liés à cette technologie.

Exploitation en technologie au collège

Cette initiation EMI peut se faire en lien avec la pratique dans l’enseignement de technologie. L’initiation au machine learning (apprentissage automatique) est une première approche pour sensibiliser les élèves à la gestion des données ainsi qu’à leur utilisation. À partir d’une situation déclenchante, le tri sélectif des déchets, l’académie de Créteil et d’Aix-Marseille proposent des ressources sur l’utilisation du machine learning.

Le premier propose un exemple d’introduction de l’utilisation de l’intelligence artificielle (machine learning) dans un projet en technologie en mobilisant une fonctionnalité d’apprentissage automatique du logiciel Mblock. L’utilisation de l’apprentissage machine est ici illustrée à l’aide d’un exemple concret sans aborder les détails des outils mathématiques assurant son fonctionnement.

La deuxième est une démarche d’écoconception pour élaborer un prototype d’objet communicant. Le projet est conçu à partir d’un outil de machine learning, ici machinelearningforkids.

La thématique des TraAM pour 2021-2022 porte sur l’utilisation de l’IA au service des enjeux sociétaux, vous pourrez retrouver les productions en fin d’année scolaire sur la page éduscol associée.

Plusieurs outils peuvent être utilisés pour exploiter un modèle de machine learning en classe. Adacraft est un outil basé sur Scratch, les blocs de l’extension Ada Vision permettent d’utiliser le modèle d’apprentissage dans son projet. Ce tutoriel permet de prendre en main l’outil.

Pour aller plus loin

CultureSciences-Physique

Le site CultureSciences-Physique a conçu un dossier en trois articles qui explique :

  1. le fonctionnement de l’IA ;
  2. comment elle peut être utilisée dans l’industrie ;
  3. les évolutions attendues de cet outil.

Consulter également l'article d'introduction à l’apprentissage profond (deep learning) de l'intelligence artificielle.

Lettre ÉduNum thématique

La lettre ÉduNum thématique n°14 développe en 3 volumes la notion d’intelligence artificielle en lien avec le numérique éducatif à travers les disciplines et enseignements, en croisant les regards théoriques, didactiques et pédagogiques. Elle s’adresse à tous les enseignants.

Le premier volume fournit des définitions, des éléments historiques et une approche philosophique. Le suivant offre des pistes et des exemples d’exploitations pédagogiques. Enfin le troisième volet s’intéresse aux pratiques pédagogiques ainsi qu’aux ressources de formation pour les enseignants dans ce domaine. Il inclut une bibliographie des références mobilisées (signalées dans le corps du texte entre crochets) consultables en ligne.

  1. Consulter la lettre ÉduNum thématique n°14, vol.1
  2. Consulter la lettre ÉduNum thématique n°14, vol.2
  3. Consulter la lettre ÉduNum thématique n°14, vol.3

Édubase

Consulter les scénarios pédagogiques autour de l'intelligence artificielle proposés sur l'édubase.