Former à l’éthique de l’intelligence artificielle: un référentiel de compétence

Nous pensons qu’il est essentiel d’enseigner à nos étudiants et étudiantes les implications sociétales de l’intelligence artificielle (IA) dans toutes ses applications. Nous avons créé un référentiel de compétence en éthique de l’IA pour répondre à la demande croissante de nombreux acteurs de l’enseignement supérieur qui souhaitent proposer différents types de formations en éthique de l’IA.

Le besoin d’enseigner l’éthique de l’IA

Nous sommes tous les 2 professeurs de philosophie au Collège André-Laurendeau. Nous avons un intérêt de longue date pour les sujets liés à la philosophie de la technologie, notamment l’éthique de l’IA. (Frédérick a même écrit sa thèse sur l’éthique de la technologie).

Nous avions d’ailleurs commencé depuis quelques années à intégrer des éléments relatifs à ces défis dans nos cours de philosophie (dans le cours d’éthique et dans le cours sur l’être humain). Il est simple de discuter du numérique avec les étudiants et les étudiantes. Il n’est pas nécessaire de leur faire comprendre l’importance du sujet, car ils sont en permanence en contact avec le numérique !

Nous avons remarqué qu’il y avait un intérêt marqué pour l’éthique de l’IA en enseignement supérieur actuellement (de la part des chercheurs, des professeurs, mais aussi des établissements d’enseignement). Cependant, nous avons constaté qu’il n’y avait pas de consensus sur ce qui devrait être au cœur de la formation à l’éthique de l’IA.

Il n’y a pas de littérature qui traite expressément de l’enseignement de l’éthique de l’IA pouvant contribuer à la préparation de nos cours. Il existe plusieurs documents et prises de position sur l’éthique de l’IA, mais relativement peu sur l’enseignement de l’éthique de l’IA. De plus, la plupart des formations en éthique de l’IA en sont encore à leurs débuts.

Notre référentiel de compétence pour l’enseignement de l’éthique de l’IA

Nous avons cherché à définir la compétence en éthique de l’IA que les étudiants et étudiantes devraient acquérir. Pour ce faire, nous avons travaillé en collaboration avec André Mondoux, sociologue et professeur à l’École des médias de l’UQAM. Nous avons créé un référentiel de compétence. Notre projet a été soutenu par le Pôle montréalais d’enseignement supérieur en intelligence artificielle (PIA).

Notre référentiel est conçu pour aider ceux et celles qui envisagent de développer un programme de formation sur l’éthique de l’IA et sur la manière de l’organiser. Il ne s’agit pas d’un outil pédagogique au sens traditionnel du terme (mais des outils pédagogiques peuvent être construits à partir du référentiel !)

Notre référentiel est conçu pour aider les personnes qui souhaitent créer de nouveaux cours. Il peut s’agir de directions d’établissement qui souhaitent proposer un nouveau cours ou d’enseignants qui souhaitent axer une session sur le sujet dans le cadre d’un cours existant, par exemple.

Nous avons construit notre référentiel en tenant compte de différents contextes d’enseignement collégial ou universitaire:

• des cours qui portent entièrement sur le sujet
• des cours qui intègrent un seul module ou une seule séance sur le sujet
• des activités extracurriculaires en lien avec le sujet

Nous avons aussi tenu compte de la diversité des profils des étudiants: certains se spécialisent en informatique, d’autres en sciences sociales, en communication ou encore en santé, par exemple.

Contenu du référentiel

Notre référentiel est basé sur une interprétation de la compétence éthique inspirée de l’approche philosophique du pragmatisme américain.

Le référentiel identifie 3 composantes essentielles à la compétence éthique:

1. la sensibilité éthique (la capacité de la personne de reconnaître qu’elle est dans une situation éthique)
2. les capacités réflexives (le savoir-agir en situation éthique)
3. les capacités dialogiques (l’interaction en situation éthique)

Le référentiel identifie aussi 4 champs de compétence en éthique de l’IA.

Les 4 champs de la compétence en éthique de l’IA

Former à l’éthique de l’IA en enseignement supérieur: Référentiel de compétence

Le développement du référentiel

Pour bâtir le référentiel, nous avons consulté une trentaine de spécialistes. Nous avons interviewé des gens de tous les horizons:

• spécialistes en éthique
• personnes issues des sciences sociales
• juristes
• experts de l’IA dans l’industrie
• spécialistes en éducation

Nous avons constaté qu’il existe aujourd’hui 2 formes principales de formation à l’éthique de l’IA, toutes 2 situées aux extrémités opposées d’un continuum.:

• De nombreux cours sont présentés comme des cours d’éthique (notamment dans les écoles d’ingénieurs et d’informatique), mais il existe une certaine confusion entre l’éthique et la déontologie. On forme les étudiants et étudiantes à des règles auxquelles ils doivent obéir. C’est un aspect important de l’éthique, mais au final réducteur.
• Certaines formations (notamment en philosophie) réduisent la pratique du jugement éthique des étudiants et étudiantes à une application des théories éthiques classiques à des questions spécifiques. Là encore, il y a quelque chose de mécanique qui n’est pas totalement satisfaisant et qui est fréquemment décontextualisé.

L’approche pragmatiste que nous avons adoptée nous permet de combiner ces 2 approches tout en évitant leurs écueils. Ainsi, dans le référentiel, il y a un champ de compétence lié aux dilemmes moraux associés à l’IA. Cependant, il en existe un autre qui est lié aux cadres normatifs et un autre associé au contexte sociotechnique, et ces champs imposent des responsabilités spécifiques.

Comment le référentiel peut-il être utile à un enseignant ou une enseignante?

Lorsqu’un enseignant ou une enseignante adopte une perspective pragmatiste de l’éthique comme celle qui est proposée dans le référentiel, cette approche l’oriente vers de nombreuses activités et stratégies pédagogiques qui permettent aux élèves d’acquérir les nombreuses composantes de la compétence éthique.

Au Cégep André-Laurendeau, nous avons offert pour la 1re fois à l’hiver un cours complémentaire sur l’éthique de l’IA. Nous avons pu développer le cours en utilisant notre propre référentiel! En réalité, notre référentiel a servi de canevas pour délimiter les sections du cours. Les activités pédagogiques ont été développées en fonction des différentes composantes de la compétence éthique telles que décrites dans le référentiel. Par conséquent, alors que nous cherchions des activités pédagogiques pour le cours, nous avons souvent consulté le référentiel pour nous assurer que nous ne négligions aucune composante ou champ de compétence.

Par conséquent, pour un enseignant ou une enseignante, le référentiel sert à clarifier les options et à fournir une direction dans la préparation des activités pédagogiques.

Suites du projet

Après la publication de notre référentiel, nous avons obtenu une 2^e subvention du PIA, cette fois pour créer une trousse pédagogique pour l’enseignement de l’éthique de l’IA. Nous voulons créer des activités pédagogiques qui abordent chacune des dimensions de la compétence en éthique de l’IA. Les enseignants et enseignantes qui choisiront d’utiliser ces exercices pourront le faire en ayant des options clé en main. Nous vous tiendrons au courant !