• Professionnel

Pour un usage éclairé de l’intelligence artificielle en éducation

• 

• L’intelligence artificielle (I.A) va changer la manière conventionnelle de voir le monde et d'enseigner. 

• Carte Blanche à Laurence Devillers

  Laurence Devillers, professeure en I.A à Sorbonne Université/CNRS-LISN, spécialiste des interactions humain-machine et de l’affective computing, membre du comité pilote d’éthique du numérique (CNPEN) et de l’AFNOR, et présidente de la Fondation Blaise Pascal de médiation culturelle en mathématiques et informatique.

• Intelligence artificielle, chatbot… de quoi parle-t-on ?

  L’intelligence artificielle (I.A) est un ensemble de théories, d'algorithmes et de logiciels, qui a pour objectif de simuler les capacités cognitives de l’être humain : perception, aide à la décision et génération de contenu. On peut ainsi dire que l’I.A est surtout de l’imitation artificielle : la machine ne perçoit pas le sens de ce qu’elle est en train de générer, c’est en réalité l’humain qui projette une intelligence humaine sur la machine. Il faut en effet bien comprendre que l’apprentissage des machines n’a rien à voir avec la façon dont les êtres humains apprennent.

  Récemment, un nouvel outil a fait trembler le monde du digital : ChatGPT, un agent conversationnel (chatbot) qui utilise l’intelligence artificielle spécialisée dans le dialogue. Basé sur un modèle de langage appelé Generative Pre-trained Transformer (GPT), il a la capacité de générer du texte à la demande suite à des demandes appelées « prompts ». Ce modèle est multilingue, avec cependant beaucoup plus d’anglais que de français, même dans sa version française. Il génère ainsi des phrases sans aucune compréhension ou contrôle de la véracité de ses propos : nous interprétons alors que ChatGPT répond à notre question… mais il faut rappeler que c’est une projection !

  Dans le cadre scolaire, la technologie de l'I.A peut automatiser différentes activités : les logiciels éducatifs, la notation, l'assistance pendant les cours, le coaching pour faire les devoirs à la maison... Les chatbots comme ChatGPT d’OpenAI/Microsoft, Bing de Microsoft, Bard de Google ou encore Ernie (lancé par le chinois Baidu Llama) par Meta peuvent être adaptés pour des applications de bots assistants permettant un suivi personnalisé pour les élèves. Par ailleurs, les personnes en situation de handicap ou qui ont des difficultés d’apprentissage pourraient vivre une meilleure expérience d’enseignement grâce à ces systèmes.

  
  Intelligence artificielle : enjeux et problèmes éthiques

  L’un d’entre eux est la collecte massive de données personnelles. En effet, pour mettre en place un apprentissage personnalisé, l’I.A doit collecter des informations sur l’utilisateur pour pouvoir s’adapter le plus efficacement possible. Or les utilisateurs qui sont, dans le cas du secteur de l’éducation, des enfants, ne savent pas quelles sont les données récoltées sur eux ni à quoi elles servent. Cela rentre en conflit avec le nécessaire respect de la vie privée.
  Ces outils peuvent contribuer à l’inclusion de tous les élèves mais on peut se demander s’ils sont vraiment conçus pour leur apprendre à raisonner. Il est en effet nécessaire de limiter la dépendance aux machines : les risque de manipulation (à des fins commerciales ou attentionnelles) par l’I.A ou les chatbots sont réels.

  L’utilisation de l’intelligence artificielle pose une multitude de questions éthiques :

  • Les modèles peuvent produire des résultats biaisés si les données d’apprentissage utilisées par l’algorithme qui apprend à classifier ou prédire sont partielles ou inexactes, produisant ainsi des infox (fausses informations). Les données collectées peuvent également être discriminatoires en termes de genre. Ces biais peuvent aller jusqu'à produire, et donc contribuer à véhiculer des stéréotypes grossiers : des images de chirurgiens forcément masculins et blancs, des secrétaires féminines jeunes et jolies, etc.
  • La nature de la relation humain-machine peut impacter nos émotions et nos croyances dans des effets croisés virtuels/réels et il faut rappeler que la vulnérabilité physique et mentale des enfants est importante. Le perfectionnement de ces technologies tend ainsi à brouiller la frontière perçue entre les machines et les êtres humains.

  C’est pourquoi la technologie ne doit pas remplacer la pédagogie actuelle mais être conçue pour accompagner. Il est absolument nécessaire que l’utilisation de tous ces outils et technologies par des élèves soit contrôlée par des lois et encadrée par des normes. 

  
  Intelligence artificielle et éducation : une collaboration fructueuse ?

  Si l’I.A et les technologies intelligentes se démocratisent à grands pas, il est tout de même important de rester réaliste. Il est peu probable que dans un futur proche, l’École que nous connaissons aujourd’hui disparaisse complètement et il n’est d’ailleurs pas souhaitable que ce soit le cas. Les enseignants seront accompagnés dans l’utilisation de ces nouvelles technologies pour mieux construire leurs cours, pour les tâches administratives, mais aussi pour libérer du temps afin d’être plus à l’écoute des élèves. En effet, la machine, à la différence de l’enseignant, n’est pas capable d’apporter à l’enfant l’empathie, l’accompagnement émotionnel et la compréhension fine dont il a besoin pour comprendre son environnement. L’enfant a besoin de relations humaines et d’échanges avec les autres pour permettre son développement personnel.

  En profitant de ces outils, le niveau d'éducation de ces élèves peut être amélioré. Il est nécessaire que tous puissent profiter des mêmes avancées technologiques en faisant attention à ne pas renforcer les inégalités sociales. Les parents peuvent être moteurs pour éveiller la curiosité de leurs enfants, filles et garçons, envers les métiers scientifiques. Faire plus de sciences est une des clés de la compréhension de la société de demain.