1. Des usages pour nos métiers à l’ère de l’intelligence artificielle
Un cadre d’usage et des principes fondamentaux
Face à l’émergence rapide des outils d’intelligence artificielle, en particulier les intelligences artificielles génératives, et à leurs déploiements accélérés auprès du grand public, l’École doit garantir des usages réfléchis, éthiques et responsables de ces technologies.
De nombreux besoins sont identifiés. Ils concernent, notamment, la sécurisation des pratiques des personnels et des élèves, leur accompagnement, l’information et la formation de la communauté éducative ou encore la nécessité d’assurer une cohérence des actions au sein de la région académique d’Île-de-France.
Les défis sont notamment de :
- développer la connaissance des principes de fonctionnement des intelligences artificielles ;
- communiquer un cadre éthique et réglementaire des usages et s’assurer de leur respect ;
- construire une vision partagée entre tous les acteurs éducatifs ;
- s’assurer de l’acquisition de nouveaux gestes professionnels communs.
Une approche éthique et respectueuse des valeurs de l’École
Le ministère de l’Éducation nationale français défend une approche de l’intelligence artificielle éthique, accessible, inclusive et respectueuse des valeurs de la République pour l’École. Ainsi promouvoir la maitrise des usages des intelligences artificielles, c’est également intégrer dans les programmes et les enseignements existants des principes fondamentaux sur leurs impacts sociaux, leurs conséquences écologiques et leurs enjeux éthiques.
Les principes d’inclusion et d’équité doivent être au cœur des préoccupations lors de la diffusion de ces nouveaux usages vers le plus grand nombre, en tenant compte de la diversité des publics scolaires.
Les enjeux de mixité et d’orientation non genrée vers certaines filières professionnelles sont à prendre en compte pour veiller au développement équilibré de la motivation des filles et des garçons pour ces usages.
Enfin l’accessibilité technologique doit prendre en compte la question de l’équipement des élèves hors du cadre scolaire. Le rôle de l’École, en relation avec les collectivités, est de soutenir les familles pour améliorer l’équité d’accès et d’acculturation technologique.
Des opportunités pour nos métiers
Les usages des intelligences artificielles répondent à de nombreux besoins professionnels. Les intelligences artificielles peuvent être mobilisées pour optimiser des activités administratives et pédagogiques telles que la recherche d’informations, la correction de texte, la synthèse de documents, le traitement et classification d’informations, la mise en page de documents, la traduction, la construction de séquences et d’exercices pédagogiques, etc.
L’automatisation de certaines tâches, qu’elles soient simples et répétitives ou plus complexes, permet aux agents de se concentrer sur les activités où leur contribution est la plus précieuse. Cependant cette automatisation doit s’accompagner d’un soutien à la fois technologique et organisationnel, en considérant les processus dans leur ensemble. Ainsi, les usages des intelligences artificielles peuvent devenir de véritables leviers d’efficacité professionnelle et contribuer à l’amélioration de la qualité de vie et des conditions de travail.
Un enseignement axé sur la capacité de l’élève à conserver la maitrise de ses apprentissages
Les stratégies pédagogiques efficientes intégrant des usages d’intelligences artificielles génératives supposent de placer au centre des apprentissages le développement de l’esprit critique des élèves.
Les sensibiliser sur l’importance de développer une posture réflexive et métacognitive sur leurs apprentissages permet d’accorder aux élèves une place privilégiée dans la régulation des savoirs à acquérir. L’objectif est de les responsabiliser tout en les acculturant sur les possibilités nouvelles que peuvent offrir les outils d’intelligence artificielle pour étayer leurs apprentissages et les personnaliser sans faire à leur place.
Cet enjeu repositionne le professeur dans son rôle majeur pour adapter ses séquences d’enseignement à ce nouveau contexte d’apprentissage. Il doit requestionner la place de l’évaluation, renforcer les modalités de travail à l’oral et privilégier le processus d’apprentissage plutôt que le résultat final.
La relation pédagogique entre le professeur et l’élève s’inscrit dans une logique de responsabilité réciproque permettant une autonomie renforcée des élèves afin de les impliquer et les motiver dans leurs apprentissages.
Ressources nationales
- Cadre d’usage de l’IA pour l’éducation
- Commission IA
- Sénat
- Dossier de rentrée scolaire du MENJ (pages 61 à 63)
- Travaux de veille de la DNE : « IA générative et ingénierie pédagogique : de la conception à l’évaluation »
Ressources de la région académique Île-de-France
- Intelligence artificielle : évolution ou révolution ?
- Créativité et apprentissages : comment intégrer l’IA générative dans sa pédagogie ?
- IA générative : l’art du prompt
- Comment une IA générative crée-t-elle du texte ?
- Quel est l’impact environnemental d’une IA générative ?
- Comment requestionner le sens du présentiel ?
2. Un cadre de confiance pour agir
Le pôle intelligence artificielle de la région académique d’Île-de-France a élaboré des recommandations pour sécuriser l’utilisation des intelligences artificielles en milieu scolaire. Un premier mémento a permis d’encadrer ces usages et de contribuer aux consultations organisées par le ministère sur le cadre d’usage de l’IA en éducation. Les informations suivantes servent de référence en attendant la publication officielle annoncée.
Rappel du cadrage réglementaire de l’intelligence artificielle et de ses usages
Règlements européens :
- Le règlement européen (RIA) : un règlement européen du 13 juin 2024 (RIA) encadre l’intelligence artificielle. Il précise des pratiques non conformes voire interdites en matière d’intelligence artificielle comme l’atteinte aux personnes (exploitation des vulnérabilités, classification des personnes ou usage de données biométriques). Ce règlement européen classe à haut risque certaines activités menées avec des intelligences artificielles, en particulier dans le domaine de l’éducation et de la formation professionnelle.
- Le règlement général de protection des données (RGPD) demeure pleinement applicable aux systèmes d’intelligence artificielle lorsqu’ils traitent des données à caractère personnel. L’analyse de conformité des projets d’intelligence artificielle impliquant des données à caractère personnel, voire l’analyse d’impact relative à la protection des données le cas échéant, demeure obligatoire.
Cadrage national
Les orientations ministérielles s’appuient sur les travaux de recherche et les recommandations du comité d’éthique pour les données éducation.
Elles s’articulent autour de 3 axes :
- L’assistance pédagogique : les enseignants peuvent utiliser les outils d’intelligence artificielle générative pour les assister dans la préparation des cours et dans la réalisation d’activités pédagogiques, sous leur contrôle et en adéquation avec les objectifs éducatifs. Pour les formateurs, utiliser les outils d’intelligence artificielle est une aide à la conception de formations hybrides .
- La protection des données : dans le cadre scolaire, les usages par les professeurs et les élèves doivent respecter et garantir la protection des données personnelles.
- Le développement de l’esprit critique : les enseignants sont encouragés à accompagner les élèves à développer un esprit critique dans la compréhension du fonctionnement de l’intelligence artificielle et de son utilisation dans le cadre de la formation à l’esprit critique et à la citoyenneté numérique.
Les équipes ministérielles préconisent ainsi une utilisation raisonnée de l’intelligence artificielle adaptée à l’âge des élèves, sous contrôle de l’enseignant. La France s’inscrit ainsi pleinement dans les recommandations de l’UNESCO.
Huit points de vigilances
Les outils d’intelligence artificielle se nourrissent des données des utilisateurs. Ces dernières sont souvent stockées dans des pays tiers qui ne répondent pas à la règlementation européenne (RGPD) encadrant leur protection et leur non-utilisation commerciale et lucrative. La prise en compte des points de vigilance suivants permet une utilisation des intelligences artificielles génératives de manière efficace et responsable, tout en optimisant les gestes professionnels :
- Confidentialité et anonymisation des données : les utilisateurs doivent veiller à ne partager aucune donnée personnelle via des outils d’intelligence artificielle. Il est ainsi crucial d’anonymiser les données pour protéger la confidentialité et se conformer aux réglementations (RGPD).
- Transparence : les utilisateurs doivent informer les parties prenantes (enseignants, élèves, parents) de l’utilisation d’intelligences artificielles et les méthodes employées, garantissant ainsi transparence et acceptation.
- Vérification des résultats : la vérification des réponses générées par l’intelligence artificielle est indispensable pour éviter erreurs et imprécisions, lesquelles pourraient affecter la qualité du travail administratif et pédagogique.
- Équilibre humain / intelligence artificielle : une utilisation excessive de l’intelligence artificielle pourrait diminuer certaines compétences humaines. Il est important de conserver un juste équilibre entre l’usage de l’intelligence artificielle et le jugement humain.
- Éthique et impartialité : les intelligences artificielles, entraînées sur de vastes ensembles de données, peuvent reproduire ou amplifier des biais préexistants. La garantie de résultats impartiaux et équitables reste de la responsabilité des utilisateurs.
- Sécurité et suivi des évolutions : le suivi régulier des mises à jour et des pratiques de sécurité est indispensable pour s’assurer de la conformité et de la pertinence de l’usage des intelligences artificielles.
- Respect de la vie privée et de la sécurité numérique : la protection des informations personnelles des élèves et des personnels, et le respect des règles de sécurité numérique sont primordiaux pour toute utilisation des intelligences artificielles en milieu scolaire.
- Vers des usages éco-responsables des intelligences artificielles génératives : les intelligences artificielles génératives doivent être utilisées pour des tâches complexes nécessitant réellement leurs capacités prédictives avancées. Une formulation optimisée des requêtes orientera efficacement les réponses en limitant les itérations nécessaires.
Ressources internationales
Unesco
OCDE
Union européenne
Conseil de l’Europe
Institutions universitaires
Ressources nationales
Commission IA
Sénat
Dossier de rentrée scolaire du MENJ (pages 61 à 63)
Travaux de veille de la DNE : « IA générative et ingénierie pédagogique : de la conception à l’évaluation »