Quelques rappels
Les IA génératives sont développées à partir de très grands corpus de données LLM [1]. Ces données peuvent contenir des biais ou préjugés qui influencent les résultats, et les algorithmes de traitement sont souvent protégés, ne permettant pas un accès complet ou transparent à leur fonctionnement. La puissance de calcul et de prédiction statistique utilisée permet régulièrement d’améliorer la pertinence des réponses des IA. Cependant, il existe toujours une part d’aléa, et chaque utilisateur doit vérifier les productions finales pour en garder la maitrise et assurer leur pertinence.
Des opportunités pour nos métiers de cadre
Les IA génératives sont des outils qui répondent à de nombreux besoins professionnels et peuvent faciliter le traitement de certaines activités. Notamment, elles optimisent certaines tâches en permettant un gain de temps non négligeable sur des travaux administratifs et pédagogiques. Recherche d’informations, correction de texte, synthèse de documents, traitement et classification d’information, mise en page de document, traduction, construction de séquences et exercices pédagogiques.
Ces outils sont des leviers potentiels de productivité pour les professionnels, bien qu’il reste important de les utiliser avec discernement pour répondre aux besoins professionnels.
Quelques éléments du cadrage national
Les orientations ministérielles s’appuient sur les travaux de recherche et les recommandations du comité d’éthique, et elles s’articulent autour des 3 axes suivants :
- Assistance pédagogique : les enseignants peuvent utiliser l’IA générative pour les assister dans les tâches de préparation et pour la réalisation d’activités pédagogiques à leur initiative, sous leur contrôle et en adéquation avec les objectifs éducatifs ;
- Protection des données : dans le cadre scolaire, les usages par les professeurs et les élèves doivent respecter et garantir la protection des données personnelles, en particulier des élèves ;
- Développement de l’esprit critique : les enseignants sont encouragés à accompagner les élèves à développer un esprit critique dans la compréhension du fonctionnement de l’IA et son utilisation dans le cadre de la formation à l’esprit critique et à la citoyenneté numérique.
Les équipes ministérielles préconisent ainsi une utilisation raisonnée de l’intelligence artificielle, sous contrôle de l’enseignant, pour les élèves à partir du cycle 4 (5ème) en lien avec l’évolution des programmes. La France s’inscrit ainsi pleinement dans les recommandations récentes de l’UNESCO.
Le ministère devrait publier prochainement la doctrine des usages de l’IA pour l’éducation nationale qui servira de référence.
Les 8 points de vigilances
Les IA se nourrissent des données des utilisateurs ; elles sont souvent stockées dans des pays tiers qui ne répondent pas tous à la règlementation européenne qui encadre leur protection et leur non-utilisation commerciale et lucrative. (RGPD [2])
- Confidentialité et anonymisation des données : les informations partagées via les IA peuvent être sensibles. Il est crucial d’anonymiser les données pour protéger la confidentialité et se conformer aux réglementations (RGPD) ;
- Transparence : les utilisateurs doivent informer les parties prenantes (enseignants, élèves, parents) sur l’utilisation des IA et les méthodes employées, garantissant ainsi transparence et acceptation ;
- Vérification des résultats : la vérification des réponses générées par l’IA est indispensable pour éviter erreurs et imprécisions, qui pourraient affecter la qualité du travail administratif et pédagogique ;
- Équilibre humain/IA : une utilisation excessive de l’IA peut diminuer certaines compétences humaines. Il est important de conserver un juste équilibre entre l’usage de l’IA et le jugement humain ;
- Éthique et impartialité : les IA, entraînées sur de vastes ensembles de données, peuvent reproduire ou amplifier des biais préexistants. La vigilance est nécessaire pour garantir que les résultats sont impartiaux et équitables ;
- Sécurité et suivi des évolutions : le suivi régulier des mises à jour et des pratiques de sécurité est indispensable pour s’assurer de la conformité et de la pertinence de l’usage des IA ;
- Respect de la vie privée et de la sécurité numérique : la protection des informations personnelles des élèves et des personnels, et le respect des règles de sécurité numérique sont primordiaux pour toute utilisation des IA en milieu scolaire.
- Vers des usages éco-responsables des IA génératives : Utiliser préférentiellement les IA pour effectuer des tâches complexes qui nécessitent réellement leurs capacités prédictives avancées ; optimiser la rédaction des requêtes pour mieux guider les réponses de l’IA vers les résultats souhaités en limitant les itérations permettant d’y parvenir.
En gardant ces points de vigilance à l’esprit, les personnels de la communauté éducative peuvent utiliser les IA génératives de manière efficace et responsable, tout en optimisant ses tâches administratives et en respectant les régulations en vigueur.
Dans le cadre du cadrage national des usages de l’IA, la doctrine à venir précisera les cadres d’usage et les protocoles applicables pour intégrer les IA en contexte éducatif, en tenant compte des spécificités de chaque niveau et des compétences à développer en matière d’esprit critique et d’éthique.
Quelques ressources complémentaires
Intelligence artificielle : évolution ou révolution ?
Créativité et apprentissages : comment intégrer l’IA générative dans sa pédagogie ?
IA générative : l’art du prompt
Comment une IA générative crée-t-elle du texte ?
Quel est l’impact environnemental d’une IA générative ?
