En tant que cadre, nous avons un devoir d’information, de compréhension et de vigilance face aux transformations induites par l’intelligence artificielle (IA). Pour cela, il est nécessaire de connaitre les trois éléments clés pour juger de la conformité d’un usage :
- le contexte de l’usage, lequel permet de définir les deux éléments suivants ;
- le type de données traitées ;
- la catégorie du fournisseur de service.
Quels sont les différents types de données ?
- les données sensibles ou à caractère hautement personnel
Exemples : données couvertes par le secret professionnel, données de santé, données relatives à l’appartenance politique, religieuse ou syndicale, photographie, vidéo, voix, etc. ; - les données à caractère personnel non sensibles
Exemples : nom, prénom, établissement d’enseignement, classe, note, etc. ; - les données anonymes et non confidentielles
Exemple : support de cours, image d’illustration, information légale ou réglementaire, etc.
Quelles sont les catégories de fournisseurs de service ?
- une solution IA maîtrisée et fournie par un tiers de confiance
Exemples : une application permettant de créer des supports de courts animés développée par la DNE ;
- une solution IA fournie par un grand opérateur sur internet
Exemples : une IA générative à usage général ayant une forte visibilité sur le marché comme ChatGPT, Perplexité (USA), Mistral AI (France) ou les nombreuses fonctionnalités d’IA intégrées dans des logiciels comme Photoshop, Adobe Première Pro, Mindmap, Copilot etc. ;
- une solution IA fournie par un tiers autre
Exemple : une application permettant le vieillissement artificiel d’une photo d’un élève, disposant de peu de visibilité avec une identification opaque de son fournisseur et/ou du lieu de conservation des données.
Avant d’utiliser un outil intégrant de l’IA, il est nécessaire de vérifier si cette pratique est conforme au Règlement européen sur l’IA (RIA) ou considérée comme étant à haut risque. Dan le premier cas, il est nécessaire de se rapprocher des services académiques avant toute mise en oeuvre. Dans le second cas, il est obligatoire de renoncer à cette utilisation.
Il est très souvent nécessaire d’opérer à une analyse de la conformité par les services compétents (Délégation régionale académique au numérique éducatif, Direction régionale académique des systèmes d’information, Délégué à la protection des données) :
- Données sensibles ou personnelles : Analyse préalable nécessaire par le DPD de référence en relation avec la Drane et la Drasi.
- Données anonymes et non confidentielles : Usage possible.
RESSOURCES :
Module en auto-formation
Découvrir les IA génératives : usages, limites et bonnes pratiques en contexte professionnel : un module en auto-formation d’une heure spécifiquement produit pour les agents de l’État par la Direction interministérielle du numérique (DINUM) et l’Inria Academy sur la plate-forme Mentor.
Formation du Campus du numérique public
Ressources complémentaires
Cadre d’usage de l’IA en éducation : cadre produit par les services du ministère de l’éducation nationale pour accompagner les personnels dans leurs usages professionnels des IA notamment génératives.
IA et éducation : guide pour les décideurs politiques
Présentation du RIA et du RGPD dans le cadre de l’IA par la CNIL