Administratif9 min de lecture

Proctoring et IA d'évaluation : ce que l'AI Act impose à un organisme de formation

Responsable éditorial : L’équipe Kit Certif

Un candidat passe l’évaluation finale de sa formation depuis son salon, webcam allumée. Un logiciel le filme, enregistre son écran et signale automatiquement les « comportements suspects » au formateur. Un autre outil corrige les études de cas et propose un niveau de sortie. Pour beaucoup d’organismes de formation à distance, ces briques sont devenues banales. Le règlement européen sur l’intelligence artificielle (AI Act) les range pourtant dans une catégorie précise, avec un calendrier qui a changé en juillet 2026. Voici ce qui s’applique déjà, ce qui arrive au 2 décembre 2027 et ce que la CNIL demande depuis 2023.

Une formation suivie en ligne sur un ordinateur portable
Une formation suivie en ligne sur un ordinateur portable.

L’éducation et la formation professionnelle, un domaine à haut risque

L’annexe III du règlement (UE) 2024/1689 liste les domaines où un système d’IA est classé à haut risque. Son point 3, « Éducation et formation professionnelle », vise quatre usages, « à tous les niveaux » :

Point de l’annexe III Usage visé Exemple dans un organisme de formation
3, a) Déterminer l’accès, l’admission ou l’affectation à un établissement d’enseignement ou de formation professionnelle Tri automatique des candidatures à une formation sélective
3, b) Évaluer les acquis d’apprentissage, y compris pour orienter le parcours Correction automatisée d’une évaluation finale, parcours adaptatif qui décide du module suivant
3, c) Évaluer le niveau d’enseignement approprié qu’une personne recevra ou pourra atteindre Test de positionnement qui affecte un stagiaire à un groupe de niveau
3, d) Surveiller et détecter des comportements interdits lors d’examens Proctoring avec détection automatique de fraude

Un organisme de formation n’a pas besoin d’être une école ou une université pour être concerné : le texte parle d’établissements d’enseignement et de formation professionnelle. L’évaluation des acquis est au cœur du référentiel Qualiopi (indicateur 11) ; dès qu’elle est confiée à un système d’IA, elle entre dans ce champ.

Il existe une soupape. L’article 6, paragraphe 3, prévoit qu’un système de l’annexe III n’est pas à haut risque lorsqu’il ne présente pas de risque important, par exemple s’il accomplit une tâche procédurale étroite, améliore le résultat d’une activité humaine déjà réalisée ou prépare une évaluation sans s’y substituer. Mais le même article précise qu’un système de l’annexe III est toujours à haut risque lorsqu’il effectue un profilage de personnes physiques. C’est au fournisseur de documenter cette évaluation avant la mise sur le marché ; demandez-la-lui par écrit.

Ce qui est interdit depuis février 2025

L’article 5 de l’AI Act liste des pratiques interdites, applicables depuis le 2 février 2025. Son paragraphe 1, point f), interdit l’utilisation de systèmes d’IA pour inférer les émotions d’une personne physique sur le lieu de travail et dans les établissements d’enseignement, sauf raisons médicales ou de sécurité.

Pour un organisme de formation, la conséquence est directe : une fonction qui prétend repérer le stress, l’anxiété ou la nervosité d’un candidat pour en déduire une tentative de fraude n’a pas sa place dans votre dispositif d’examen. Le non-respect des interdictions de l’article 5 est passible d’amendes administratives pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial (article 99, paragraphe 3). Lisez la documentation de vos outils avec cette grille : les termes « engagement », « attention » ou « état émotionnel » doivent déclencher une question à l’éditeur.

Le nouveau calendrier : 2 décembre 2027

Le règlement (UE) 2026/1744 du 8 juillet 2026, dit « omnibus numérique sur l’IA », publié au Journal officiel de l’Union le 24 juillet 2026 et en vigueur depuis le 27 juillet 2026, a modifié l’article 113 de l’AI Act. Les sections 1 à 3 du chapitre III, qui portent les exigences et obligations des systèmes à haut risque, s’appliquent désormais :

  • à partir du 2 décembre 2027 pour les systèmes classés à haut risque au titre de l’annexe III, dont l’éducation et la formation professionnelle ;
  • à partir du 2 août 2028 pour les systèmes liés aux produits de l’annexe I.

Le délai est réel, mais il ne change rien à deux points : l’interdiction de l’article 5 sur les émotions s’applique déjà, et les achats d’outils que vous signez aujourd’hui seront encore en service en décembre 2027.

Vos obligations de déployeur à partir de cette date

L’éditeur du logiciel est le fournisseur ; l’organisme qui l’utilise sous sa propre autorité est le déployeur. L’article 26 fixe les obligations du déployeur d’un système à haut risque. Les plus concrètes pour un organisme de formation :

  1. Utiliser le système conformément à sa notice d’utilisation (paragraphe 1). Un outil prévu pour signaler des anomalies à un humain ne doit pas servir à invalider automatiquement un examen.
  2. Confier le contrôle humain à des personnes qui disposent des compétences, de la formation et de l’autorité nécessaires (paragraphe 2). Le formateur ou le responsable pédagogique qui tranche les alertes doit savoir ce que l’outil détecte, et ce qu’il ne sait pas faire.
  3. Veiller à la pertinence des données d’entrée lorsque vous les maîtrisez (paragraphe 4) : grilles de correction, consignes, réponses attendues.
  4. Surveiller le fonctionnement et suspendre l’utilisation en cas de risque, avec information du fournisseur et de l’autorité (paragraphe 5).
  5. Conserver les journaux générés automatiquement qui sont sous votre contrôle pendant au moins six mois, sauf autre règle applicable (paragraphe 6).
  6. Informer les personnes : les déployeurs de systèmes de l’annexe III qui prennent ou facilitent des décisions concernant des personnes physiques les informent qu’elles sont soumises à l’utilisation du système (paragraphe 11). Si l’outil est utilisé sur vos propres salariés, les représentants du personnel et les salariés concernés sont informés avant la mise en service (paragraphe 7).

S’y ajoute l’article 86 : une personne qui fait l’objet d’une décision prise sur la base d’un système de l’annexe III, avec des effets juridiques ou similaires qu’elle estime négatifs, peut obtenir du déployeur des explications claires sur le rôle du système dans la décision. Un stagiaire dont l’examen a été invalidé sur alerte automatique entre exactement dans ce cas. Le non-respect des obligations du déployeur relève du plafond de 15 millions d’euros ou 3 % du chiffre d’affaires mondial (article 99, paragraphe 4).

Une séance au tableau blanc
Une séance au tableau blanc. Photo : fabola, CC BY-SA 2.0

Ce que la CNIL demande déjà

L’AI Act ne remplace pas le RGPD. Pour la télésurveillance, la CNIL a publié une recommandation adoptée le 8 juin 2023 (délibération n° 2023-058), applicable à tout type d’examen ou de certification en ligne, organisé par des acteurs publics ou privés. Trois lignes en ressortent :

  • la télésurveillance devrait être une possibilité offerte aux candidats et non une obligation, avec une alternative en présentiel, sauf cas particuliers (crise sanitaire, organismes dont l’enseignement à distance est au cœur de l’organisation) ;
  • toute analyse automatique du comportement des candidats devrait être exclue ; l’analyse automatique se limite à l’environnement du candidat et aux situations qui la justifient ;
  • les candidats doivent être informés le plus tôt possible des conditions de la télésurveillance, et les outils doivent pouvoir être facilement installés puis désinstallés.

Autrement dit, une détection automatique de fraude fondée sur les mouvements des yeux ou les expressions du visage pose déjà un problème au regard du RGPD, avant même l’échéance de 2027.

Ce que montre la recherche

Les enjeux ne sont pas que juridiques. Dans une analyse publiée en 2021 dans Philosophy & Technology, Simon Coghlan, Tim Miller et Jeannie Paterson examinent les technologies de surveillance d’examens en ligne au regard de l’intégrité académique, de l’équité, de la transparence, de la vie privée, de l’autonomie et de la confiance (Coghlan, Miller et Paterson, 2021). Ils invitent les établissements qui envisagent ces outils à mener un examen préalable et à mettre en place une gouvernance pour justifier leur usage. C’est précisément la logique du contrôle humain qu’exige l’AI Act.

La checklist de l’organisme de formation

  • Inventoriez les outils d’IA qui touchent à l’admission, au positionnement, à l’évaluation ou à la surveillance d’examens.
  • Écartez toute fonction d’inférence des émotions.
  • Demandez à chaque éditeur s’il classe son système à haut risque, et sinon la documentation de son évaluation au titre de l’article 6, paragraphe 3.
  • Gardez la décision humaine : une alerte de l’outil déclenche un examen par une personne habilitée, jamais une sanction automatique.
  • Prévoyez une alternative en présentiel et informez les candidats dès l’inscription (livret d’accueil, conditions générales, convocation).
  • Formez les personnes qui assurent le contrôle humain et gardez une trace de cette formation.

Ce dernier point rejoint l’article 4 de l’AI Act, réécrit en juillet 2026 : fournisseurs et déployeurs prennent des mesures pour favoriser le développement de la maîtrise de l’IA de leur personnel, sans obligation de garantir un niveau individuel précis. Pour vos formateurs et vos équipes administratives, la formation maîtrise de l’IA (AI Act, article 4) de Formations Obligatoires dure 7 heures en ligne et délivre une attestation nominative, utile pour documenter ces mesures. Pour l’usage quotidien de l’IA générative dans votre organisme, voir aussi notre guide IA générative en organisme de formation, et pour les contrôles des formations à distance, l’article sur le contrôle sous identité d’emprunt.

Passez à l’action

Faites l’inventaire de vos outils d’évaluation avant de renouveler un abonnement : un contrat signé en 2026 court souvent au-delà de décembre 2027. Pour que vos modalités d’évaluation, vos supports d’information aux stagiaires et votre veille réglementaire tiennent l’audit de la certification Qualiopi, le Kit Certif Complet regroupe les fiches indicateur et les modèles de preuves, mis à jour pour le référentiel applicable au 1er novembre 2026.

FAQ

Questions fréquentes

+Un outil de proctoring utilisé par un organisme de formation est-il un système d'IA à haut risque ?

S'il utilise l'IA pour surveiller et détecter des comportements interdits pendant un examen, il relève du point 3, d) de l'annexe III du règlement (UE) 2024/1689, qui vise la formation professionnelle à tous les niveaux. Les obligations correspondantes s'appliquent aux systèmes de l'annexe III à partir du 2 décembre 2027, depuis le règlement (UE) 2026/1744.

+Qu'est-ce qui est déjà interdit aujourd'hui ?

Depuis le 2 février 2025, l'article 5 interdit l'utilisation de systèmes d'IA pour inférer les émotions d'une personne sur le lieu de travail et dans les établissements d'enseignement, sauf raisons médicales ou de sécurité. Un module qui prétend détecter le stress ou la nervosité d'un candidat pour signaler une fraude est donc à proscrire. Le plafond d'amende prévu pour ces pratiques est de 35 millions d'euros ou 7 % du chiffre d'affaires mondial.

+L'organisme de formation qui achète l'outil a-t-il des obligations, ou seulement l'éditeur ?

Les deux. L'éditeur est fournisseur ; l'organisme qui utilise le système sous sa propre autorité est déployeur. À partir de l'échéance de l'annexe III, le déployeur doit notamment utiliser le système selon sa notice, confier le contrôle humain à des personnes compétentes et formées, conserver les journaux sous son contrôle au moins six mois et informer les personnes concernées.

+La CNIL autorise-t-elle la télésurveillance des examens en ligne ?

Oui, mais sous conditions. Dans sa recommandation du 8 juin 2023 (délibération n° 2023-058), elle estime que la télésurveillance devrait être une possibilité offerte aux candidats et non une obligation, avec une alternative en présentiel sauf cas particuliers, et que toute analyse automatique du comportement des candidats devrait être exclue.

À lire ensuite