Contactez-nous
Merci ! Nous allons revenir vers très prochainement !
Oops! Une erreur s'est produite !
.svg)
.svg)
.png)
.svg)
.svg)
L’intelligence artificielle prend progressivement place dans les établissements de formation : génération de contenus pédagogiques, création de quiz, personnalisation des parcours, analyse des résultats, assistance aux apprenants…
Mais jusqu’où peut-on aller ?
Une IA pourra-t-elle, demain, décider seule de l’admission d’un étudiant, lui attribuer une note ou déterminer son orientation ?
C’est précisément le type de questions auxquelles répond l’AI Act, le règlement européen sur l’intelligence artificielle. Entré en vigueur en 2024 et progressivement applicable depuis, ce texte établit un cadre commun pour développer et utiliser l’IA au sein de l’Union européenne.
Pour les écoles et CFA, certaines utilisations de l’IA vont demander une vigilance particulière.
L’AI Act repose sur une logique simple : plus un système d’intelligence artificielle peut avoir un impact important sur les droits ou l’avenir d’une personne, plus son utilisation est encadrée.
Or, dans le domaine de l’éducation et de la formation professionnelle, certaines décisions peuvent avoir des conséquences importantes sur le parcours d'un apprenant.
Le règlement classe ainsi parmi les usages potentiellement « à haut risque » certains systèmes destinés notamment à :
Autrement dit, toutes les utilisations de l’IA dans la formation ne sont pas considérées comme sensibles.
Utiliser une IA pour aider à créer un questionnaire ou synthétiser un support pédagogique n’a évidemment pas les mêmes conséquences que lui confier la décision d’admettre, d’évaluer ou d’orienter un apprenant.
C’est l’un des grands principes à retenir de l’AI Act.
Lorsqu’un système d’IA est utilisé dans un contexte à haut risque, le contrôle humain occupe une place centrale.
L’objectif est notamment de permettre aux personnes chargées de superviser le système de comprendre ses capacités et ses limites, d’identifier d’éventuelles anomalies et, lorsque cela est nécessaire, de ne pas suivre, de modifier ou d’interrompre son fonctionnement.
Prenons un exemple.
Une IA peut analyser les résultats d’un apprenant et aider une équipe pédagogique à identifier des difficultés ou à proposer certaines actions. En revanche, confier aveuglément à un algorithme une décision ayant un impact important sur son parcours pose un tout autre niveau de risque.
L’enjeu est donc de conserver une intervention humaine réelle et compétente dans les processus sensibles.
Les règles spécifiques aux systèmes d’IA à haut risque utilisés dans des domaines comme l’éducation entreront en application à partir du 2 décembre 2027.
Plusieurs exigences sont prévues.
Les systèmes concernés devront faire l’objet d’une démarche structurée permettant d’identifier, d’analyser et de limiter les risques susceptibles d’apparaître pendant leur utilisation.
Dans un établissement de formation, cela suppose notamment de s’interroger sur les conséquences possibles d’une erreur de l’IA pour l’apprenant.
Un algorithme entraîné ou utilisé avec des données insuffisantes ou biaisées peut reproduire, voire amplifier, certaines discriminations.
La qualité des données utilisées constitue donc un élément essentiel du dispositif prévu par l’AI Act.
L’objectif : réduire le risque qu’un apprenant soit défavorisé en raison de données peu représentatives ou d’un fonctionnement biaisé du système.
Les systèmes à haut risque devront permettre une journalisation suffisante de leur fonctionnement.
Cette traçabilité doit notamment aider à comprendre ce qui s’est passé lorsqu’un système a produit un résultat et faciliter le contrôle de son utilisation.
Pour les établissements, la logique est proche de celle que l’on retrouve déjà dans de nombreux processus qualité : être capable de démontrer comment un outil a été utilisé et dans quelles conditions.
L’utilisation de systèmes à haut risque s’accompagne également d’exigences de documentation et d’information.
Les acteurs concernés devront disposer des informations nécessaires pour comprendre les caractéristiques du système, ses limites et les conditions dans lesquelles il doit être utilisé.
Enfin, l’humain ne disparaît pas du processus.
Les systèmes à haut risque doivent être conçus pour pouvoir être efficacement supervisés par des personnes disposant des compétences et de l’autorité nécessaires.
L’IA devient alors un outil d'assistance, et non une boîte noire à laquelle on délègue aveuglément les décisions.
Toutes les dispositions de l’AI Act ne suivent pas le même calendrier.
Depuis le 2 août 2026, certaines obligations de transparence prévues par le règlement sont déjà applicables.
Par exemple, lorsqu’une personne interagit directement avec certains systèmes d’IA, comme un chatbot, elle doit en principe pouvoir savoir qu’elle échange avec une intelligence artificielle, sauf lorsque cela est évident au regard du contexte.
Des règles concernent également l’identification de certains contenus générés ou manipulés artificiellement.
Pour les établissements utilisant des assistants IA à destination de leurs étudiants, la question de la transparence ne doit donc déjà plus être considérée comme un sujet uniquement futur.
Le 2 décembre 2027 peut sembler encore loin. Pourtant, attendre cette échéance pour s’intéresser à ses usages de l’intelligence artificielle serait une erreur.
La première étape ne consiste pas nécessairement à lancer un vaste chantier de conformité.
Elle consiste surtout à savoir où et comment l’IA est déjà utilisée dans l’établissement.
Quelques questions peuvent servir de point de départ :
Cette cartographie permet de distinguer les usages courants des situations nécessitant davantage de vigilance.
Le règlement européen n’a pas pour objectif d’interdire l’intelligence artificielle dans les établissements de formation.
Au contraire, l’approche européenne consiste à permettre son développement tout en adaptant les exigences au niveau de risque associé à chaque usage.
Une IA utilisée pour aider un formateur à produire des contenus, proposer des exercices ou faciliter certaines tâches administratives ne présente pas les mêmes enjeux qu’un algorithme qui influence directement l’admission ou l’avenir académique d’un étudiant.
Pour les établissements, le véritable enjeu sera donc de trouver le bon équilibre entre innovation, transparence, maîtrise des risques et contrôle humain.
Chez EDUCENTRIC, nous intégrons déjà des fonctionnalités d’intelligence artificielle dans nos plateformes.
Notre approche repose sur un principe essentiel : l’IA doit accompagner les équipes pédagogiques et les apprenants, pas se substituer à eux dans les décisions importantes.
Les fonctionnalités que nous développons sont ainsi pensées comme des outils d’assistance : faciliter certaines tâches, exploiter plus efficacement les informations disponibles ou enrichir l’expérience pédagogique, tout en maintenant l’humain au centre du processus.
L’arrivée de l’AI Act ne remet donc pas en cause l’utilisation de l’intelligence artificielle dans la formation.
Elle invite plutôt les établissements à se poser une question essentielle :
comment profiter pleinement des possibilités offertes par l’IA tout en conservant une utilisation maîtrisée, transparente et responsable ?
C’est probablement l’un des grands chantiers numériques qui attend les écoles et CFA dans les prochaines années.
.png)
.png)
