Pourquoi n’enseignons-nous pas l’éthique de l’IA dans les écoles ?

L'intelligence artificielle est omniprésente dans les écoles, mais les professionnels de l'éducation n'enseignent pas aux élèves l'importance d'une utilisation éthique. Le problème est qu'il s'agit d'un sujet complexe et que les enseignants n'ont tout simplement pas le temps ni les ressources pour s'y attaquer.

Où obtiennent-ils les supports pertinents ? Comment les intègrent-ils dans leurs programmes de cours existants ? Voici comment ce genre de questions freine les cours d'éthique de l'IA et ce que font les décideurs pour résoudre le problème.

L’importance d’enseigner l’éthique de l’IA à l’école

L’éthique de l’IA est un ensemble de principes qui régissent le développement, le déploiement et l’utilisation d’outils basés sur des algorithmes. Ces principes visent à guider les parties prenantes, en minimisant les dommages que ces technologies peuvent causer à l’environnement, à la société ou à l’économie. À plus petite échelle, ils visent à prévenir les préjugés, la discrimination, la désinformation et les abus.

Enseigner l’éthique de l’IA à l’école peut sembler inutile, mais son importance ne peut être surestimée. L’IA est déjà devenue un élément essentiel dans de nombreux secteurs. Selon un rapport de McKinsey & Company, 72% des organisations l'utilisent pour au moins une fonction de l'entreprise. Si sa trajectoire ascendante se poursuit, son impact pourrait rivaliser avec celui des ordinateurs, des smartphones ou d'Internet.

Éviter de parler de l'IA en classe en raison de sa nouveauté revient à répéter inutilement l'histoire. C'est la même chose qu'il y a quelques années, quand on disait aux étudiants qu'ils n'auraient pas toujours une calculatrice dans leur poche arrière juste après l'invention du smartphone.

La popularité de cette technologie ne cesse de croître, tant dans le domaine personnel que professionnel. Les étudiants doivent être prêts à l'utiliser de manière responsable dès leur entrée sur le marché du travail afin de garantir de meilleurs résultats pour leur secteur et la société.

L’IA est puissante. Les algorithmes avancés peuvent analyser des ensembles de données massifs beaucoup plus rapidement que les humains. Ils excellent dans la reconnaissance de modèles, la prédiction des tendances et la création de contenu. Que les enseignants le veuillent ou non, l’IA va probablement changer le monde. S’ils préparent leurs étudiants en conséquence, ils peuvent s’assurer que le changement sera positif.

Les dilemmes éthiques auxquels les étudiants sont confrontés lorsqu'ils utilisent l'IA

Les risques éthiques typiques auxquels les étudiants sont confrontés lorsqu’ils utilisent l’IA comprennent l’abus de technologie, le harcèlement et le plagiat. Ce dernier est l’un des plus courants. Grâce aux outils génératifs, la malhonnêteté académique est facile à éviter. Google Trends révèle que les recherches sur « rédaction d’essais sur l’IA » a augmenté de 2 041 % après la sortie de ChatGPT.

Malheureusement, le plagiat n'est pas l'infraction la plus grave. Dernièrement, des étudiants d'université, de lycée et même de collège ont été surpris en train d'utiliser des outils génératifs pour participer à des crimes sexuels liés au deepfake. En Corée du Sud, un journaliste a découvert un tel groupe Il comptait plus de 2 000 membres. On estime que de nombreuses victimes avaient moins de 16 ans, soit moins que l'âge du consentement en Corée.

Même si les enfants n’utilisent pas les photos habituelles de leurs camarades de classe pour créer du contenu explicite, l’utilisation de l’IA repose toujours sur le consentement. Ce concept revisite les principes de confidentialité et de sécurité des données : toutes les données saisies par les utilisateurs finaux ne sont plus privées. La plateforme ou le fournisseur de services peut les utiliser pour entraîner son modèle ou améliorer ses stratégies marketing.

De nombreux étudiants d'aujourd'hui considèrent les modèles génératifs et d'apprentissage automatique comme des outils divertissants et inoffensifs, même lorsqu'ils nuisent activement aux autres. Les enseignants ont une occasion unique de les sensibiliser dès le début aux conséquences de telles actions, en mettant fin à des comportements inacceptables comme celui-ci à la source.

L’utilisation éthique de l’IA est-elle enseignée dans les écoles aujourd’hui ?

Les normes des conseils scolaires, les politiques des salles de classe et les lois des États varient considérablement, de sorte que l'adoption de l'IA a été, au mieux, erratique. Ce clivage entre ceux qui l'adoptent et ceux qui ne l'adoptent pas a bloqué la normalisation. Cependant, certains tentent toujours leur chance en suivant des cours d'éthique.

École primaire

Bien que de nombreux universitaires et experts du secteur estiment que les discussions sur l’éthique devraient commencer dès l’école primaire, relativement peu d’établissements utilisent des outils basés sur des algorithmes aussi tôt. Il n’existe pratiquement aucune ressource publique à la disposition des administrateurs d’écoles primaires.

Collège et lycée

De nombreux collèges et lycées ne discutent pas des subtilités de l'IA éthique. Au lieu de cela, ils répriment l'utilisation de l'IA. Des études montrent que la précision des outils de détection de l'IA est généralement d'environ 50 % , la plupart des cas passent donc inaperçus. En conséquence, les enfants acquièrent souvent de mauvaises habitudes.

Il est encourageant de constater que certains décideurs ont compris la nécessité d’une éthique de l’IA. Par exemple, le gouverneur de Californie Gavin Newsom a signé le projet de loi n° 2876 en septembre 2024. Lorsque les cadres curriculaires seront révisés en janvier 2025, les écoles devront intégrer le contenu d'alphabétisation en IA - qui guide l'utilisation critique et éthique - dans la salle de classe.

Tous les enseignants ne reçoivent pas de manuels de la part d'experts. Certains, comme Jeff Simon, professeur de mathématiques à la Sage Creek High School, naviguent seuls dans ce nouveau domaine. Simon a déclaré qu'il essayant « d’enseigner l’utilisation éthique » de l’IA car elle « va continuer à croître ».

Collège et université

La plupart des cours sur l’éthique de l’IA sont proposés dans les établissements d’enseignement supérieur, car il est plus facile d’intégrer ces discussions dans les cours de science des données ou d’ingénierie informatique. Au minimum, beaucoup d’entre eux ont élaboré des politiques d’utilisation de l’IA générative.

Raisons pour lesquelles l'éthique de l'IA n'est pas enseignée à l'école

L’IA n’est pas seulement présente dans l’éducation : elle est en plein essor. Pour référence, en 2024, 86% des étudiants admis à l’utilisation de l’IA pour les devoirs scolaires. Malgré sa popularité, de nombreuses écoles n’ont pas de principes directeurs sur la manière d’utiliser ces modèles de manière éthique.

Le temps est l’une des principales contraintes : les enseignants sont confrontés à la tâche impossible de faire plus avec moins. passer 54 heures au travail par semaine. Comment vont-ils en apprendre davantage sur l'IA et élaborer des politiques de classe conformes à l'éthique en plus d'enseigner le programme, de noter les copies et de créer des plans de cours ?

Le domaine de l’IA est complexe et évolue rapidement. Même avec le soutien de l’ensemble des districts, le matériel pédagogique peut rapidement devenir obsolète. De nombreuses écoles utilisent encore des manuels scolaires vieux de plusieurs décennies pour enseigner, de sorte que toute solution nécessiterait une modernisation importante.

De plus, comment envoient-ils les devoirs d'éthique à la maison ? À quoi ressemblent les tests ? Comment attribuent-ils des notes équitables ?

Les enseignants pourraient être disposés à adopter le concept de cours d'IA éthique s'ils en avaient les moyens, mais il n'existe pas de cadre clair sur la manière dont cela pourrait se faire. Devraient-ils commencer à l'enseigner à l'école primaire ? Remplaceront-ils un cours, seront-ils proposés en option ou seront-ils intégrés au programme existant ? Il n'existe pas de solution universelle.

De nombreux enseignants ont adopté des politiques de « pas dans ma classe » en réponse à ces préoccupations. En conséquence, les élèves n'apprendront probablement pas à utiliser ces outils de la bonne manière. Beaucoup prendront pour vérité tout ce qu'ils auront appris de leurs pairs, de leurs parents et d'Internet, ce qui peut avoir des conséquences de grande portée.

Répondre aux préoccupations pour faire des cours sur l'éthique de l'IA une réalité

Les professionnels de l’éducation disposent de plusieurs moyens pour expliquer pourquoi l’éthique de l’IA n’est pas enseignée dans les écoles.

Placer l’éthique de l’IA là où elle convient

L’intégration de l’éthique de l’IA dans la classe peut se faire par la création d’un nouveau cours optionnel ou par son insertion à la fin de la période. Il est préférable de le placer là où il apparaît naturellement. Par exemple, lorsque les étudiants doivent rédiger un essai de huit pages, ils peuvent entendre parler de l’utilisation responsable de l’IA générative.

Les enseignants et les administrateurs doivent adapter ces nouveaux cours au niveau scolaire, à l'expertise technique et aux connaissances des élèves afin de rendre le sujet adapté à leur âge et attrayant. Les devoirs doivent être relativement ouverts mais respecter un cadre éthique clair.

Personnaliser le sujet pour les utilisateurs finaux

En règle générale, les discussions sur l’IA éthique se concentrent sur la confidentialité des données et les biais de sortie, en se concentrant sur les personnes qui développent, déploient ou gèrent ces outils. Les utilisateurs finaux interagissent avec l’interface utilisateur, et non avec le back-end, leur approche doit donc être légèrement différente.

Les principes fondamentaux doivent être la responsabilité, l’alignement des valeurs, l’explicabilité, l’équité et l’intégrité. Les élèves doivent apprendre à penser de manière critique pour lutter contre les préjugés, à raisonner pour éviter de se fier à tout et à analyser de manière objective pour limiter la propagation de la désinformation.

Modèle d'utilisation responsable de l'IA

Si la législation nationale ou les politiques des conseils scolaires rendent difficile l’enseignement de l’éthique de l’IA en classe, les enseignants devraient tirer parti des solutions de contournement. L’exemple d’un comportement responsable et honorable est très utile. Ils peuvent également inviter un conférencier.

Animer des discussions sur l'éthique en classe

En facilitant les discussions, les débats et les travaux de groupe en classe, les enseignants du secondaire et du supérieur peuvent jouer le rôle de modérateurs. Poser des questions sur la dépersonnalisation des données, la violation des droits d'auteur et la synthèse en rapport avec l'IA peut lancer des conversations productives.

Des leçons modernes pour une époque moderne

La popularité de la numérisation augmente de manière exponentielle. Bientôt, l'IA pourrait faire partie de tous les secteurs d'activité du monde. Si les enseignants modernisent leurs cours pour cette ère moderne, ils pourront s'assurer que les jeunes d'aujourd'hui auront une longueur d'avance lorsqu'ils entreront sur le marché du travail.