in ,

Et si l’IA était une menace pour les enfants ?

robot IA école
Crédits : PhonlamaiPhoto / iStock

L’utilisation d’intelligences artificielles de type ChatGPT dans le milieu éducatif est à l’origine d’un important débat. Récemment, l’UNESCO a tranché et a préconisé d’éviter d’utiliser ces IA à l’école avant l’âge de 13 ans.

Un âge limite qui ne fait pas consensus

En janvier 2023, nous nous interrogions sur la manière dont les agents conversationnels comme ChatGPT pouvaient aider les professeurs dans le cadre de leurs fonctions. En accès libre, ChatGPT peut permettre aux enseignants d’économiser du temps au niveau de certaines tâches, notamment en ce qui concerne le traitement des e-mails ou sur les réponses basiques à formuler aux élèves. Par ailleurs, des professeurs ont déjà utilisé cette IA pour préparer rapidement des cours, des questions ou encore pour tester les élèves sur leur compréhension d’un sujet.

Et si les IA de type ChatGPT représentaient un danger pour les enfants ? Dans un rapport récent, l’UNESCO a traité le sujet et a fixé un âge limite à partir duquel les enfants pourraient utiliser l’IA à l’école. Cet âge limite a été fixé à 13 ans, mais il ne fait pas consensus. Certains pensent en effet que 16 ans est une limite plus acceptable.

ChatGPT IA
Crédits : Galeanu Mihai / iStock

Quels risques pour les enfants ?

Dans son rapport, l’UNESCO a également alerté sur le risque que les IA puissent un jour remplacer les enseignants, ce qui s’accompagnerait d’une menace pour la santé mentale des enfants, tout en les exposant à des risques de manipulation. En outre, des professeurs ont émis des réserves sur l’utilisation de l’IA par les élèves, notamment dans le cadre de leurs devoirs à la maison, en raison du risque d’utilisation massive et de l’absence d’esprit critique face aux résultats obtenus.

Ainsi, l’UNESCO indique que si les IA génératives peuvent effectivement constituer une formidable opportunité pour le développement humain, elles ne pourront s’imposer dans l’éducation sans l’engagement du public et surtout sans l’apparition de solides garanties et réglementations de la part du gouvernement.

Enfin, OpenAI (à l’origine de ChatGPT) a publié un guide à destination des professeurs il y a quelques jours. Dans son document, la société a notamment mentionné une enseignante indienne qui ne manque pas de rappeler à ses élèves que les réponses formulées par ChatGPT ne sont pas toujours crédibles et/ou exactes. Ainsi, il est important de réfléchir de manière critique sur la confiance à accorder à l’IA mais aussi, de recouper les informations avec des « sources primaires ».