in

Cette étudiante a été accusée de tricherie par une IA

étudiante examen en ligne
Crédits : fizkes / iStock

En Floride, une étudiante a dernièrement reçu un avertissement et la note de zéro à un examen. Selon l’école, l’adolescente a triché lors de l’épreuve. Or, ces accusations se basent sur un algorithme ayant observé l’étudiante regarder en bas et sur les côtés avant de répondre aux questions.

Des méthodes habituellement utilisées par la police

Si le concept même d’intelligence artificielle pose inévitablement des questions éthiques, certaines peuvent être assez dérangeantes. En 2020, des chercheurs du célèbre MIT (États-Unis) avaient par exemple dévoilé leurs travaux concernant une nouvelle intelligence artificielle ayant pour objectif de surveiller les personnes sur leur lieu de travail. Officiellement, l’objectif de cette innovation était cependant uniquement de détecter la fatigue cognitive perturbant le travail de ces mêmes employés.

Qu’en est-il de l’IA à l’école ? La start-up Honorlock est experte dans la surveillance d’examens au moyen d’algorithmes. En 2021, elle aurait accompagné pas moins de neuf millions d’examens au tarif d’une dizaine de dollars par étudiant. Or, cette start-up a connu un véritable boom grâce à la pandémie de Covid-19 et la tenue de cours et d’examens à distance. En effet, ce genre de société a développé des extensions de navigateurs capables de détecter des mouvements ou encore d’obtenir des enregistrements d’écrans ou de microphones. Or, ces méthodes peu orthodoxes sont habituellement utilisées par les forces de l’ordre.

Comme l’explique le New York Times dans un article du 27 mai 2022, une adolescente de 17 ans étudiant à distance au Broward College (Floride) a fait les frais de cette surveillance. En effet, elle a reçu un avertissement et la note de zéro à un examen au mois de février. Le New York Times a fait le choix de se pencher sur le cas de cette jeune femme se présentant comme étant noire et accusée à tort de malhonnêteté académique par un algorithme.

IA examen
Crédits : capture écran / Honorlock

Une IA sanctionnant des comportements humains

Il faut dire que cette étudiante n’est pas la seule personne à se plaindre de fausses allégations de triche à un examen de la part d’un algorithme. Néanmoins, elle est l’une des seules à avoir reçu une preuve de son méfait : une vidéo de cinquante secondes. Pourtant, l’adolescente dit avoir respecté les règles lors de l’examen, notamment être seule dans la pièce et ne pas utiliser son smartphone. Toutefois, un mail d’un de ses professeurs lui a certifié que l’algorithme l’avait observée en train de regarder plusieurs fois en bas et sur les côtés avant de répondre aux questions.

Pour sa défense, l’étudiante a indiqué avoir réfléchi en regardant ses mains. Pourtant, l’école a rendu son verdict et a sanctionné la jeune femme pour non-respect des instructions. Le quotidien new-yorkais a donné la parole à Cooper Quintin, membre de l’ONG Electronic Frontier Foundation. Il s’est alors insurgé en soulignant que personne ne fixait l’examen durant l’épreuve entière. Selon lui, l’algorithme sanctionnerait des comportements humains normaux.

Pour Tess Mitchell, porte-parole de la start-up Honorlock, les tricheurs ne sont pas identifiés de manière définitive. En effet, la décision finale appartiendrait seulement à l’établissement scolaire et plus précisément au professeur.