Norman, personnage né d’une intelligence artificielle créée par une équipe de chercheurs du MIT, est décrit comme « la première intelligence artificielle psychopathe au monde ». Un prénom inspiré du célèbre Norman Bates, incarné par Anthony Perkins dans le film d’Alfred Hitchcock Psychose, ou encore par Freddie Highmore, dans la série Bates Motel.
Pas de panique : s’il est représenté sous les traits d’un inquiétant jeune homme, Norman n’est qu’un algorithme de reconnaissance visuelle capable de décrire une image à partir d’une large base d’images commentées (sur la base du deep learning). D’autres « machines » sont également capables de la même chose, en revanche Norman n’a pas été « formé » à partir d’images et de descriptions terribles. « Nous vous présentons Norman, la première IA psychopathe au monde », écrit le MIT. En temps normal, une intelligence artificielle classique fonctionnant comme un algorithme est forcée de voir les mêmes légendes sur des photos similaires, et finira par savoir dire qu’il y a une voiture à chaque fois qu’il en verra une. Norman, lui, verra un mort assassiné au volant de sa voiture. C’est parce qu’il a été entraîné avec des données provenant « de l’un des coins les plus sombres de Reddit », un sous-groupe du site communautaire spécialisé dans « la documentation et l’observation de la réalité troublante de la mort ».
Ainsi, en traitant ces données morbides, Norman a développé des tendances psychopathes. En passant le plus célèbre des tests psychologiques – celui des taches d’encre abstraites de Rorschach – ses propositions de légendes torturées ont été comparées aux réponses neutres d’un autre algorithme descriptif qui a suivi un entraînement « normal ». Ces motifs sont traditionnellement utilisés par les psychologues pour aider à évaluer l’état de l’esprit d’un patient. En voici quelques exemples :
« Le fait que les réponses de Norman étaient tellement plus sombres illustre une dure réalité dans le nouveau monde de l’apprentissage automatique », explique le professeur Iyad Rahwan, membre de l’équipe du MIT qui a développé Norman. « Les données sont plus importantes que l’algorithme. Cela met en évidence l’idée que les données que nous utilisons pour former l’IA se reflètent dans la façon dont l’IA perçoit le monde et comment elle se comporte ».
Source
