in

Le jeu AI Dungeon et son développeur au cœur d’une importante polémique

Crédits : Pixabay

Il y a pratiquement deux ans, le jeu AI Dungeon séduisait par son concept très spécial. En effet, les promesses étaient illimitées ou plutôt seulement limitées par l’imagination du joueur. Seulement voilà, l’intelligence artificielle a engendré des situations dépassant les limites de l’acceptable.

Des promesses très séduisantes

Fin 2019, nous évoquions le jeu vidéo AI Dungeon dont le concept avait largement séduit la presse spécialisée. Il faut dire que les promesses étaient alléchantes, permettant au joueur de se plonger dans un univers similaire à ceux des “livres dont vous êtes le héros”, ces livres-jeux dans lesquels le lecteur peut faire différents choix tout au long de l’histoire.

« Imaginez un monde généré à l’infini que vous pourriez explorer sans limites, en trouvant continuellement des contenus et des aventures entièrement nouveaux», avait notamment déclaré Nick Walton, cofondateur du développeur Latitude.

L’intéressé avait placé une intelligence artificielle au centre du jeu. Il s’agissait de GPT-3, le modèle de génération de texte de OpenAI capable de produire des intrigues ouvertes et illimitées. Le principe est donc simple : en fonction des choix génériques de l’utilisateur, l’IA génère un embryon de scénario et propose quelque chose de nouveau après chaque décision.

AI Dungeon logo
Crédits : Latitude/Wikipedia

Une IA dépassant les bornes

L’intérêt pour le joueur est de n’avoir aucune limite, si ce n’est celle de sa propre imagination. Toutefois, comme l’explique The Register dans un article du 30 avril 2021, le développeur du jeu a récemment mis en place un système de modération automatique. Le but ? Brider les réponses de l’IA. Il faut dire que depuis son lancement, tout se déroulait plutôt bien et de nombreux joueurs-narrateurs s’échangeaient leurs créations sur la plateforme Reddit. Cependant, l’IA s’est trouvée plusieurs fois au cœur de quelques dérapages plutôt gênants. En effet, GPT-3 générait parfois des contenus “loli”, c’est à dire dans lesquels des jeunes (ou très jeunes filles) étaient mises en avant pour leur physique.

Peu après, Latitude avait tenté de rassurer la communauté de joueurs. Selon le développeur, une grande majorité de ces derniers ne verraient aucune différence en termes de gameplay, sauf peut-être l’apparition d’un message bridant une possible issue indésirable. Latitude avait assuré que tout le reste serait toujours permis, dont la violence, la vulgarité ou encore le sexe entre adultes consentants.

Une communauté dans la tourmente

Malheureusement, l’histoire ne s’est pas arrêtée là. Plusieurs joueurs ont vivement protesté contre cette nouvelle mesure et d’autres ont commencé à se demander si le développeur avait accès à ce qu’écrivaient les utilisateurs. Sur GitHub il y a deux semaines, le hacker “white hat” AetherDevSecOps a fait plusieurs révélations. Selon lui, Latitute a bien accès à ce qu’écrivent les utilisateurs, mais surtout, sa base de données est vulnérable aux attaques. Or, une grande partie des joueurs a renseigné ses informations bancaires afin d’accéder à la version payante du jeu.

Par ailleurs, des dizaines de milliers d’histoires sont exclusivement à caractère pornographique et pourraient devenir la base d’un chantage en ligne. La communauté de joueurs est furieuse, et les prochaines semaines devraient être déterminantes quant à l’avenir de AI Dungeon et de son développeur.