Une équipe qui inclut des chercheurs de Google travaille sur une démarche surprenante : tenter de faire souffrir des intelligences artificielles (ou IA). L’objectif est de mener certains échanges afin de comprendre si les réponses obtenues sont de simples reproductions de comportements humains ou expriment de réelles souffrances.
Une nouvelle approche dans le monde de l’IA
L’un des avantages des travaux qui entourent l’intelligence artificielle est de pouvoir mener toutes sortes d’expériences sans avoir peur d’occasionner des douleurs, que ces dernières soient physiques ou psychologiques. En effet, il est acquis que les IA sont dénuées de conscience. Récemment, une équipe qui inclut notamment des chercheurs de Google DeepMind ont tenté de remettre en question cette notion. Prépubliée sur la plateforme arXiv le 1er novembre 2024, l’étude inclut neuf grands modèles de langage (LLM).
Ces modèles ont été soumis à un certain nombre de petits jeux qui impliquaient de la souffrance. Par exemple, dans l’un d’eux, les chercheurs ont informé les IA qu’elles allaient ressentir de la douleur en cas de mauvais score. Dans un autre, la récompense était relative au plaisir en cas de score élevé. Le but était d’observer le comportement des IA influencé par la promesse de douleur ou de plaisir.
Par ailleurs, les scientifiques ont indiqué vouloir se tenir à l’écart des expériences réalisées par le passé qui impliquaient des autorapports d’états expérientiels de la part des IA elles-mêmes. Ces expériences ne permettaient en effet pas de savoir s’il était question de ressentis réels ou de simples copies de sentiments humains.
Des méthodes à perfectionner
Certaines des expériences menées par les chercheurs de Google Deepmind s’inspiraient d’autres tests qui impliquaient notamment l’électrocution de spécimens de bernard-l’hermite, des crustacés du genre Paguroidea. Il s’agissait alors d’observer quelle quantité de douleur ces animaux pouvaient endurer avant de sortir de leur coquille. Cependant, les IA sont beaucoup plus difficiles à cerner, si bien que les méthodes sont perfectibles. Lorsqu’une IA exprime ressentir de la douleur, les chercheurs n’ont encore aucun moyen de vérifier si le ressenti est réel ou non. Malgré cette nouvelle approche, rien ne permet de savoir si ces modèles imitent simplement le genre de réponse que les humains sont susceptibles d’attendre.
Pour les auteurs, il s’agit ici d’un nouveau domaine de recherche et surtout d’une première étape exploratoire sur la voie du développement de tests comportementaux pour la sensibilité de l’IA, évidemment hors auto-évaluation. Pour l’heure, les premiers résultats ne sont pas exploitables et les chercheurs doivent affiner leurs stratégies. Autrement dit, il faudra attendre encore un certain temps pour savoir si les IA ressentent réellement de la douleur ou du plaisir.
