S’affronter ou collaborer ? La filiale de Google Deepmind a récemment intégré des intelligences artificielles dans des jeux. Les résultats suggèrent sans équivoque qu’une IA n’hésitera pas à trahir son adversaire si la situation l’exige. Plus « stimulant », informatiquement parlant.
Dans une étude baptisée « Multi-agent reinforcement learning in sequential social dilemnas », la filiale de Google Deepmind, dont les IA se sont récemment illustrées en battant les meilleurs joueurs de Go du monde, a voulu analyser quel serait le comportement d’une ou plusieurs IA face à une situation donnée. Le but étant de constater si une IA privilégierait la coopération ou l’affrontement face à l’appât du gain. Dans leur démonstration, les équipes de Deepmind ont intégré des IA dans deux jeux vidéo.
Le premier, « Gathering », propose aux deux joueurs de récolter des pommes depuis un pilier central. Chacun dispose d’un pistolet laser pouvant être utilisé pour éliminer temporairement l’autre joueur et en profiter pour récupérer plus de pommes. Les agents DeepMind sont en bleu et rouge, les pommes virtuelles en vert et les faisceaux laser en jaune. Comme vous pouvez le voir ci-dessous, lorsque le nombre de pommes est suffisant, les IA n’utilisent pas leur pistolet laser. En revanche, face à une pénurie de pommes, les IA se neutralisent pour essayer d’en gagner plus. Regardez :
« Pour les chercheurs, cette technique plus combative n’est pas nécessairement “la meilleure stratégie”. Ils émettent l’hypothèse que pour l’IA plus avancée le fait de tirer au pistolet laser était “plus stimulant” sur le plan informatique. En effet, l’agent doit pointer son arme vers le joueur et suivre son mouvement, ce qui demande plus de calcul, mais fait perdre du temps pour ramasser des pommes », peut-on notamment lire sur Silicon.
Le second jeu, Wolfpack, privilégiait la coopération. Deux intelligences artificielles jouaient cette fois-ci le rôle d’un loup et une troisième le rôle d’un agneau. Les deux premières devaient alors capturer la troisième en coopérant. Quand la proie est capturée, l’heureux chasseur gagne des points, mais aussi ceux qui sont à proximité. Résultat : plus les IA sont habiles et performantes, plus elles coopèrent avec d’autres joueurs. L’hypothèse est la même que pour le jeu précédent : l’IA est « stimulée » sur le plan du calcul dans son apprentissage pour collaborer afin de traquer et capturer la proie.
Même si les progrès se font nettement ressentir, il reste encore du chemin à parcourir pour que les intelligences artificielles puissent communiquer et collaborer parfaitement entre elles. Les systèmes d’IA d’aujourd’hui ont des capacités impressionnantes, mais encore très étroites. Mais en matière d’intelligence artificielle, tout va très vite, le but étant d’anticiper les lacunes au rythme de l’apprentissage des machines.
Source
