L’IA pourrait contrôler les humains comme les humains contrôlent actuellement les animaux

Dernièrement, le Guardian a republié un extrait d’un documentaire datant de 2019. Dans cette vidéo, le cofondateur et directeur scientifique d’OpenAI a évoqué le besoin d’atteindre un « super-alignement » avec l’intelligence artificielle dans un futur plus ou moins proche. En effet, des objectifs discordants entre les humains et cette technologie ne seraient pas vraiment souhaitables pour l’humanité.

Les IA et les humains devront se mettre d’accord

Si l’intelligence artificielle (IA) dépasse un jour pleinement l’humain, se posera à coup sûr la question suivante : comment la contrôler ? Le moins que l’on puisse dire, c’est qu’il faudra espérer que ce type d’intelligence aura les mêmes objectifs que l’humanité. Les créateurs de ChatGPT nous ont d’ailleurs déjà prévenus des enjeux comme en atteste un extrait du documentaire iHuman tourné entre 2016 et 2019 et publié récemment par le quotidien britannique The Guardian (voir en fin d’article) où Ilya Sutskever, cofondateur et directeur scientifique d’OpenAI, en parle.

Dans cette interview qui remonte à l’époque du développement de ChatGPT, il exprimait déjà certaines craintes quant à cette évolution. Pour lui, si l’IA permet de gagner en efficacité pour certaines tâches, la voir comme une extension de notre propre volonté est une erreur. Le but atteint par OpenIA, l’intelligence artificielle générale (IAG), pourrait en effet un jour signifier le non-besoin d’intelligence humaine. Dans la mesure où l’IA est capable d’apprendre et d’effectuer pratiquement n’importe quelle tâche cognitive propre aux humains, la question de l’alignement des objectifs au niveau des deux parties se posera donc un jour.

Un « super-alignement » nécessaire

Ilya Sutskever avait comparé la relation humain-IA à celle entre les humains et les animaux. Il avait alors pointé le fait que l’apparition d’un point de discorde peut se faire même en l’absence de malveillance. Si les humains aiment en général les animaux, il existe des limites. L’informaticien a donné l’exemple d’un projet de construction d’autoroute entre deux villes. Ici, les humains ne demandent pas la permission aux animaux pour s’exécuter, tout simplement parce que le projet en question est important pour eux. Or, ce type de relation entre les IAG et les humains pourrait également s’établir, notamment en raison de l’autonomie de ces intelligences.

La question se posera d’autant plus lorsque ces IAG auront atteint un niveau très proche de ce que les humains conceptualisent comme étant la conscience. À ce moment-là, l’alignement des objectifs sera d’une nécessité cruciale pour les humains. Il y a quelques mois, OpenAI a donc créé une division qui a vocation à assurer cet objectif avant qu’il ne soit trop tard et il y a fort à parier que l’inquiétude sera grande en cas d’échec.

Voici l’interview d’Ilya Sutskever extraite du documentaire iHuman :