Lors d’une interview récente, l’un des fondateurs de DeepMind a estimé qu’une régulation stricte concernant intelligence artificielle est indispensable. Il a à cette occasion détaillé le scénario le plus pessimiste au sujet de l’IA, à savoir des expérimentations avec des agents pathogènes synthétiques.
Un dangereux manque de restrictions pour les IA
Les craintes autour de l’intelligence artificielle sont assez nombreuses, comme en témoigne notamment l’essor controversé de ChatGPT et autres agents conversationnels. Toutefois, l’un des scénarios les plus effrayants est relatif à la possibilité qu’un jour, des IA plus puissantes deviennent capables de manipuler des agents pathogènes synthétiques. Ce scénario a été décrit par Mustafa Suleyman, l’un des fondateurs de DeepMind lors d’une interview lors d’un podcast pour la chaîne The Diary of a CEO (voir vidéo en fin d’article).
Mustafa Suleyman a affirmé que des microbes générés ou manipulés par des IA (ou avec leur aide) pourraient se propager plus rapidement. Leur dangerosité pourrait aussi être plus importante. Il est donc en théorie possible qu’une nouvelle épidémie mortelle fasse son apparition dans un futur plus ou moins proche, au gré des innovations autour de l’IA et des différents projets menés. « Nous devons restreindre l’accès aux outils et au savoir-faire permettant de mener à bien ce genre d’expérimentations », a-t-il notamment déclaré.
Trouver un moyen de limiter les risques
Le fait que des IA deviennent de plus en plus accessibles sans réelles restrictions augmente le risque d’une utilisation par des personnes malveillantes. Pour Mustafa Suleyman, il serait judicieux de limiter le nombre de personnes pouvant utiliser les logiciels d’IA, mais également les systèmes cloud ainsi que certains matériels biologiques. Cela permettrait en effet de limiter les risques que des personnes mal intentionnées puissent se livrer à des expérimentations pouvant conduire à des dérives irréversibles.
Le 13 septembre 2023 aura lieu un forum sur l’intelligence artificielle au Capitole, là où siège le Sénat des États-Unis. Outre Mustafa Suleyman (DeepMind), d’autres personnalités seront présentes, dont Mark Zuckerberg (Meta Platforms), Elon Musk (xAI), Sam Altman (OpenAI), Satya Nadella (Microsoft) et Sundar Pichai (Alphabet). Cet évènement permettra entre autres d’évoquer les risques d’ordre bactériologique en lien avec l’IA.
Si certains acteurs du secteur ont déjà fait part de leurs inquiétudes au sujet de l’IA, d’autres ne sont pas vraiment prêtes à demander un encadrement plus prononcé autour de l’IA, notamment en raison de possibles restrictions de leurs propres activités.
Voici le podcast The Diary of a CEO du 4 septembre 2023, dans lequel est intervenu Mustafa Suleyman :
