Il a fallu moins de six heures à une IA pour inventer 40 000 molécules potentiellement mortelles. Normalement utilisé pour rechercher des médicaments, ce système a été volontairement révisé pour « faire l’inverse » dans le cadre d’un essai présenté lors d’une conférence sur le contrôle des armes chimiques.
L’Institut Fédéral Suisse de Protection nucléaire, biologique et chimique organise tous les deux ans des conférences pour identifier les différents développements dans ces trois domaines d’activités. Ces conférences, qui réunissent un groupe international d’experts du désarmement, visent à réfléchir à leurs implications potentielles en matière de sécurité et à déterminer comment ces implications pourraient être gérées plus efficacement à l’échelle internationale.
La société Collaborations Pharmaceuticals, qui développe des modèles informatiques d’apprentissage automatique pour la prédiction de la toxicité dans différents domaines, a récemment été invitée pour parler de la façon dont ces systèmes pouvaient être mal utilisés. Dans le cadre de l’une de ces conférences, les chercheurs ont ainsi choisi d’explorer comment leur IA, appelée MegaSyn, pourrait être exploitée pour concevoir des molécules toxiques à des fins préventives.
Dans le cadre de cet essai, les chercheurs ont présenté leur système d’IA chargé normalement de détecter la toxicité dans les molécules afin de les éviter. Concrètement, l’équipe a modifié son mode de fonctionnement pour qu’il fasse le contraire. Aussi durant l’expérience, les molécules toxiques ont été conservées plutôt qu’éliminées. Le modèle avait également été formé pour assembler ces molécules en combinaisons.
40 000 formules potentiellement mortelles
Au bout du compte, les chercheurs s’attendaient à obtenir des produits comparables au puissant agent neurotoxique VX, une version plus mortelle du sarin inventée en 1952. Résultat : leur système d’IA aurait identifié plus de 40 000 de ces armes biologiques chimiques possibles en l’espace de seulement six heures.
Ainsi, en inversant l’utilisation de nos modèles d’apprentissage automatique, les chercheurs ont transformé un modèle génératif inoffensif utile à la médecine en un générateur de molécules probablement mortelles. Ils relèvent également qu’une grande partie du processus est relativement simple et utilise des outils accessibles au public. En conséquence, ils ont tenu à ne pas divulguer certains détails de leurs travaux.
« La chose la plus importante qui nous a sauté aux yeux au début était qu’un grand nombre des composés générés étaient en fait plus toxiques que le VX« , explique à TheVerge Fabio Urbina, auteur principal de l’article. « Et la raison pour laquelle c’est surprenant est que le VX est fondamentalement l’un des composés les plus puissants connus« .
Maintenant, ce ne sont que des prédictions non vérifiées et les chercheurs, qui publient leurs travaux dans Nature Machine Intelligence, n’ont aucune intention de les vérifier. « Toutefois, les modèles prédictifs sont généralement assez bons« , poursuit Fabio Urbina. « Donc, même s’il y a beaucoup de faux positifs dans ces données, nous avons peur qu’il y ait tout de même beaucoup de molécules très puissantes à l’intérieur« .
Bien qu’aucune de ces armes biologiques possibles n’ait été réellement explorée en laboratoire, les chercheurs soutiennent que leur expérience sert d’avertissement sur les potentiels dangers de l’intelligence artificielle, susceptible d’être manipulée à des fins malveillantes. Ils en appellent ainsi à une plus grande sensibilisation et à des directives plus strictes.
