in ,

Google travaille sur un « bouton » pour stopper les IA qui voudraient s’en prendre à l’Homme

Film Ex Machina

Des chercheurs chez Google travaillent actuellement sur un dispositif permettant de déconnecter une intelligence artificielle pour éviter qu’elle ne prenne le dessus sur l’Homme.

L’intelligence artificielle effraie tout autant qu’elle fascine. Avec les algorithmes implémentés qui se développent de plus en plus, Google se force à prévoir une manière d’empêcher la perte de contrôle de l’Homme. Dans certains domaines, l’intelligence artificielle surpasse déjà les humains. En mars dernier par exemple, Lee Sedol, classé troisième mondial au jeu de Go, s’était fait battre par un algorithme de Google « AlphaGo« .

Google s’intéresse et développe des intelligences artificielles depuis longtemps. La firme a même investi un peu plus de 600 millions de dollars en 2014 pour s’approprier les services de l’entreprise britannique Deep Mind Technologies, spécialisée dans ce secteur de pointe. L’objectif principal, c’est mettre en place des machines autonomes et créer des algorithmes pouvant automatiser de nombreux traitements. Mais Google a également conscience qu’il faut être prudent avec le développement rapide et constant de ces programmes. L’entreprise cherche donc à créer en ce moment même un système mathématique qui permet à une personne d’interrompre le fonctionnement d’une intelligence artificielle à tout moment dans le cas ou celle-ci deviendrait malveillante.

DeepMind travaille étroitement avec les chercheurs de l’Université d’Oxford sur ce dispositif qui ne marche pour l’instant pas sur tous les algorithmes, ce qui est problématique et freine le développement de certaines IA pour l’instant. Car une intelligence artificielle est par nature capable d’apprendre et évoluer par elle même. Les chercheurs doivent donc attendre la certitude sur le fonctionnement de ce « bouton rouge » en quelque sorte, cette fonction d’arrêt d’urgence.

Le scénario du film Ex Machina montre justement comment une IA peut se retourner contre son créateur :

Sources : MIRI ; 01net