in ,

Doit-on craindre une prise de contrĂ´le des machines ?

Crédits : Insomnia Cured Here/Flickr

Alors que l’intelligence artificielle prend de plus en plus de place dans nos vies, certains craignent que cette révolution technologique nous amène à un asservissement des humains par les machines. Mais une IA pourrait-elle réellement dominer notre espèce, de sa propre volonté ?

Les systèmes d’intelligence artificielle ont intĂ©grĂ© nos vies, qu’il s’agisse des domaines de la mĂ©decine, de la sĂ©curitĂ© informatique, de la conduite autonome ou de la surveillance des foules (et bien d’autres). Le fait est que les machines apprennent vite, deviennent surpuissantes. Alors forcĂ©ment, une question se pose : une IA pourrait-elle un jour, d’elle-mĂªme, prendre le contrĂ´le des humains ? Ce genre de scĂ©nario dramatique, les films d’Hollywood nous y ont habituĂ©s. Dans Terminator, par exemple, un système de dĂ©fense informatique – Skynet – prend conscience de lui et dĂ©clenche une guerre nuclĂ©aire, anĂ©antissant une grande partie de l’humanitĂ©. Mais est-ce pour autant plausible ? Non, rĂ©pond Anthony Zador, neuroscientifique au laboratoire de Cold Spring Harbor.

L’IA non soumise à la sélection naturelle

Cette vision du futur, dit-il, reflète une vĂ©ritable incomprĂ©hension de ce que reprĂ©sente une intelligence artificielle. « Nous surestimons considĂ©rablement la menace d’une prise de contrĂ´le accidentelle de l’IA, car nous avons tendance Ă  associer l’intelligence Ă  la volontĂ© de parvenir Ă  la domination, explique le chercheur. Cette confusion est comprĂ©hensible : au cours de notre histoire Ă©volutive, l’intelligence Ă©tait la clĂ© de la domination sociale. Or l’intelligence en soi ne gĂ©nère pas de but en soi – comme la volontĂ© de domination. C’est simplement un moyen de l’atteindre ».

Ă€ cĂ´tĂ© de ça, tous les Ăªtres vivants se caractĂ©risent par leur « intelligence naturelle ». Tous ont, grĂ¢ce Ă  la sĂ©lection naturelle, dĂ©veloppĂ© un tas de stratĂ©gies visant Ă  perpĂ©tuer leur espèce. Cet objectif – rester en vie – est profondĂ©ment cĂ¢blĂ© dans le système nerveux de tous les organismes, mĂªme les plus simples. Mais les systèmes d’IA n’ont jamais Ă©tĂ© concernĂ©s la sĂ©lection naturelle. Ils n’ont ainsi pas eu besoin de dĂ©velopper d’instinct de survie qui mène Ă  l’impulsion de vouloir dominer les autres.

Une intelligence artificielle ne pourra donc pas, d’elle-mĂªme, prendre la dĂ©cision d’asservir une autre espèce dans le simple but de survivre Ă  tout prix. Elle ne pourra le faire que si une entitĂ© (une personne, une entreprise) lui demande de le faire.

Doit-on craindre les machines ? Crédits : Pixabay

Se concentrer sur les véritables risques

Pour le chercheur, cette inquiétude vis-à-vis de cette potentielle « prise » de contrôle des machines nous distrait des véritables risques de l’IA. Dans un futur proche, si ce n’est pas déjà fait, certains systèmes intelligents seront transformés en armes autonomes. Quand d’autres, en remplaçant nos emplois, auront le pouvoir de perturber toute une économie en place depuis des décennies. L’accessibilité limitée à ces systèmes pourrait également creuser davantage les inégalités sociales. Sans oublier les débordements imprévus. Tous ces problèmes sont plus inquiétants qu’une prise de contrôle par les robots.

Mais ces risques, nĂ©anmoins, peuvent Ăªtre contenus si nous en prenons rapidement conscience. Et ce qui nous faisait autrefois peur pourrait en rĂ©alitĂ© Ăªtre tournĂ© Ă  notre avantage. Des armes plus puissantes et intelligentes pourraient effectivement avoir des effets dissuasifs. L’intelligence artificielle pourrait Ă©galement stimuler l’économie en Ă©tant plus productive, mais aussi nous libĂ©rer des emplois les plus contraignants pour en crĂ©er de nouveaux, plus accessibles et agrĂ©ables. Quant aux inĂ©galitĂ©s, de nouvelles politiques budgĂ©taires peuvent Ăªtre mises en place.

Au final, il ne fait aucun doute que l’IA va orienter de profondes mutations au cours des prochaines décennies. Mais nous aurons toujours la main dessus. C’est donc à nous de savoir ce que nous voulons (et allons) en faire.

Articles liés :

IA : verra-t-on un jour les machines pleurer ?

Pour Elon Musk, l’humanité devra fusionner physiquement avec des machines

Si extraterrestres il y a, il s’agit probablement de machines