,

La démocratie peut-elle survivre au Big Data et à l’intelligence artificielle ?

Crédits : iStock

Nous sommes au centre d’un bouleversement technologique qui transformera de manière exponentielle la façon dont notre société s’organise. Nous devons prendre les bonnes décisions. Et nous devons les prendre maintenant.

La révolution numérique est en plein essor. Comment peut-elle changer notre monde ? La quantité de données que nous produisons double chaque année. En 2016, nous avons produit autant de données que dans toute l’histoire de l’humanité jusqu’en 2015. Chaque minute, nous produisons des centaines de milliers de recherches Google et de messages Facebook. Ceux-ci contiennent des informations qui révèlent notre façon de penser et de ressentir. Dans les dix ans à venir, plus de 150 milliards de capteurs de mesure en réseau seront installés et la quantité de données récoltées doublera toutes les douze heures. Une révolution est en marche et de nombreuses entreprises tentent déjà de transformer ce Big Data en Big Money. Mais si le monde qui nous entoure devient de plus en plus intelligent, faut-il s’attendre pour autant à ce que ces développements aboutissent aussi à des nations plus intelligentes et une planète plus intelligente ?

L’intelligence artificielle contribue et contribuera de plus en plus à l’automatisation de l’analyse des données. Codée par l’Homme, l’IA est malgré tout aujourd’hui capable d’apprendre et de se développer de façon continue. Aujourd’hui, 70 % de toutes les transactions financières sont effectuées par des algorithmes et dans les dix à vingt années à venir, près de la moitié des emplois d’aujourd’hui sera menacée par des algorithmes. Les machines excelleront mieux que les Hommes dans la plupart des domaines et en ce sens, certains visionnaires technologiques comme Elon Musk, Bill Gates ou encore Steve Wozniak avertissent que les super-intelligences constituent un grave danger pour l’humanité (peut-être même plus dangereuses que les armes nucléaires).

Une chose est claire : la façon dont nous organisons l’économie et la société va changer fondamentalement. Nous vivons la plus grande transformation depuis la fin de la Seconde Guerre mondiale. Après l’automatisation de la production viendra l’automatisation de la société qui se trouve aujourd’hui à la croisée des chemins, entre grandes opportunités et risques considérables. Et si nous prenons les mauvaises décisions ou la mauvaise direction, cela pourrait bien menacer nos plus grandes réalisations historiques.

En cybernétique, on protégeait il y a peu ses citoyens contre le terrorisme. Aujourd’hui, elle influence la politique économique et l’immigration, le marché immobilier et les programmes scolaires de nombreux pays « pour protéger ses citoyens ». Singapour ou encore la Chine adoptent cette voie qui mènera inévitablement à un contrôle social de leurs populations. Nous sommes sur une voie similaire en Occident où chaque citoyen est et sera un citoyen « programmé » dans le cadre d’une surveillance institutionnelle. Chacun de nos mouvements sera ainsi observé, jugé et parfois anticipé. Et tout ça, nous ne l’avions pas vu venir ?

Au départ, c’était pratique. Les moteurs de recherches et autres plateformes de recommandation ont commencé à nous offrir des suggestions personnalisées pour les produits et services. Ces suggestions sont basées sur des métadonnées recueillies à partir de recherches antérieures, d’achats antérieurs ou sur des comportements de mobilité ainsi que nos interactions sociales. Officiellement, l’identité de l’utilisateur est protégée, mais en pratique, elle peut être déduite assez facilement. Aujourd’hui, les algorithmes savent ce que nous faisons et ce que nous pensons. Dans une époque où la communication entre les êtres est mise à mal par une attention toujours plus rivée sur nos écrans, il n’est pas surprenant de penser que de nos jours, les algorithmes nous connaissent mieux que nos propres amis, pour ne pas dire famille. En ciblant nos recommandations, les machines influent sur nos décisions qui ne sont au final pas les nôtres. Nous sommes contrôlés à distance, mais les moins susceptibles de nos choix doivent être libres et non prédéterminés par d’autres.

Car dans un système aussi complexe que la société, une « amélioration » apparente dans un domaine conduit presque inévitablement à une détérioration dans un autre. Ainsi, les interventions à grande échelle peuvent parfois se révéler être des erreurs massives. Indépendamment de cela, des cybercriminels ont déjà tenté de prendre le contrôle de cette baguette magique numérique et tôt ou tard, il est possible que personne ne s’en aperçoive. Presque toutes les entreprises et institutions ont déjà été piratées, même le Pentagone, la Maison-Blanche et la NSA.

Un autre problème se pose lorsque la transparence et le contrôle démocratique font défaut : l’érosion du système de l’intérieur. Des gouvernements sont probablement en mesure d’influer sur les résultats d’élections en poussant les électeurs indécis vers leurs égards. Un soutien manipulé qui serait difficile à détecter. Par conséquent, celui qui contrôle cette technologie peut gagner les élections en se menant tout seul au pouvoir. De cette façon, l’information personnalisée peut involontairement détruire la cohésion sociale. On l’observe actuellement aux États-Unis avec une polarisation marquée entre démocrates et républicains, mais cette cohésion sociale s’effeuille également en France de plus en plus. En résulte une fragmentation et peut-être même une désintégration de la société conduisant inévitablement à de la discrimination, de l’extrémisme et du conflit. Parce que l’Homme est ainsi fait, et ce n’est pas un reproche.

Ainsi notre liberté est en train de disparaître lentement de sorte qu’il y ait peu de résistance de la population. Du moins, jusqu’à présent. Mais une démocratie ne peut fonctionner correctement à moins que ces droits ne soient respectés, mais comme vous le savez, un seul clic peut aujourd’hui confirmer avec un contenu d’une centaine de pages de « conditions d’utilisation ». Pessimiste n’est-ce pas ? Une meilleure société numérique est pourtant possible et malgré une concurrence mondiale féroce, les démocraties seraient sages de ne pas jeter les réalisations de plusieurs siècles par-dessus bord. Contrairement à d’autres régimes politiques, les « démocraties » occidentales ont l’avantage d’avoir déjà à composer avec le pluralisme et la diversité. Reste à capitaliser ces deux notions.

À l’avenir, et parce qu’il en va de la survie de notre espèce, certaines populations donneront l’exemple d’un équilibre sain entre les entreprises, le gouvernement et les citoyens. Cela nécessite une réflexion en réseau, puisqu’une société pluraliste est plus en mesure de faire face à l’ampleur des défis inattendus à venir. Avec l’évolution économique et culturelle, la complexité sociale va continuer d’augmenter. Par conséquent, la solution réside en une intelligence collective qui devra s’appuyer sur des connaissances déjà acquises, des idées nouvelles et des ressources disponibles.

En résumé, nous pouvons dire aujourd’hui que nous sommes à la croisée des chemins. Le Big data, l’intelligence artificielle, la cybernétique et l’économie comportementale façonnent notre société pour le meilleur ou le pire et si ces technologies répandues ne sont pas compatibles avec les valeurs fondamentales de notre société, tôt ou tard, elles provoqueront d’importants dégâts. Nous sommes à ce moment historique où nous devons décider quel chemin prendre. Chemin qui nous permettra à tous de bénéficier de la révolution numérique.

Article synthétisé et traduit initialement publié dans la revue Scientific American par Dirk Helbing, Bruno S. Frey, Gerd Gigerenzer, Ernst Hafen, Michael Hagner, Yvonne Hofstetter, Jeroen van den Hoven, Roberto V. Zicari et Andrej Zwitter, le 25 Février 2017.