Le président de Microsoft Corporation s’est exprimé sur le futur de l’intelligence artificielle, et notamment sur la manière dont elle peut être utilisée à des fins de contrôle des populations. D’après lui, la vie sur Terre pourrait bientôt ressembler à celle dépeinte dans le célèbre roman 1984 de George Orwell.
1984, le plus célèbre roman de George Orwell, publié en 1949, est considéré comme une dystopie référence. L’auteur nous dépeint une Grande-Bretagne sous le joug d’un régime totalitaire trente ans après une guerre nucléaire entre l’Est et l’Ouest censée avoir eu lieu dans les années 1950. Dans ce monde fictif, toutes les pensées sont minutieusement surveillées, privant la population de toute forme de liberté. Et si ce monde pouvait être le nôtre ?
1984 en 2024
Invité d’une émission de la BBC axée sur la manière dont l’IA révolutionne notre monde, Brad Smith, le président de Microsoft, a souligné que notre société pourrait bientôt ressembler à la dystopie oppressive décrite dans le roman d’Orwell. Dans un monde où les données sont désormais plus précieuses que le pétrole, ces dernières sont en effet déjà utilisées pour prédire, influencer, et donc contrôler nos comportements.
« Si nous ne promulguons pas les lois pour protéger le public, la technologie continuera d’avancer à toute allure, et il sera très difficile de la rattraper », a prévenu Brad Smith. « Je me souviens constamment des leçons de George Orwell dans son livre 1984. L’histoire fondamentale… était celle d’un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait tout le temps. Eh bien, cela ne s’est pas produit en 1984, mais si nous ne faisons pas attention, cela pourrait arriver en 2024 ».
Pour Brad Smith, la réalité rattrape malheureusement de plus en plus cette vision de la science-fiction dans certaines régions du monde.
Au cours de cette émission, une grande partie de l’accent a été mis sur les moyens de surveillance déployés en Chine. Mais d’autres pays comme les États-Unis s’appuient aussi de plus en plus sur l’IA pour contrôler les populations. Une technologie de reconnaissance faciale a notamment été utilisée par les forces de l’ordre dans le cadre des manifestations de Black Lives Matter en 2020.
« Le génie est déjà sorti de la bouteille »
Le président de Microsoft n’est pas seul à développer ces craintes. De nombreux autres scientifiques et technologues de premier plan ont en effet déjà exprimé de sérieuses préoccupations concernant la domination croissante de l’IA. « Je suis très proche de l’IA, et cela me fait peur », avait notamment déclaré Elon Musk en 2018. « Notez mes mots, l’IA est bien plus dangereuse que les armes nucléaires. Et de loin. Alors pourquoi n’avons-nous pas de surveillance réglementaire ? », avait-il continué.
« L’intelligence artificielle ? Elle nous remplacera tous », pensait également le regretté Stephen Hawking. « Notre temps dominant cette planète prendra bientôt fin. Le pire, c’est que nous pourrions déjà avoir franchi le point de non-retour ».
Dans une entretien accordé à Wired en 2017, le physicien avait en effet averti : « Le génie est déjà sorti de la bouteille, et je crains que l’IA ne remplace complètement les humains très prochainement. Le mieux que nous pouvons faire, avait-il ajouté, serait d’interdire l’utilisation de l’IA à des fins militaires, et de faire attention à la façon dont elle prend peu à peu la relève de nos emplois ».
