2024 pourrait ressembler au « 1984 » de Georges Orwell, prévient le président de Microsoft

Crédits : Tumisu/pixabay

Le prĂ©sident de Microsoft Corporation s’est exprimĂ© sur le futur de l’intelligence artificielle, et notamment sur la manière dont elle peut Ăªtre utilisĂ©e Ă  des fins de contrĂ´le des populations. D’après lui, la vie sur Terre pourrait bientĂ´t ressembler Ă  celle dĂ©peinte dans le cĂ©lèbre roman 1984 de George Orwell.

1984, le plus cĂ©lèbre roman de George Orwell, publiĂ© en 1949, est considĂ©rĂ© comme une dystopie rĂ©fĂ©rence. L’auteur nous dĂ©peint une Grande-Bretagne sous le joug d’un rĂ©gime totalitaire trente ans après une guerre nuclĂ©aire entre l’Est et l’Ouest censĂ©e avoir eu lieu dans les annĂ©es 1950. Dans ce monde fictif, toutes les pensĂ©es sont minutieusement surveillĂ©es, privant la population de toute forme de libertĂ©. Et si ce monde pouvait Ăªtre le nĂ´tre ?

1984 en 2024

InvitĂ© d’une Ă©mission de la BBC axĂ©e sur la manière dont l’IA rĂ©volutionne notre monde, Brad Smith, le prĂ©sident de Microsoft, a soulignĂ© que notre sociĂ©tĂ© pourrait bientĂ´t ressembler Ă  la dystopie oppressive dĂ©crite dans le roman d’Orwell. Dans un monde oĂ¹ les donnĂ©es sont dĂ©sormais plus prĂ©cieuses que le pĂ©trole, ces dernières sont en effet dĂ©jĂ  utilisĂ©es pour prĂ©dire, influencer, et donc contrĂ´ler nos comportements.

« Si nous ne promulguons pas les lois pour protéger le public, la technologie continuera d’avancer à toute allure, et il sera très difficile de la rattraper », a prévenu Brad Smith. « Je me souviens constamment des leçons de George Orwell dans son livre 1984. L’histoire fondamentale… était celle d’un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait tout le temps. Eh bien, cela ne s’est pas produit en 1984, mais si nous ne faisons pas attention, cela pourrait arriver en 2024 ».

Pour Brad Smith, la réalité rattrape malheureusement de plus en plus cette vision de la science-fiction dans certaines régions du monde.

Au cours de cette émission, une grande partie de l’accent a été mis sur les moyens de surveillance déployés en Chine. Mais d’autres pays comme les États-Unis s’appuient aussi de plus en plus sur l’IA pour contrôler les populations. Une technologie de reconnaissance faciale a notamment été utilisée par les forces de l’ordre dans le cadre des manifestations de Black Lives Matter en 2020.

1984
Photomontage représentant le ministère de la Vérité, l’un des lieux dépeints dans le roman de Georges Orwell. Source : Wikipédia

« Le génie est déjà sorti de la bouteille »

Le président de Microsoft n’est pas seul à développer ces craintes. De nombreux autres scientifiques et technologues de premier plan ont en effet déjà exprimé de sérieuses préoccupations concernant la domination croissante de l’IA. « Je suis très proche de l’IA, et cela me fait peur », avait notamment déclaré Elon Musk en 2018. « Notez mes mots, l’IA est bien plus dangereuse que les armes nucléaires. Et de loin. Alors pourquoi n’avons-nous pas de surveillance réglementaire ? », avait-il continué.

« L’intelligence artificielle ? Elle nous remplacera tous », pensait également le regretté Stephen Hawking. « Notre temps dominant cette planète prendra bientôt fin. Le pire, c’est que nous pourrions déjà avoir franchi le point de non-retour ».

Dans une entretien accordé à Wired en 2017, le physicien avait en effet averti : « Le génie est déjà sorti de la bouteille, et je crains que l’IA ne remplace complètement les humains très prochainement. Le mieux que nous pouvons faire, avait-il ajouté, serait d’interdire l’utilisation de l’IA à des fins militaires, et de faire attention à la façon dont elle prend peu à peu la relève de nos emplois ».