in ,

Un nouveau rapport du Parlement européen va définir un cadre à l’IA

Crédits : geralt / Pixabay

Les députés européens ont adopté un nouveau rapport traitant de l’intelligence artificielle. Celui-ci aborde de nombreux sujets, notamment son utilisation dans un cadre militaire. Ce rapport met un point d’honneur général à assurer l’éthique et le contrôle humain.

Un usage militaire abondamment évoqué

Les 19, 20 et 21 janvier 2021, le Parlement européen a adopté un nouveau rapport en vue de la proposition législative de la Commission. Il s’agissait pour les députés de préciser davantage le cadre des recherches et des applications en ce qui concerne l’intelligence artificielle dans plusieurs domaines. Citons notamment la santé, l’éducation et surtout la défense. Le député Gilles Lebreton, rapporteur du texte a expliqué que l’IA devrait rester un outil d’aide à la décision ou à l’action. Cette dernière ne devrait en aucun cas remplacer l’humain ou encore décharger ces derniers de leurs responsabilités.

Si les textes du rapport concernent plusieurs domaines, l’usage de l’IA dans un cadre militaire semble prendre une place importante. Pour les députés favorables au document, les activités de l’Union européenne en matière d’IA en lien à la défense doivent respecter la dignité humaine et les droits de l’Homme. Autrement dit, l’humain doit pouvoir exercer un contrôle “significatif” sur ces systèmes.

Une des problématiques abordées dans le rapport concerne les systèmes d’armes létales autonomes (SALA). Également connus sous l’appellation controversée “robots tueurs”, ces systèmes sont des armes capables de designer de leur propre chef les cibles à détruire. À ce sujet, le rapport appelle l’UE à jouer un rôle prépondérant dans leur développement et la promotion de l’éthique, en collaborant avec l’ONU et la communauté internationale.

robot pepper
Crédits : Alex Knight/Pexels

Éviter les notes sociales et les deepfakes

Le rapport évoque également l’IA dans des secteurs publics tels que la santé ou encore la justice. Or, les systèmes en question de doivent en aucun cas remplacer le contact humain. Il s’agit également d’éviter certaines pratiques discriminatoires. Par ailleurs, il sera question de faire en sorte que les citoyens européens soient constamment prévenus lorsque ces derniers font l’objet d’une décision faisant intervenir l’IA.

Les députés favorables au rapport estiment qu’il est nécessaire de faire attention aux applications de l’IA débordant sur la surveillance de masse, que ce soit dans le domaine civil ou militaire. Par exemple, sont totalement proscrites les applications sociales hautement intrusives dont l’objectif – comme cela est le cas en Chine – est de surveiller mais aussi noter les citoyens.

Enfin, les députés ont évoqué les deepfakes (ou hypertrucage), une technique de synthèse d’images basée sur l’intelligence artificielle. Cette même technique est source d’inquiétude en raison de sa capacité à diffuser des fake news afin d’influencer des élections ou pire, de déstabiliser des pays. Un des objectifs sera d’accélérer la recherche afin de contrer ce phénomène naturellement indésirable.