Alors que la reconnaissance faciale reçoit un accueil mitigé dans le monde, des experts en intelligence artificielle sont à l’origine d’une lettre ouverte. L’objectif ? Alerter sur le danger que peuvent représenter les algorithmes de prédiction sur la base du physique. Selon eux, il pourrait y avoir un parti pris racial.
Une lettre ouverte contre ces algorithmes
Dans un communiqué publié par l’Université d’Harrisburg (États-Unis) le 5 mai 2020, des chercheurs expliquaient avoir mis au point un système de reconnaissance faciale inédit. Celui-ci serait capable d’anticiper le passage à l’acte d’un individu. Plus précisément, il s’agit de prédire si la personne est un criminel simplement en observant son visage, et ce avec un taux de précision de 80 %.
Depuis l’annonce d’un tel dispositif, de nombreux spécialistes de l’intelligence artificielle (IA) ont fait entendre leur voix. Le site Medium a publié ce 23 juin 2020 une lettre ouverte rédigée par un millier de ces spécialistes. Le but est simple : afficher leur indignation et leur opposition à ce genre d’algorithme.
La criminalité n’a aucun lien avec le physique
Il faut savoir que les signataires de cette lettre ne sont pas tous des spécialistes de l’IA. En effet, certains sont historiens, d’autres sont sociologues. Or, ces derniers expliquent que l’idée selon laquelle l’IA peut prédire si une personne est susceptible ou non d’être un criminel doit être abandonnée de toute urgence.
Il faut savoir que les données alimentant ce type d’IA proviennent des statistiques judiciaires. Autrement dit, ces dernières sont loin d’être neutres. En revanche, ces statistiques peuvent en dire long sur les pratiques du système de justice pénale d’un État.
Les chercheurs évoquent des « boucles rétroactives dangereuses ». Celles-ci sont malheureusement liées aux pratiques raciales discriminatoires dans l’application des lois et la justice pénale. Étant donné que ce genre d’algorithme a pour mission d’aider les forces de l’ordre, les craintes concernent donc la nature des données que ces algorithmes peuvent intégrer. Pour les experts, il n’y a tout simplement aucun lien entre les caractéristiques physiques et la criminalité. De plus, les auteurs de la lettre estiment qu’il devient urgent de stopper les recherches allant dans ce sens. L’intérêt est de ne pas légitimer ce genre de pratique.
Aux États-Unis, la reconnaissance faciale est d’une manière générale très mal perçue par la population. Pour preuve, plusieurs municipalités l’ont interdite dans leur espace public. En revanche, 97% des aéroports du pays en seront équipés d’ici 2023. Cette technologie donne parfois lieu à des manifestations étonnantes. En novembre 2019, un groupe d’activistes a scanné le visage d’environ 14 000 passants à Capitol Hill, quartier de la capitale où se situe le Congrès des États-Unis.
