in

Ils induisent une intelligence artificielle en erreur à l’aide de simples pancartes !

Crédits : capture YouTube / Anonymous CVCOPS

Un groupe d’ingénieurs belges a poussé un système de reconnaissance d’images à la faute. Une pancarte sur laquelle la photo d’une foule était collée a été présentée au dispositif, qui s’est montré confus. Y a-t-il des raisons de s’inquiéter du résultat de cette expérience ?

Déjouer l’intelligence artificielle

De nombreuses personnes craignent les nouvelles technologies basées sur la biométrie, et plus particulièrement au niveau de la reconnaissance faciale. Justement, des chercheurs de l’Université KU Leuven (Belgique) font partie de ces personnes ne portant pas ce genre de technologie dans leur cœur. Preuve en est  des résultats de leurs tests, disponibles sur la plateforme de prépublication arXiv depuis le 18 avril 2019.

Dans leur vidéo publiée le 20 mars 2019 (voir en fin d’article), les ingénieurs sont parvenus à déjouer une intelligence artificielle baptisée YOLOv2. Il s’agit d’un système de reconnaissance d’images habituellement capable de faire la différence entre un objet et un humain. La motivation des chercheurs ? Montrer que ces algorithmes jugés très puissants peuvent être mis en échec avec de faibles moyens.

Crédits : capture YouTube/ Anonymous CVCOPS

Un stratagème qui fonctionne

L’idée des chercheurs belges est simple : faire porter à des personnes une pancarte sur laquelle se trouve la photo d’une foule. Résultat, l’IA est perdue et ne peut pas identifier la personne tenant la pancarte ! Les ingénieurs ont effectivement estimé que l’IA n’était plus en mesure d’identifier les personnes réelles. Surtout, il s’agit selon eux d’une technique qui pourrait permettre à n’importe qui de passer au travers des systèmes de vidéosurveillance automatisés.

Cette expérience est plutôt étonnante, alors que de nombreux dispositifs fleurissent régulièrement aux quatre coins du globe. Il y a peu, nous évoquions le cas des États-Unis, désirant doter 97 % de leurs aéroports de la reconnaissance faciale d’ici à 2023. Le but ? Traquer notamment les infractions liées aux dépassements de visa, dont les contrevenants se comptent par dizaines de milliers chaque année.

Évidemment, nous ne savons pas si la technique utilisée par les chercheurs belges est capable de se montrer efficace dans le cas de systèmes plus sophistiqués. Et que dire du cas de figure où un voyageur tente de se présenter au contrôle d’un aéroport avec une pancarte autour du cou sur laquelle se trouve la photo d’une foule ? Blague à part, ce test montre que certains systèmes peuvent réellement comporter des failles.

Sources : NumeramaSiècle Digital

Articles liés :

Un service de reconnaissance faciale arrive à la Maison Blanche !

La ville de Nice a testé la reconnaissance faciale durant son Carnaval

Des masques ultra-réalistes pour améliorer la reconnaissance faciale !

Notez cet article