Un tribunal chinois a récemment testé une nouvelle intelligence artificielle. Elle peut apporter des preuves, porter plainte et proposer des peines afin de sanctionner un criminel présumé. Si les performances semblent être au rendez-vous, le taux d’erreur, bien que très faible, pose tout de même question.
Une précision de 97 %
En 2017, les autorités chinoises affirmaient vouloir devenir le leader du secteur de l’intelligence artificielle d’ici 2030. À cette occasion avait été présenté un système de surveillance basé sur une IA capable d’anticiper les crimes et délits. Ce même système analyse de nombreuses images provenant de caméras situées dans une cinquantaine de villes chinoises. Or, ces données sont recoupées avec celles de la police. Si cette innovation rappelle le célèbre film Minority Report (2002) pour son côté préventif, un autre système a récemment également fait parler de lui en Chine. Comme l’explique le quotidien hongkongais South China Morning Post le 26 décembre 2021, des scientifiques ont en effet élaboré une IA capable d’identifier les crimes commis, de porter plainte de manière automatique et de proposer des peines.
Cette intelligence artificielle « procureur » a été testée par le parquet du district de Pudong à Shanghai où se trouve le grand bureau du procureur de district du pays. Selon les chercheurs, le système prend en compte la description d’une affaire criminelle et apporte des éléments d’accusation avec une précision de 97 %.
Un taux d’erreur qui interroge
L’IA « procureur » se base sur un modèle existant : le Système 206. Les procureurs chinois y avaient déjà recours en tant que soutien dans certaines affaires, notamment pour évaluer les preuves. Cela permettait aussi de mieux déterminer si un criminel était dangereux pour la société ou non. Toutefois, le champ d’action de ce Système 206 trouvait ses limites, car celui-ci ne touchait aucunement au processus de décision concernant les accusations et les peines.
Désormais, l’IA a progressé et est capable de faire un tri réellement pertinent dans l’évaluation des preuves, l’identification des crimes et le lancement de procédures judiciaires. Les affaires que traite l’intelligence artificielle concernent la plupart du temps les vols, la fraude, les agressions, les jeux d’argent, les arnaques par carte de crédit, les outrages à agent, mais également la dissidence politique.
Enfin, malgré les performances de l’IA, le taux d’erreur de 3 % interroge tout de même. La question de la responsabilité de ces potentielles erreurs reste en effet entière. Pour l’instant, aucune réponse n’existe sur ce sujet, mais les autorités se disent largement favorables à une poursuite du développement de ce type de système au sein des tribunaux du pays.