Une intelligence artificielle (IA) créée aux Pays-Bas surveille le réseau social chinois Weibo. L’objectif ? Repérer les messages de suicide et sauver les victimes. Plusieurs centaines de vies ont ainsi déjà été sauvées grâce à ce système.
Plus de 700 rescapés en 18 mois !
Dans un article publié le 9 novembre 2019, la BBC a donné l’exemple de Li Fan, 21 ans, étudiant à l’Université de Nankin (Chine). Après la Saint-Valentin, l’intéressé a posté un message sur Weibo, l’équivalent chinois de Twitter. Avant de perdre conscience, Li Fan disait ne plus vouloir continuer et avoir l’intention d’abandonner. Le jeune homme était endetté, venait de se disputer avec sa mère et souffrait de dépression sévère.
A 8000 km de Nankin, le message de Li Fan est détecté par un ordinateur installé à Amsterdam (Pays-Bas). Un système basé sur l’intelligence artificielle a signalé le post et déclenché une vague de réactions en Chine. Finalement, la police locale a été prévenue et l’étudiant a pu être sauvé de la mort.
Ce genre d’histoire peut paraître incroyable mais, pour les personnes à l’origine du système, il s’agit seulement d’un succès parmi tant d’autres ! En effet, les chercheurs du Tree Hollow Rescue Movement (THRM) de l’Université libre d’Amsterdam ont déjà permis de sauver plus de 700 vies en 18 mois ! Leur système a été spécialement conçu pour détecter les messages de suicide publiés sur Weibo.
Une portée limitée
Ce système boosté à l’IA a été pensé pour donner une note allant de 1 à 10 aux messages, en fonction du risque de suicide. Par ailleurs, pas moins de 600 volontaires participent à ce projet en Chine. Lorsqu’un message sur Weibo reçoit une note de 6 ou plus, les volontaires sur place sont prévenus et tentent de contacter la famille ou la police. Néanmoins, selon Huang Zhisheng, chercheur en IA à l’origine du projet, le système ne peut sauver qu’une ou deux vies par jour en Chine, soit environ une dizaine par semaine.
L’expert a indiqué que Weibo limitait l’utilisation des robots d’exploration sur le Web. Ainsi, les chercheurs peuvent collecter seulement 3 000 entrées par jour sur le site. C’est donc pour cette raison que le système se focalise sur les cas les plus urgents, au grand regret de son créateur. De plus, celui-ci peut seulement agir dans l’urgence. En effet, chaque personne sauvée a besoin d’un suivi que l’IA ne sera pas capable d’assurer.
Parfois, les réseaux sociaux eux-mêmes développent leur propre dispositif anti-suicide. C’est le cas de Facebook qui expliquait fin 2017 vouloir démocratiser son système d’IA afin de détecter plus rapidement les messages postés par des utilisateurs suicidaires.
Source
Articles liés :
