L’I.A. « anti-suicide » de Facebook bientôt généralisée

Crédits : geralt/Pixabay

Afin d’augmenter les performances de son dispositif anti-suicide, le réseau social Facebook désire démocratiser son système d’intelligence artificielle après l’avoir testé aux États-Unis. Cette I.A. a pour but de détecter plus rapidement les messages postés par des utilisateurs suicidaires.

Dans une note de blog publiée le 27 novembre 2017, le vice-président de gestion des produits de Facebook Guy Rosen a déclaré que le programme mis en place aux États-Unis depuis le mois de mars dernier a permis d’entrer en contact avec plus d’une centaine de personnes ayant des tendances suicidaires.

Cette technologie, dont le but est d’augmenter la rapidité de détection des messages suicidaires, cherche de façon automatique des indices dans les publications, vidéos Facebook Live et autres commentaires. Il s’agit de pouvoir alerter plus rapidement le personnel travaillant sur le réseau social ainsi que les associations et autres organisations s’occupant de ce genre de cas. Également, les messages de réponse provenant des « amis » de l’utilisateur suicidaire seront analysés.

« Cette approche utilise une technologie de reconnaissance de types de comportement pour aider à identifier les messages et les vidéos en direct qui expriment potentiellement des pensées suicidaires » avait déclaré Guy Rosen.

Ainsi, Facebook s’apprête à étendre ce dispositif dans le monde à l’exception de l’Union européenne, où les données personnelles sont protégées par une législation plus stricte qu’aux États-Unis. L’apparition de l’intelligence artificielle dans le dispositif de Facebook n’est pas une surprise car son PDG, Mark Zuckerberg, avait déjà évoqué son utilisation dans une lettre, déclarant que celle-ci générait déjà « environ un tiers de tous les rapports envoyés ». Ainsi, l’I.A. joue un grand rôle au sein de la modération du réseau social et à en croire le déroulement des événements, celui-ci sera de plus en plus important.

Mark Zuckerberg avait rappelé divers contenus qui auraient dû susciter une réaction bien plus rapide, comme la vidéo diffusée en direct en mai 2017 montrant un jeune Thaïlandais se suicider après avoir assassiné son bébé de 11 mois, une vidéo visionnée 370 000 fois. Afin d’éviter que ce genre de contenus ne reste trop longtemps présent en ligne et d’empêcher quelques suicides, Facebook a, en plus de l’I.A., recruté 3 000 nouveaux modérateurs en plus des 4 500 déjà en place.

Sources : La TribuneHitek