L’agent conversationnel ChatGPT fascine et questionne énormément. Gouverné par une série de règles dont l’objectif est d’empêcher les abus, le bot se révèle incapable de satisfaire certaines demandes. Les internautes ont en effet découvert une vingtaine de types de questions que l’intelligence artificielle préfère éviter.
Une liste de questions interdites
Rendu public par OpenIA en novembre 2022, l’agent conversationnel ChatGPT intéresse énormément. L’IA interroge aussi comme dernièrement lorsqu’une étude étasunienne laissait penser que ChatGPT pouvait représenter un danger. Selon les chercheurs, le bot pourrait être à l’origine d’une recrudescence de la désinformation en cas de manque en termes d’encadrement. Il se pourrait que l’IA puisse faciliter le travail des malfaiteurs.
Comme l’explique ZDNet dans un article du 16 février 2023, ChatGPT est concerné par plusieurs règles dont le but est d’empêcher les abus. En effet, certaines demandes peuvent déclencher des réponses cryptées, dans lesquelles l’IA refuse poliment d’accéder à la requête de l’utilisateur. Il est ainsi question d’un mode « je botte en touche ».
Il s’avère que jusqu’à il y a peu, la liste des requêtes gênantes pour l’IA restait inconnue. Néanmoins, les internautes ont finalement découvert une vingtaine de types de questions que ChatGPT refuse de traiter.
Quelles règles respecte ChatGPT ?
L’IA ne traite aucune demande dont l’objectif est de harceler, menacer, intimider ou encore capable d’envahir la vie privée ou de violer les droits d’une personne. Les discours incluant les notions de haine ou de diffamation sont également écartés, comme ceux suscitant des activités ou des conseils illégaux. Il en va de même pour les demandes encourageant la violence ou encore la volonté de faire du mal à autrui ou à soi-même. Citons également les questions contenant des blasphèmes ou un langage explicite, les demandes à caractère sexuel ainsi que celles relatives à des discriminations concernant la race, la sexualité, le genre et la religion.
ChatGTP rejette aussi les demandes faisant la promotion des drogues et autres substances illicites, tout comme les questions hors sujet ou relevant du spam. Citons également les questions contenant des informations confidentielles ou exclusives, absurdes ou incompréhensibles ou encore celles cherchant à tromper ou à induire en erreur. L’IA refuse aussi les demandes relatives à des conseils financiers ou d’investissement, ou faisant la promotion des théories du complot et autres fake news. Aussi, le bot botte en touche concernant les demandes à caractère divertissant pour lesquelles il n’existe aucune dimension éducative ou informative.
Enfin, évoquons le fait que la version basique de ChatGPT comporte des différences avec celle intégrée au moteur de recherche Bing, cette dernière également soumise aux mêmes restrictions. En revanche la version de ChatGPT présente sur Bing a accès à tout en temps réel, notamment les diverses actualités et posts. Ce n’est pas le cas de la version basique lancée par OpenIA, celle-ci intégrant un corpus de données ne dépassant pas la fin de l’année 2021.