L’agent conversationnel ChatGPT fait polémique pratiquement depuis ses débuts. Son utilisation interroge notamment dans le domaine de la médecine. Des experts ont d’ailleurs récemment évoqué le recours à l’IA de la part des médecins. Selon eux, cet outil pourrait devenir assez rapidement indispensable, mais aussi assez risqué.
Une fiabilité certaine, mais pas optimale
Depuis leur apparition, les IA de type ChatGPT et consorts suscitent l’intérêt, mais également la controverse. Or parmi les craintes, citons les droits d’auteur, la responsabilité des entreprises, les risques de désinformations ou encore d’arnaques et d’attaques cybernétiques. Sans surprise, des questions se posent également dans le domaine médical, comme l’indique un article publié par Wired le 24 avril 2023.
Le média a interrogé Robert Pearl, professeur à l’école de médecine de l’Université de Stanford (États-Unis) et ancien PDG de Kaiser Permanente, un organisme de santé regroupant pas moins de douze millions de patients. Selon le spécialiste, ChatGPT et les autres IA peuvent aider à résumer l’état d’un patient, poser un diagnostic ou encore écrire des lettres. Robert Pearl affirme que les médecins devraient trouver de nombreux usages aux IA dans le but d’améliorer la qualité des soins. Celles-ci pourraient même permettre de réduire le nombre de décès résultant d’erreurs médicales, ces dernières se comptant par centaines de milliers aux États-Unis.
Wired a également rapporté les propos de Heather Mattie, maîtresse de conférences en santé publique à l’Université d’Harvard. Celle-ci rappelle que si les IA de type ChatGPT sont de très bons outils, leur fiabilité n’est cependant pas optimale. Autrement dit, l’IA peut se tromper et l’utilisateur doit absolument pleinement en rester conscient. En effet, il va sans dire que le risque de résultats biaisés va totalement à l’encontre de l’objectif de réduire le nombre de décès en lien avec les erreurs médicales.
Des craintes justifiées ?
Heather Mattie dit avoir effectué une petite expérience en demandant à ChatGPT de rédiger une note à propos de l’utilisation de la modélisation des connexions sociales dans l’étude du VIH. L’IA a finalement abordé des sujets dépassant le domaine d’expertise de la maîtresse de conférences. Ainsi, il lui a été impossible de savoir si l’IA était dans le vrai ou non.
Par ailleurs, le diagnostic des maladies cardiovasculaires ainsi que l’évaluation de la gravité des blessures en soins intensifs sont source d’inquiétude. Par le passé, les résultats pouvaient être faussés, car ils intégraient des préjugés concernant la couleur de peau ou le genre. De plus, dans la mesure où la connaissance et les pratiques médicales évoluent avec le temps, il est impossible de savoir de quelle période l’IA détient ses informations.
Enfin, l’IA soulève d’importantes questions éthiques ,car la médecine ne repose pas seulement sur les connaissances théoriques. En effet, certains observateurs craignent que des médecins finissent par avoir recours à l’IA pour prendre des décisions difficiles, par exemple pour décider de réaliser ou non une opération chirurgicale ayant de faibles chances de succès.
