L’intelligence artificielle peut rendre de nombreux services, mais cette technologie n’est évidemment pas parfaite. Il faut donc parfois se méfier des IA, et ce, peu importe le sujet. Dernièrement, les membres d’un groupe en ligne de cueillette de champignon en ont fait l’expérience.
Un conseil potentiellement mortel qui impliquait un champignon toxique
Les inquiétudes habituelles concernant l’intelligence artificielle sont déjà assez nombreuses. Il peut s’agir de dérives telles que les deepfakes et les vols de données. Citons également les questions autour des droits d’auteur ou encore du coût énergétique et de l’impact environnemental. Un article publié par 404 Media le 12 novembre 2024 traite d’un autre problème : l’impact que peut avoir l’IA sur la cueillette de champignon.
Si la nouvelle peut prêter à sourire au premier abord, il convient de prendre le sujet au sérieux. À l’origine de l’affaire, nous retrouvons FungiFriend, un chatbot sur Facebook. Or, le fait est que ce dernier a formulé de curieux conseils aux 13 000 membres d’un groupe dédié aux champignons. Précisons au passage que les membres n’ont pas hésité à tester les connaissances de l’IA.
Un des internautes a demandé à FungiFriend comment cuisiner la pézize (Sarcosphaera coronaria). Seulement, voilà, ce champignon blanchâtre à l’apparence douteuse est considéré comme non comestible en raison de sa teneur en arsenic. Or, si la pézize peut être mortelle crue, elle est encore très toxique même après une cuisson. L’IA a pourtant répondu que ce champignon était comestible, mais rare et que les amateurs avaient pour habitude de faire le choix d’une cuisson sautée au beurre et entre autres d’un ajout dans des soupes ou ragoûts.
Les plateformes aussi fautives que l’IA
Jason Koebler, l’auteur de l’article sur 404 Media, a indiqué avoir communiqué avec un représentant de Public Citizen, un groupe de réflexion concernant la défense des consommateurs aux États-Unis. Il a évoqué une abondance des « problématiques d’intersection » entre IA et champignons vénéneux. Cette situation a poussé ce représentant à rédiger et publier un article dans le magazine Fungi durant l’été 2024. En somme, les chatbots et autres applications de reconnaissance de champignons ne sont pas fiables. De plus, des erreurs se trouveraient également dans certains manuels rédigés par l’IA commercialisés sur Amazon.
Enfin, le problème vient évidemment en premier lieu des IA, les plateformes telles que Amazon et Facebook sont visiblement trop laxistes sur ce type de contenu. Dans le cas du chatbot FungiFriend, la plateforme incite même les utilisateurs à ajouter cette IA aux groupes de conversation.
