in

Pourquoi ce robot explique-t-il ce qu’il fait ?

Crédits : capture Youtube / 産総研広報 - Advanced Institute of Industrial Technology (AIST)

Comme chacun sait, l’intelligence artificielle est également destinée à collaborer avec des humains au travail. Des chercheurs ont mis au point un robot permettant de comprendre davantage la relation de confiance entre l’humain et la machine. Or, celui-ci a la principale caractéristique de détailler ses activités en temps réel.

Une IA explicative

Selon une enquête publiée par Oracle et Future Workplace en octobre 2019, 64% des travailleurs croient davantage en l’intelligence artificielle qu’en leur patron. Pourrions-nous toutefois avoir davantage confiance en ces robots si ceux-ci nous expliquaient leurs actions ? En partant de cette question, des chercheurs de l’Université de Californie à Los Angeles (États-Unis) ont élaboré un robot tout à fait spécial. Il s’agit d’un projet financé par la DARPA dans le cadre du programme Explainable AI (XAI).

Comme le montre les images publiées par IEEE Spectrum (voir en fin d’article), il est question d’un robot doté d’une IA explicative détaillant ses actions aux humains. Un écran équipant la machine peut notamment faire apparaître les différentes étapes ainsi qu’un schéma de modélisation. Il s’agit évidemment d’informations claires et facilement compréhensibles pour les humains.

robot baxter
Dans le cadre de ce projet, les chercheurs ont utilisé un robot Baxter.
Crédits : capture YouTube / IEEE Spectrum

Vers davantage de confiance envers les robots intelligents

Selon les meneurs du projet, le robot n’a pas vocation à expliquer les raisons de ses actions. Au passage, ceci pourrait être critiquable car suivant les situations, il apparaît essentiel de comprendre clairement les motivations de la machine. En revanche, celle-ci a pour objectif de montrer comment elle s’y prend. Rappelons que l’IA génère des gestes identiques à ceux des humains afin de faciliter leur compréhension par ces derniers.

S’il est encore un peu tôt pour affirmer que les humains feront bientôt totalement confiance aux IA, la DARPA s’est d’ores et déjà montrée très confiante. Selon l’agence, cette IA explicative sera efficace dans un avenir proche où des humains devront vraisemblablement faire confiance à des partenaires robotiques intelligents. Il s’agit au passage d’un moyen de rendre plus transparents les modèles d’apprentissage automatique. Or, cette raison est prépondérante dans la volonté de faire communiquer les robots au sujet des tâches effectuées.

Néanmoins, ce projet ne semble pas se pencher sur une autre question jugée essentielle par de nombreuses personnes. Effectivement, il existe des craintes autour de la sécurité des personnes, mais également concernant la fuite de données, la protection de la vie privée, etc. Toutefois, ces mêmes craintes ne concernent pas seulement les robots intelligents, mais toutes les autres formes de technologies avancées.

Voici les images de présentation du projet :

Source

Articles liés :

Voici PR2, le robot autonome qui se répare tout seul !

Ce robot chercheur a mené 100 000 expériences en un an !

Cette société veut faire voyager des robots à votre place !