Un duo de chercheurs estime que pour éviter que les robots ne surpassent et prennent le dessus de l’Humanité, il serait judicieux de les amener à être un peu plus stupides en les rendant… plus humains !
Dans leur étude publiée sur la plateforme arXiv le 11 août 2018, le chercheur en informatique Roman Yampolskiy (Université de Louisville, États-Unis) et l’étudiant en informatique Michaël Trazzi (Université de la Sorbonne, France) font la promotion de la « stupidité artificielle ». Plus précisément, il s’agit d’encourager les chercheurs en intelligence artificielle à rabaisser leurs créations au niveau de l’humain.
Il est question d’humaniser un maximum les IA en codant 14 préjugés humains spécifiques, des biais cognitifs propres aux humains. Le but ? Rendre les robots plus stupides pour éviter que ces derniers ne dépassent les humains et représentent un danger. En effet, l’étude a été clairement motivée par la crainte que les IA atteignent un jour un niveau de perfection tel que ceux-ci génèrent une situation incontrôlable, comme il est parfois visible dans certains films de science-fiction.
« Les humains ont des limites de calcul claires (mémoire, traitement, puissance de traitement et vitesse d’horloge) et ont développé des distorsions cognitives. L’intelligence artificielle générale (AGI) n’est a priori pas limitée par de telles limites computationnelles et cognitives », peut-on lire dans l’étude.
Les deux chercheurs ont pensé à d’autres mesures dites « préventives » concernant les IA. Citons la volonté de limiter leur partie matérielle (hardware) afin de brider leur capacité de calcul, pour correspondre davantage à celles de l’humain. Il est aussi question d’empêcher les IA de réécrire leur propre code – et donc de progresser de façon exponentielle.
Rappelons que la démarche des deux scientifiques est d’apporter un cadre éthique par diverses règles, ce que tentent déjà de faire OpenAI et autres organismes. De plus, il apparaît totalement inconcevable que les chercheurs planchant sur des IA toujours plus performantes acceptent d’appliquer ce genre de conseils – qui seraient par définition contraires à leurs recherches.
Sources : The Next Web – Konbini – Hitech Glitz
Articles liés :
