IA : et si la recherche sur l’apprentissage profond atteignait bientôt ses limites ?

intelligence artificielle
Crédits : Florian Weihmann / Pexels

Ces dernières années, l’apprentissage profond (deep learning) est en pleine croissance. Or, si l’on peine à imaginer qu’un ralentissement du secteur pourrait intervenir, ce pourrait bien être le cas selon un groupe de chercheurs. Il deviendrait en effet de plus en plus difficile de progresser sur ce genre d’intelligence artificielle.

Une limite bientôt atteinte ?

Applications, chatbots, reconnaissance vocale et faciale, détection et manipulation d’objets, les innovations qui intègrent l’apprentissage profond sont multiples. Fin 2019, un chercheur sud-coréen a par exemple élaboré une méthode de prévision du phénomène climatique El Niño. Or, cette méthode se base sur des algorithmes utilisant des réseaux de neurones artificiels ayant recours à l’apprentissage profond.

Rappelons qu’il s’agit d’un type d’intelligence artificielle (IA) dérivé du machine learning (apprentissage automatique) où la machine est capable d’apprendre par elle-même. Or, le fait est que la croissance du secteur est telle qu’imaginer un ralentissement semble assez difficile.

Et pourtant, une publication sur la plateforme arXiv du 10 juillet 2020 estime que ceci pourrait bientôt être le cas. Les chercheurs du MIT, du MIT-IBM Watson AI Lab et de l’Underwood International College disent avoir réalisé un audit de plus de 1 000 articles portant sur l’apprentissage profond. Selon eux, faire des progrès sur ce type d’intelligence artificielle deviendra bientôt très difficile, à la fois sur le plan économique et environnemental. Pour les auteurs de la publication, les coûts deviendront si importants qu’il ne sera plus rentable de mener ces recherches.

robot cafard
Crédits : Université de Harvard

Limiter les coûts et l’empreinte carbone

Toutefois, les chercheurs annoncent que le problème pourrait être résolu avec de meilleurs algorithmes et des méthodes d’apprentissage automatique innovantes. Ceci pourrait être notamment le cas grâce aux progrès en matière d’informatique quantique.

Par ailleurs, des chercheurs d’Intel et de l’Université de Californie du Sud (États-Unis) avaient peut-être déjà trouvé une solution en 2016. Ceux-ci avaient en effet utilisé du simple matériel de laboratoire universitaire afin de former des algorithmes d’apprentissage par renforcement profond (DLR). Ainsi, un seul poste de travail leur a permis d’entraîner une IA réaliser des défis 3D de DeepMind (Google) et à s’exercer au jeu vidéo Doom.

Un article publié par IEEE Spectrum le 17 juillet 2020 a donné la parole à Peter Stone, expert en IA de l’Université du Texas à Austin. L’intéressé estime que réaliser des algorithmes sur du matériel de base est un bel objectif de recherche. Selon lui, ce genre de projet est bénéfique dans un contexte énergétique et écologique complexe. En effet, les ressources habituellement nécessaires pour ce type de recherches sont telles que ces dernières ont une empreinte carbone très importante.