Le fabuleux chantier : rendre l’intelligence artificielle robustement bénéfique

Dans la déferlante de livres sur l’Intelligence artificielle parus ces derniers mois, le livre de Lê Nguyên Hoang et El Mahdi el Mhamdi se distingue assez nettement. Les auteurs, tous deux polytechniciens, chercheurs, passés par l’École polytechnique fédérale de Lausanne, abordent en effet le sujet sous un angle original: en invitant tous leurs lecteurs à rejoindre un fabuleux chantier, celui qui consiste à rendre l’IA robustement bénéfique. Formidables vulgarisateurs scientifiques (le premier est notamment connu pour sa chaîne Youtube, Science4all, le second a lancé une autre chaîne Youtube moins axée sur la vulgarisation que sur le perfectionnement des mathématiques ou de la physique, Wandida), font preuve d’une culture scientifique d’une richesse assumée, qui sert abondamment les propos du livre. Et c’est bien nécessaire, tant le sujet est vaste et touche à des disciplines différentes, allant de la sociologie aux réseaux de neurones.

Ils voient des IA partout !

Le fabuleux chantier dont il est question ici, c’est celui ouvert par les développements spectaculaires de l’intelligence artificielle ces dernières années. Les auteurs y reviennent dès l’introduction, tout en prenant soin, tout au long du livre, de remplacer l’expression intelligence artificielle par le terme générique « IA », qualifiant ainsi tout outil algorithmique capable de traiter des informations. À ce titre, Microsoft Excel ou votre navigateur web font partie de cette catégorie d’outils.

Ce qui justifie ce livre, c’est que ces outils algorithmiques, ces logiciels en somme, sont susceptibles d’effets secondaires aux conséquences parfois indésirables, comme Waze, par exemple. À l’échelle d’un ordinateur, il vous est sans doute arrivé d’avoir affaire à un programme qui plante, consomme trop de mémoire ou utilise toute la puissance du microprocesseur: en général, on s’en sort en redémarrant l’ordinateur, et en repartant de zéro, avec une mémoire vierge. Le fameux reboot.

Mais avec les outils actuels, ceci n’est plus possible. L’informatique distribuée a rendu tout reboot inopérant. Pire, comme le notent les auteurs, il arrive désormais qu’un reboot puisse devenir nocif, voire mortel. C’est là toute la complexité du problème: avec les IA dont il est question dans ce livre, les risques sont tellement mal mesurés par les humains qui les ont produites, qu’on a le sentiment d’être assis sur une bombe à retardement. Et de lister les effets secondaires d’outils aussi anodins que Facebook ou Youtube. Qui aurait pensé, il y a dix ou quinze ans, que ces plateformes serviraient à radicaliser des individus ou en faire sombrer d’autres dans la dépression? Dès lors, il devient urgent de se protéger des risques d’effets secondaires.

Mais comment ?

Un fabuleux chantier

Pour les auteurs, plusieurs actions doivent être menées de front. La première, c’est de bien comprendre comment fonctionnent les IA, et notamment les IA les plus puissantes, celles capables d’apprentissage par renforcement, qu’ils considèrent comme les plus puissantes. L’étape d’après consistera à travailler sur chacune des briques de ces systèmes, de la collecte de données jusqu’aux mécanismes d’apprentissage par renforcement lui-même, de manière à les rendre robustement bénéfiques. C’est un chantier colossal, qui ne requiert pas que des compétences informatiques: il est primordial que d’autres compétences, scientifiques ou non, soient associées. La faible culture, pour ne pas dire le désintérêt, des politiques et des états-majors des grands groupes pour ces sujets est un signe de mauvais augure, qui signifie que ces sujets seront traités à la va-vite, ou ne le seront pas, laissant un champ béant pour l’apparition d’effets secondaires de plus en plus terrifiants.

Bref, loin du délire du livre de Nick Bostrom (auquel paradoxalement les auteurs font souvent référence) ou du sensationnalisme de Laurent Alexandre, le fabuleux chantier représente une excellente introduction au sujet de l’IA en général, et une sensibilisation à l’urgence qu’il y a de prendre conscience de ses conséquences probables. C’est donc un livre à lire et faire lire.

Cet article vous a plu ? Pourquoi ne pas le partager ?