Espérances & algorithmes

Toujours dans la série de billets sur l’Intelligence artificielle, je ne peux résister à l’envie de braquer un coup de projecteur sur une initiative intéressante, Espérances & Algorithmes. Il s’agit d’un think tank, lancé par une poignée d’entrepreneurs impliqués sur des sujets technologiques autour de l’IA et des algorithmes. Leur but est de faire prendre conscience, au plus grand nombre de personnes concernées, des risques liés à des usages inconvenants de ce type d’approche.

Les exemples sont plus nombreux qu’on ne le croit. De la voiture autonome appelée à choisir qui éliminer en cas de crash, aux algorithmes de scoring qui s’appuient sur des données privées pour l’obtention d’un crédit, nous allons de plus en plus souvent être confrontés à des décisions prises par des programmes informatiques. Sont-ils intelligents ? Selon Luc Julia, pas plus que ceux qui les ont conçus. Et ce pourrait probablement être le point de départ d’une réflexion plus profonde. Avant toute programmation, il y a une décision, humaine celle-là. Un choix, qui détermine les orientations du programme qui sera conçu. Comme le dit Etienne de Rocquigny, co-fondateur d’Espérances & Algorithmes, une IA? c’est avant tout un programme qui cherche à minimiser une fonction de coût. Que l’on change cette fonction, et on change tout le comportement du programme concerné.

Mercredi dernier, Espérances & algorithmes recevait un rabbin et un évêque, invités à juger de ces sujets d’un point de vue éthique, en conformité avec le monde religieux qu’ils représentaient. Doit-on imposer une réglementation, une loi, pour cadrer les développement scientifiques dans ce domaine ? Ou doit-on s’en référer au libre arbitre, à la capacité de jugement des responsables de tels projets ? De mon point de vue, c’est plutôt la seconde approche qu’il faut adopter, même si elle n’est pas exempte de risque. C’est accepter d’être responsable de ce que l’on produit, et donc de ne pas développer ce dont on ne saurait assumer la responsabilité.

Espérances & algorithmes se veut ouvert à toutes les personnes qui pensent que ces sujets méritent d’être étudiés. Ses membres ont élaboré un manifeste, accessible librement, et qui peut servir de base de réflexion au sein des entreprises. Il comprend 14 principes (un de plus que Maïmonide…). Un livre blanc est en préparation, ainsi qu’un événement qui se déroulera début juin, aux Bernardins.

Le think tank se réunit tous les premiers mardi du mois. Renseignements et inscriptions sur leur site.

Cet article vous a plu ? Pourquoi ne pas le partager ?