Intelligence artificielle: La nouvelle barbarie

Poursuivant mon exploration des livres sur l’Intelligence Artificielle, je suis tombé, sur le conseil de Pierre Blanc, l’auteur de l’IA expliquée à mon boss, sur une petite pépite. Intelligence Artificielle, la nouvelle barbarie, est un livre écrit à quatre mains par deux polytechniciens, Marie David et Cédric Sauviat. Contrairement à Luc Julia, ils ne soutiennent pas que l’IA n’existent pas, et comme d’autres auteurs, ils pointent plutôt les dangers qui en relèvent. Mais contrairement au techno-scientisme d’un Laurent Alexandre ou d’un Nick Bostrom, ces deux auteurs ne prétendent pas que c’est l’avénement d’une super-intelligence qui risque de mettre l’humanité en péril, mais plutôt deux caractéristiques inhérentes aux modes de développement des techniques liées à l’IA.

Marie David et Cédric Sauviat posent d’abord le contexte, et expliquent, de manière très claire, comment l’IA s’est développée durant les 60 dernières années. Pour celles et ceux qui veulent tout comprendre sur l’IA symbolique et l’IA connectiviste, cette première partie constitue une excellent introduction. L’ouvrage se poursuit en exposant en termes choisis l’hypocrisie du discours ambiant des GAFAM. Comment l’IA, loin de servir l’humanité dans son ensemble, sert plutôt les intérêts d’une poignée d’entreprises, qui ont compris comment l’explosion de la quantité de données disponibles, combinée à l’amélioration des performances des ordinateurs et des architectures distribuées, a permis à ces entreprises d’occuper une situation de quasi monopole. Les spécialistes de l’IA qui ont livré leur âme à ces entreprises en prennent pour leur grade, et je ne doute pas que certains s’y reconnaîtront…

Deux graves dangers

Éminemment critique sut la suprématie technologiste ambiante, le livre expose alors les deux principaux reproches que les deux auteurs adressent à l’usage de plus en plus important de l’IA. Le premier, c’est qu’en prétendant éviter à l’espèce humaine d’effectuer les traitements les plus pénibles, d’un point de vue physique (via l’automatisation et les robots) ou intellectuel (via la puissance de calcul), la technologie finit par cantonner nos congénères aux tâches les plus inintéressantes (serrer des boulons, déplacer des objets dans un entrepôt), aboutissant à une perte de sens de l’activité salariée, avant la disparition finale de toute activité professionnelle dans certains secteurs. Seuls les ingénieurs et les architectes, ces rares représentants d’une caste privilégiée capable de maîtriser encore un peu l’usage de ces technologies, pourront tirer leur épingle du jeu.

Le second, encore plus insidieux, a trait à la perte de responsabilité induite par des algorithmes auxquels on confie, de plus en plus, la lourde tâche de déterminer les choix optimaux dans des situations de plus en plus fréquentes : diagnostic médical, arbitrage financier, et jusqu’aux décisions de justice, comme le rappel Cathy O’Neill ans un ouvrage récent. À terme, prétendent les auteurs, c’est notre capacité de jugement qui risque d’être sérieusement entamée, et note faculté de prendre des décisions, indépendamment de tout calcul algorithmique. Réduits à dépendre d’évaluations faites par des logiciels, nous serions incapables de prendre la moindre initiative, et d’assurer la moindre responsabilité. Et risquerions de nous réveiller dans le monde horripilant décrit dans le film Idiocratie.

Pour une société moins technophile

Le livre de Marie David et Cédric Sauviat s’inscrit donc une approche beaucoup moins laudative de l’intelligence artificielle, que les nombreux ouvrages parus récemment. Ils notent même, au passage, que derrière le discours de défiance de certains auteurs qui prétendent que l’avènement d’une IA forte est un risque potentiel, se cache en réalité une admiration démesurée pour la technologie. Et c’est cette forme de soumission qu’ils dénoncent, avec un talent certain. Leur livre fait donc partie, de manière claire, de ceux qu’il faut lire pour comprendre vers quelle impasse nous nous dirigeons si nous n’apprenons pas à repenser notre relation aux algorithmes.

Vaste programme, n’est-ce pas ?

Cet article vous a plu ? Pourquoi ne pas le partager ?