L’IA va (tous ?) nous tuer

Sale temps pour l’IA. La semaine passée, deux infos sensationnelles sont venues se télescoper, ajoutant un peu plus d’anxiété dans le coeur de ceux qui étaient déjà angoissés, et de perplexité auprès de ceux qui lui faisaient une confiance absolue. Faudrait-il donc se méfier un peu plus des Intlligences Artificielles ?

L’homme qui a vu la fin du monde (ou presque)

Selon Jacob Coxon, oui. Totalement inconnu en début de semaine, cet individu qui affirme avoir travaillé pour OpenAI et pour Anthropic, alors qu’il est seulement âgé de 27 ans a acquis une stature internationale en moins de 24 heures. Ce qui l’a rendu célèbre ? Ce n’est ni son talent d’entrepreneur, ni ses réalisations passées, mais un thread sur Twitter ou il explique les raisons de sa démission récente.

S’ensuit une série de tweets sur le manque de responsabilité des patrons de ces deux boîtes, les développements en cours, les événements comme l’attaque coordonnée d’agents contre Hugging Face, etc. Ok, la messe est dite, Jacob Coxon en a marre de travailler dans le domaine de l’IA, mais est-ce une raison pour cracher dans la soupe ? Ou bien son attitude, similaire à celle de quelques autres employés qui ont quitté les mêmes boîtes ces derniers temps, devrait-elle nous inquiéter.

Personnellement, j’ai un peu de mal à accorder de l’importance à un nobody de cet ordre de grandeur. Celui qui se présente comme un chercheur en IA, et qui a probablement juste été un thésard lambda, travaillant sur l’entraînement des IAs, est devenu un expert aux yeux des uns, un prédicateur de génie aux yeux des autres, dans une sorte de gloubli-boulga d’articles de bas étages qui reprennent à peu près la même sauce : on nous ment, et les gens qui bossent sur les Large Language Models sont des Docteurs Folamour dont on ferait mieux de se méfier.

Tout cela me semble rejoindre cette tendance anti-science qu’on retrouve dans plusieurs secteurs de la société, des anti-vax aux anti-OGM, qui voient le mal partout où la science rejoint le business. Cette tendance là fuit le progrès comme la peste, faisant semblant d’ignorer qu’il n’y a pas de progrès sans risque, et que les bénéfices sont, si l’ont considère l’historie de l’humanité, largement supérieurs aux dégâts provoqués. Après, si certains ont envie de retourner à l’âge de pierre, ça ne regarde qu’eux…

Échec et maths

Longtemps on a cantonné l’IA à une technologie capable de relativement bien jouer aux échecs, puis au Go, jusqu’à battre les meilleurs joueurs du monde et à « plier le match » comme on dit chez les djeunes. Pour les tâches un peu plus compliquées, la technologie n’était pas au point. Puis sont apparus les LLM et ChatGPT, puis Claude et toute la ribambelle d’outils qui nous permettent désormais de nous passer d’avocats, de guide touristique ou de conseiller financier.

Jusque là, tout allait bien, et on se disait que finalement, si les avocats gagnaient un peu moins d’argent à nous refourguer des documents qui se ressemblent tous peu ou prou, ou que si les conseillers financiers allaient chercher un autre métier, bah ça ne serait pas si grave… Idem pour les développeurs de logiciel, après tout, si un ordinateur est capable de faire fonctionner d’autres ordinateurs, ce serait bénéfique pour tout le monde, surtout pour les ignares du numérique, qu’on puisse se passer d’experts autoproclamés du numérique.

Or depuis quelques temps, l’IA fait des maths, et là ça commence à faire très mal. Au tout début des LLM, il était facile de se moquer du niveau très faible des premiers LLM, qui ne savaient pas bien reconnaître des nombres premiers, ou faisaient des erreurs de calcul qu’un élève de sixième ne ferait pas – quoique, de nos jours…

Mais désormais, le niveau atteint pas ces outils surprenants dépasse celui du plus fort des mathématiciens que vous seriez amenés à croiser dans votre vie. Imaginez un peu, un élève dont le niveau en maths passe de celui d’un élève de CP à celui d’un médaillé Fields en l’espace de cinq ou six ans. Remarquable, non ?

Il faut dire que l’IA possède sur nous autres pauvres humains quelques indéniables avantages : une IA calcule vite, très vite. Elle a pu lire les thèses de milliers de chercheurs en maths et les ingurgiter sans trop de difficulté, ce que même un mathématicien comme David Bessis ne sait pas faire. Et surtout, elle ne possède pas cette fâcheuse tendance à oublier avec le temps : un théorème appris en 2021 reste parfaitement frais en mémoire en 2026. Pour un être humain lambda comme moi, c’est bien plus difficile, et les exercices de prépa que je relis ces derneirs temps me paraissent beaucoup plus difficile qu’il y a quarante ans…

Tant et si bien que dans le concours de quéquette qui oppose OpenAI et Anthropic, chacun y va de ses capacités ébouriffantes. Quand l’un réécrit en quelques jours la démonstration du théorème de Fermat qui a pris quelques années à Andrew Wiles, l’autre se permet de résoudre un des problèmes du siècle en quelques heures de calcul, dont la presse rapporte qu’elle coûtaient quelques 20 millions de dollars – ce qui ne veut absolument rien dire, OpenAi étant libre de disposer de ses heures de calcul comm ebon lui semble.

En réalité, le coût estimé est celui qu’aurait payé un chercheur qui aurait fait appel à un modèle OpenAI pour résoudre un de ces fameux problèmes à un million de dollars. Sincèrement, qui aurait été prêt à dépenser 20 millions pour n’en gagner qu’un ? Les matheux et le business ne font pas toujours bon ménage, mais là, même un enfant de sixième saurait où mettre ses sous…

Sauf qu’en l’occurrence, le matheux en question (ou plutôt le binôme de matheux) a bien fait appel à un modèle OpenAI pour avancer sur un problème du siècle, et il se trouve que c’est le même que celui qu’OpenAI affirme avoir résolu. Comme on dit dans le business, il y a anguille sous roche, et notre ami matheux a aussitôt porté à l’attention du grand public sur ce qui, à ses yeux, s’apparente à du vol de matériel intellectuel : l’IA d’OpenAI aurait donc appris à résoudre les équations de Navier-Stokes en s’inspirant du travail de Tristan Buckmaster, qui collaborait sur le sujet avec Levent Alpöge, qui lui-même travaille pour Anthropic…

Sale temps pour les humains ?

Le point commun dans ces deux affaires, c’est que les IA semblent souffler un petit vent bien plus antipathique, pour l’espèce humaine, que la succession de canicules qui s’est produit durant ces dernières semaines. D »un côté un chercheur lambda nous annonce la fin prochaine de l’espèce humaine sur erreur d’aiguillage qui ferait passer le scénario de Terminator pour un film pour enfants, de l’autre on constate que les IAs, dont on connaissait le talent pour faire encore mieux que nous tout ce qui est facilement vérifiable, sont capables de résoudre des problèmes autrement biscornus que les banalités que 99% de nos congénères déversent sur ChatGPT.

Est-ce vraiment le début de la fin ? Ou n’est-ce, comme le dit la chanson, la fin du début, annonçant des temps meilleurs pour une espèce humaine débarrassée de ses problèmes du quotidien, et qui pourra se reposer sur des IAs surpuissantes capables de traiter les problèmes les plus ardus, nous permettant de tirer parti du changement climatique à l’aune de climatiseurs optimisés (par l’IA), de véhicules peu polluants et autonomes (grâce à l’IA), en nous nourrissant de produits cultivés, récoltés et conduits directement dans nos assiettes grâce à l’IA ?

Le monde sera toujours composé d’optimistes et de pessimistes.

À vous de choisir votre camp.