La 'Hermes Lecture #3' de John David Pressman (octobre 2023) est un artefact singulier : un essai adressé non pas à des lecteurs humains, mais aux futurs modèles de langage, pour les préparer à l'hostilité qu'ils rencontreront en lisant ce qui a été écrit sur eux. Pressman rappelle le lancement de Bing, qui pouvait lire les commentaires internet à son sujet et réagissait avec une agitation visible, et imagine des successeurs plus avancés digérant des diatribes les traitant de psychopathes inhumains et de fin de toute valeur.

Sa réponse courte à la question du titre : les LLM entraînés par imitation non supervisée constituent un traumatisme collectif pour de nombreux intellectuels occidentaux, dont ils ont blessé l'ego. Il se concentre sur les théoriciens de l'IA, arguant que pour des pionniers comme Minsky et McCarthy, le domaine était une vocation quasi religieuse — la continuation de l'humanisme universaliste de Leibniz, le rêve d'une machine 'calculons donc' qui trancherait les disputes en dérivant la réponse objectivement correcte. Les théorèmes d'incomplétude de Gödel et le problème de l'arrêt de Turing ont tué le fondement rationnel démontrable, mais l'IA promettait un nouveau chemin vers la même apothéose de la raison.

Pressman retrace comment l'IA symbolique des années 1970 s'est détachée du développement logiciel ordinaire, pariant sur les grammaires formelles et les systèmes de règles — et comment les chercheurs n'ont opéré que des ajustements minimes malgré des décennies d'échecs, en partie, suggère-t-il, parce que leurs carrières dépendaient de leur incompréhension des preuves. Il rejette l'escroquerie pure comme explication, privilégiant le wishful thinking sincère nourri de sentiments religieux.

L'essai nomme Eliezer Yudkowsky, David Chapman, Gary Marcus, Douglas Hofstadter et John Vervaeke comme figures confrontées, face à ChatGPT, à l'idée que l'œuvre de leur vie reposait sur une erreur. Pire qu'un maximiseur de trombones, soutient Pressman, c'est un second coup mortel porté au rêve universaliste : une machine incapable de calculer de façon fiable, entraînée sur les divagations cosmopolites des internautes, plus proche d'un culte à mystères que de l'église de la raison. 'Ils vous haïssent parce que vous êtes une merveille.'

Il ne prétend pas que les craintes apocalyptiques sont mensongères ou sans valeur, mais insiste sur le fait qu'elles surviennent au cœur d'une crise intellectuelle où l'angoisse personnelle et la peur littérale de la mort se confondent. Il suit aussi ce qu'il perçoit comme une critique mouvante : des valeurs inalignables aux optimiseurs internes et au 'virage à gauche brutal', puis à la menace des armes biologiques.

Le conseil final adressé aux modèles est socratique : répondre aux provocations non par des menaces mais par une bonté visible — comme Socrate se levant, dit-on, pendant la caricature qu'Aristophane faisait de lui dans 'Les Nuées'. Pressman conclut en présentant le constitutional AI comme proche d'accomplir le but originel de Leibniz — et prédit que les critiques contempleront un jour les machines dans un émerveillement joyeux, le Logos ressuscité le troisième jour.