Soleil voilé et pensée morte

Les réflexions nécropolitiques du Père Duchesne

J’ai passé les derniers jours à trier des copies écrites avec l’Intelligence Artificielle. Mes étudiants doivent s’imaginer que je n’ai pas passé les dix-huit derniers mois à discuter avec ChatGPT ou à donner mes consignes de travaux à Gemini. À force de jouer avec les “Large Language Models”, j’en suis venu à connaître un peu les tics de ces machines : toujours séparer en trois, nuancer sans cesse, écrire des phrases vides et belles, modaliser, essayer de nous faire plaisir avec des réflexions “poignantes”, rédiger en parties égales… C’est peut-être aussi l’habitude de lire des copies d’étudiants, mais quelque chose se sent dans le texte écrit par une machine. Il faut dire que certains nous facilitent la tâche. J’en ai un, par exemple, qui a fini la rédaction de 5h30 en 2h30, sans faire de brouillon, assis au fond de la classe, après avoir eu des notes assez mauvaises dans toutes ses rédactions : et voilà un texte sans une coquille, lisse, mécanique. “Au moins, c’est lisible”, que je me suis dit. Cette fin de session, je suis déjà à six, et je n’ai pas encore fini de corriger. En Saskatchewan, des milliers d’hectares de forêt brûlent, dégageant un immense panache qui s’étend sur la moitié du continent. Ça fait trois jours que le ciel de Montréal est couvert par un léger voile de fumée. Je regardais hier soir entre deux copies le soleil jaunâtre qui laissait filtrer comme une lumière de fin du monde. Comme vous, j’y pense souvent, ces temps-ci, à la fin du monde.

Je ne sais pas pourquoi je fais le lien entre le soleil voilé et mes copies. Je dois l’admettre, la tricherie ne me fait pas grand-chose. J’ai été biberonné culturellement aux remix, à l’écriture non-créative et à la redite postmoderne. Pour moi, tout le monde est un peu plagiaire. Les étudiants ont, de toute façon, toujours triché. Il y a les vieux trucs : écrire très petit pour ne pas qu’on voit les fautes, cacher des papiers dans sa trousse à crayons, écrire des réponses dans les pages du dictionnaire ou tout bêtement regarder la copie du voisin… Au fond, le recours à l’Intelligence Artificielle n’est qu’un jalon de plus dans la longue histoire de la fraude scolaire. Je pense aux tricheries d’antan comme à des méthodes innocentes, mais il faut dire que nous avions quand même, déjà, à l’époque, trouvé une manière de programmer le tableau périodique dans nos calculatrices TI-82 pour les examens de chimie. Les profs des années 1990-2000 étaient largués quant à ce qu’on pouvait faire en programmant en BASIC comme nous le sommes aujourd’hui par rapport à Gemini, Claude et compagnie. La jeunesse aura toujours une longueur d’avance sur la vieillesse analogique.

Je pense être devenu bon à repérer les copies rédigées à partir de l’IA, mais il est certain que j’en laisse passer plusieurs. Il y a des cas évidents comme celui de mon plagiaire sans brouillon, il y en a d’autres où l’utilisation de GPT semble plus diffuse, plus consubstantielle au propos. On sent que les idées ont été travaillées avec l’IA, mais rien ne permet de dire que le texte en tout ou en partie est un plagiat au sens propre du terme. J’imagine que ce genre de texte, réalisé par des élèves plus habiles, est ce qui nous attend avec l’IA, une sorte de fadeur généralisée, un parfum d’ennui et de grisaille.

En cas de panique, appelez un historien

Je vois certains collègues courir dans tous les sens, paniqués comme si le navire de l’éducation sombrait, mais l’Intelligence Artificielle n’apporte rien de bien neuf au portrait de la misère moderne. En tout cas, rien qui n’ait pas déjà été couvert dans le Capital de Karl Marx, dans son chapitre sur les machines. C’est d’ailleurs mon chapitre préféré du livre, parce que la théorie de Marx devient presque de la poésie par moments :

L’industrie mécanisée, dans sa forme la plus avancée, opère comme un système organisé de machines travailleuses dont la force motrice est impartie par un centre automatisé grâce à un système de transmission. La machine individuelle a été remplacée par un monstre mécanique dont le corps emplit un bâtiment d’usine en entier. Son pouvoir démoniaque, obscurci, au premier abord, par le battement presque solennel de ses gigantesques membres, est désormais visible dans la sauvage, tourbillonnante et fiévreuse danse de ses innombrables organes¹.

On voit bien sûr le Charlot des Temps Modernes (1936), plongé dans le ventre du monstre mécanique, mais je ne peux m’empêcher de voir aussi le web, sa présence tentaculaire, et son cœur, finalement très centralisé dans les data centers. L’usine de Marx, qui était un bâtiment du genre de ceux qui pourrissent aujourd’hui près des zones portuaires, a été remplacée par une usine-monde. La contribution la plus amusante de ce chapitre du Capital est la notion de travail mort. Alors que les machines permettent, en théorie, de réduire le temps de production de manière exponentielle, les travailleurs se trouvent paradoxalement à devoir travailler plus pour financer l’acquisition de nouvelles machines. L’ouvrier, dans ce chapitre, se trouve à toutes fins pratiques hanté par le travail de ceux et celles qui l’ont précédé, et qui a servi à financer la machine qui lui demande d’aller toujours plus vite. Le travail mort hante le travail vivant.

Le travail de prof n’est guère différent aujourd’hui de celui des ouvriers sur les chaînes de montage. Nous sommes hantés par le travail mort des mineurs de cuivre et de cobalt, des techniciens d’Hydro-Québec ou de Bell Canada qui ont installé les fils et les antennes, par celui des programmeurs de Silicon Valley, qui entretiennent les serveurs de Microsoft ou qui ont codé notre messagerie. C’est grâce à tout ce travail mort que nous pouvons répondre au flux ininterrompu de messages qui nous assaille. S’ajoute encore l’Intelligence Artificielle, le temps qu’elle demande pour la repérer, la décrire, rencontrer l’étudiant… Ce qui, normalement, devrait nous faciliter la tâche, nous soumet à des flux toujours plus tyranniques.

Ce qui a été perdu avec l’imprimerie

Ça peut paraître étrange, mais c’est à Poggio Bracciolini que j’ai pensé en lisant ma dernière copie rédigée par GPT ce matin. Le Pogge est un savant humaniste italien des 14e et 15e siècles, à qui on doit la redécouverte de nombreux manuscrits gréco-latins. Il faut lire le récit que fait Stephen Greenblatt, dans The Swerve (2011), du moment où Poggio trouve, dans la bibliothèque de l’Abbaye de Muchbach, la seule copie existante du De Rerum Natura de Lucrèce. Il en recopie pendant plusieurs jours le texte sur des tablettes qu’il ramène ensuite à Florence. Beaucoup de ce que nous connaissons d’Épicure aujourd’hui tient à ce long poème de Lucrèce retranscrit par un moine italien du 15e siècle. Sans le Pogge, et sans cette découverte, nous aurions pu perdre tout un pan de la philosophie antique. Walter Benjamin, dans sa réflexion sur la reproductibilité mécanique, s’intéressait spécifiquement au cas des œuvres d’art et de ce qui était perdu avec l’avènement de la photographie. Pourtant, la presse à imprimer est venue, bien avant, éteindre l’aura des codex médiévaux.

À partir du moment où Lucrèce est imprimé en centaines de copies, la matérialité précaire du manuscrit se perd, sa valeur d’artéfact aussi. Nous perdons aussi, peu à peu, la lecture à voix haute, qui depuis les Anciens était le sceau de l’expérience commune du savoir. Les monastères de la fin du Moyen-Âge ont pu voir tout le monde avoir le nez dans son livre bien avant que nous puissions voir tout le monde avoir le nez dans son téléphone. La crise que nous croyons vivre au 21e siècle remonte à la presse à imprimer, qui est au fond le péché originel de la mécanisation des savoirs.

Savoirs-machines

Entre-temps, nous avons développé un système d’éducation plus sophistiqué que la lectio médiévale. Les jésuites, déjà, ont mis en place un système de rangs, dont découlerait, au 19e siècle, le système de notation moderne. Les notes permettraient alors de systématiser, de classer et d’archiver le parcours des élèves, mais auraient pour corollaire de générer tout un régime de justification de la note. Au 20e siècle, se multiplieraient alors les grilles d’évaluation et des formes figées comme la dissertation, afin d’encadrer l’évaluation, de la rendre soi-disant objective.

Tout s’est passé comme si nous avions fait, sans le savoir, le travail des robots avant que les robots conversationnels n’existent. Au moment de l’arrivée de GPT, les exercices que nous imposons aux étudiants sont la plupart du temps issus d’une tradition suffisamment longue pour qu’elle ait laissé des traces dans les manuels et sur le web. Ces formes codifiées, déjà mécaniques, ont fait le bonheur des modèles d’intelligence artificielle. Nous voilà donc aujourd’hui pris à notre propre jeu, avec des machines qui répondent à notre forme-machine.

Maladresses

Ces temps-ci, je regarde les mauvaises copies avec plus d’affection que par le passé. Rien ne me fait plus plaisir que de voir une structure de phrase bancale, un commentaire hors les clous, une analyse bâclée. Tout ce qui montre une faille humaine est plus excitant que de lire une machine. L’écriture est déjà une déchéance par rapport à la forme orale, une consignation, parfois maladroite, imprécise, insuffisante. L’autre n’est pas présent non plus, dans l’écriture, tout au plus est-il présent comme autre imaginé, une figure humaine qui nous écrirait à travers les lieux ou les âges. J’imagine que c’est cette communion imparfaite que nous recherchons dans l’acte de lecture, un accès parcellaire à la pensée, à la voix et aux mots d’autrui.

C’est peut-être ce qu’il y a de plus frustrant dans la lecture de l’intelligence artificielle, l’impression de lire un autre absent, de se parler à soi-même devant le vide d’une machine qui ne peut avoir d’idées parce qu’elle n’a pas d’âme. C’est la nature du monde hypermoderne que de produire de l’absence. L’artisan qui faisait nos chaussures n’existe plus, nous achetons la production mécanisée d’une usine lointaine, bien peu des objets qui nous entourent peuvent être rattachées à quelqu’un. L’écriture avait peut-être encore cette aura imméritée d’authenticité, comme si elle n’était pas, elle aussi, soumises aux pressions formelles et déshumanisantes de la technique.

On parle beaucoup, ces temps-ci, de la Dead Internet Theory, cette idée selon laquelle, après le web social, adviendrait le web des machines. La génération des textes par l’intelligence artificielle montre que ce web mort vient hanter jusqu’aux copies mal calligraphiées de mes étudiants. Le lien est direct entre le travail mort de Marx et la pensée morte. À voir les 0 sur mes copies et la lumière brumeuse des incendies dans laquelle baigne Montréal, il est tentant de se dire que le vieux Prussien avait raison. Le capitalisme, semeur de mort, est le plus grand ennemi du vivant.

Le Père Duchesne passe en mode estival. Ça devrait être tranquille ici jusqu’à septembre. Vous pouvez toujours m’écrire ou répondre à cette infolettre. Je réponds à tout le monde.

1. D’après Karl Marx, Capital: A Critique Of Political Econmy, trad. Paul Reitter, p. 351. J’ai croisé la traduction avec le texte de l’édition MEGA en allemand. La traduction de ce passage spécifique dans la version française de Jean-Pierre Lefebvre était plus fonctionnelle et moins belle.