Bondieuseries technologiques : le mythe de la page blanche

Ce texte cherche à exprimer l’impasse épistémologique et morale de la régulation de l’IA par le prisme des « usages » individuels. Pensons-nous en dehors de toute matérialité technique ? Certaines formes critiques de l’IA sont un piège moral.

Échec de l’évaluation morale des usages

Nous analysons avec nos yeux et nos valeurs occidentales et modernes (au sens des Lumières). Nous cherchons à définir des principes d’adoption et d’usages de l’IA, mais les usages sont tellement diffus et diversifiés qu’ils forment en réalité un continuum matériel. Nous feignons de l’ignorer. Nous pensons en termes binaires :

• Là, on peut utiliser, là, on ne devrait pas
• Ou bien : ceci est mal, ceci est bien/acceptable (en vertu de…)
• Etc.

Nous cherchons à appliquer des catégories binaires sur un continuum varié et nuancé. En épistémologie, c’est ce que Karl Popper appelait le problème de la démarcation.

Transposition et continuum technologique

En sciences, le principe consiste à chercher un critère permettant de distinguer les propositions des sciences empiriques de celles de la métaphysique, de la logique mathématique ou des pseudosciences. Le critère établi par Popper est la réfutabilité (ou falsifiabilité) : une proposition est scientifique si et seulement si elle peut entrer en contradiction avec des observations empiriques possibles.

Ce principe méthodologique présuppose qu’une observation puisse invalider une hypothèse de manière directe et univoque. Or, l’approche de Popper a elle-même été discutée et ses limites largement admises. Pierre Duhem et Willard Van Orman Quine ont montré qu’une hypothèse isolée n’est jamais soumise seule à l’expérience, il y a tout un réseau d’hypothèses, théories et postulats auxiliaires. Donc si l’expérience est négative, elle ne démontre pas en soi (et à elle seule, sauf dans certains cas rares) le rejet de l’hypothèse de départ. Thomas Kuhn a montré à son tour que l’activité de recherche dépend toujours d’un ou plusieurs paradigmes (matrice disciplinaire, modèles d’application) et que s’il y a une énigme, elle ne remet pas forcément en cause les fondements de la théorie. Et je passe les autres approches (Imre Lakatos, Paul Feyerabend, et beaucoup d’autres). Il reste que le problème de la démarcation se pose toujours et pas seulement dans les sciences.

Casuistique

Lorsqu’un principe moral repose sur une condition d’inclusion discrète (posséder une propriété X), il engendre mécaniquement des zones-frontières, nécessitant soit la création d’états d’exception juridiques ou éthiques (une casuistique), soit une redéfinition du principe initial. « Utiliser l’IA, c’est mal » : comme il y a toujours un problème de démarcation, on va déterminer longuement dans quels cas l’exception est admise, dans quel cas elle est tolérable, dans quel cas elle est condamnable, bref, une casuistique. Et tout cela parce que nous sommes incapables (puisque nul ne peut prédire l’avenir) d’envisager les choses sous l’angle de l’évolution des usages, sous l’angle du changement économique, sous l’angle du changement climatique, etc. En somme, tous ces facteurs qui conditionnent nos usages. Dès lors, on se focalise sur les usages et non sur les conditions matérielles de l’IA.

Vous allez me dire : « bien sûr que si, la preuve, nous condamnons le capitalisme à l’œuvre, les dégâts de l’IA sur l’économie et l’environnement, etc. ». Oui, certes, mais ces dénonciations s’articulent encore comme des variables externes et non comme la définition même de l’objet « IA ». Nous produisons une séparation entre l’artefact cognitif abstrait (et souvent mal défini, c’est pourquoi nous faisons usage de l’expression « IA » à la place de services de texte ou contenus génératifs, ou LLM, ou encore d’autres services) et le système technique global qui le rend possible.

Critique matérialiste

Neutralisation de la distinction morale

L’intelligence artificielle n’est pas une entité désincarnée soumise à l’arbitrage de l’utilisateur. C’est un système technique qui inclut des conditions matérielles, logistiques et sociales. En s’interrogeant sur les usages, la réflexion occulte la chaîne d’interdépendances physiques (de la mine à la gestion de l’énergie en passant par les puces et le pillage des connaissances), ou, si elle les mentionne, c’est à la marge.

Tenter d’appliquer un critère de démarcation entre un usage admissible et un usage condamnable revient à évaluer l’interface sans considérer sa base de production. Le déploiement des services de LLM ou de tout-ce-qu’on-veut basé sur de l’apprentissage automatisé, indépendamment de sa finalité (formuler un diagnostic médical ou générer une campagne de désinformation par du slopping), active l’intégralité de l’infrastructure sous-jacente. L’usage validé moralement mobilise la même matrice extractive et énergétique que l’usage rejeté.

Mythe de la page blanche

La sortie de ce problème de démarcation implique de renoncer à l’évaluation morale des actes isolés pour substituer à la théorie des usages une analyse du système technique dans sa stricte matérialité. Or, la réponse, nous la connaissons déjà : nous ne voulons pas de ce monde fait de capitalisme de surveillance, de capitalisme de plateforme, de capitalisme extractiviste, qui nourrit nos systèmes techniques tout en créant des inégalités et qui menace toujours plus l’environnement et le climat. Si nous voulons des systèmes automatisés et si nous devons composer avec l’existant (l’IA d’aujourd’hui incluse, car « on ne pourra pas remettre le dentifrice dans le tube », les modèles sont déjà là), il faut y répondre par la communalisation de ces systèmes techniques : maîtriser en commun leurs conditions matérielles d’exercice.

Dépassement et limites

Mais cela nous confronte directement avec plusieurs problématiques.

Un problème d’échelle. Le système technique dont nous parlons ici est mondial et implique des infrastructures matérielles dont nous peinons à imaginer l’importance stratégique et géographique (les câbles sous-marins, la centralisation des capitaux, les chaînes d’approvisionnement transnationales en terres rares, les monopoles industriels comme celui des semi-conducteurs et les infrastructures de calculs elles-mêmes dont les besoins se mesurent en gigawatts). L’échelle de production de l’IA s’oppose à la structure institutionnelle classique des biens communs. Il faudrait résoudre cette asymétrie. Cela peut se faire avec un changement d’échelle, par communautés d’utilisateurs capables de surveiller et de réguler les ressources : donc une low-technicisation d’envergure est nécessaire.

Nous devons écarter une confusion qu’on rencontre souvent : le déploiement de modèles de langage dits « open source » (voire libres ?) ne constitue pas une communalisation du système technique. On se limite là à la seule approche cognitive de l’artefact. L’ouverture logicielle maintient la dépendance aux infrastructures matérielles propriétaires citées ci-dessus. Un commun technique appliqué à l’IA implique une gouvernance sur la couche matérielle : la propriété des serveurs, l’accès à la puissance de calcul et la maîtrise des sources énergétiques. Parlerait-on d’une nationalisation des ressources techniques ? Si oui, quel serait leur degré de souveraineté ?

À moins d’imaginer des communs à l’échelle mondiale. Cela donne le vertige. Pourrait-on vraiment communaliser un méga-système technique mondial sans verser dans l’excès inverse : reproduire sous une forme centralisée (bureaucratique) les tares du productivisme technologique que l’on critique. C’est bien pourquoi les communs devraient idéalement reposer en premier sur des ressources locales et des communautés d’usage circonscrites. La seule issue réaliste n’est donc pas la prise en commun d’un monstre technologique, mais son amoindrissement, sa régulation stricte, voire son abandon sélectif (la décroissance technologique).

Dès lors, la régulation ne porte plus sur l’intention morale de l’usager, mais sur la gestion des ressources. Le débat passe du domaine de l’éthique au domaine de la politique de l’allocation. Comment définir des seuils de viabilité matérielle ? Peut-être y serons-nous forcés dans un avenir proche par le simple fait du changement climatique (tout comme nous devrons très prochainement limiter les voyages et déplacements dépendants de l’énergie fossile). La délibération collective devra alors porter sur des métriques : quelle proportion d’électricité, de capacité de refroidissement (eau) et de minerais une collectivité (ou un pays) décide-t-elle d’allouer au calcul informatique, en concurrence avec d’autres fonctions sociales ou industrielles ? Serons-nous prêts à faire ces choix, y compris budgétaires ?

Problème de l’éthique de l’intention (illustration)

Je lis l’article de Pierre-Thomas Eckert à propos de l’affaire Thélyson Orélien que l’on « accuse » de s’être servi de LLM pour écrire son roman. La question ne porte pas tant sur l’analyse des faits, mais sur une prémisse épistémologique : l’autonomie et la puissance intrinsèque de la cognition humaine, qu’il faudrait préserver des systèmes génératifs qui opèrent un « délestage cognitif » néfaste.

C’est tout simplement faire fi des conditions matérielles de la connaissance.

Premièrement, il y aurait une sorte de vertu épistémique à se confronter à la « page blanche ». Mais que nous dit l’anthropologie ? Les travaux d’André Leroi-Gourhan montrent la technique comme couplage fonctionnel entre l’organisme et l’environnement : mémorisation et transmission (parole comme écrit) sont des processus biologiques qui passent toujours par la technique. La page blanche et la plume forment un système technique : à partir de quel moment la complexification de ce système technique pose un problème moral ? quand il se transforme en clavier + écran ? quand il emploie un algorithme de correction grammaticale ? quand on fait une recherche sémantique sur cinq ans de notes de lecture et qu’on en automatise un résumé ? quand ?

Deuxièmement, on essaie de confronter l’éthique individuelle à une question technique qui dépasse largement le cadre individuel. P.-T. Eckert tente de résoudre un état de fait technique (les LLM) en faisant appel à la probité morale du chercheur (l’honnêteté, l’effort). Mais les usages des LLM sont déjà incités (voire normalisés) par les structures du monde académique qui créent une pression à la publication (le publish or perish). Peut-on vraiment demander aux individus de résister par la seule force de leur volonté à un dispositif que l’économie même de leur profession rend nécessaire (quand il ne le requiert pas, carrément) ? Injonction paradoxale…

Et troisièmement, il y aurait de manière éthérée une intentionnalité humaine, absolument pure, préexistante à sa formulation matérielle. C’est ce que P.-T. Eckert suppose lorsqu’il affirme que rédiger à l’aide d’un LLM (on ne sait finalement pas à quel degré) cause un glissement sémantique et intentionnel par rapport à ce que le chercheur (ou le romancier) aurait exprimé par lui-même. Déjà, comme nous venons de le voir, le « par lui-même » est sujet à caution tant nous dépendons des systèmes techniques dans nos productions (et je ne parle pas de la fameuse inspiration dont on sait pertinemment qu’elle est le résultat d’une foule de conditions). Ensuite, la machine ne traduit jamais une pensée humaine souveraine, elle participe toujours à sa formulation : que ferions-nous sans base de données ? sans instruments statistiques ? sans automatisation ? La page blanche est toujours un fantasme : toute personne dont l’activité est l’écriture (y compris de code) travaille avec des notes qu’elle classe, avec un système automatisant une partie de son travail, bref avec un système technique dont l’objectif est la gestion de la connaissance.

Et pourtant, je suis bien d’accord sur un point, pour en avoir fait l’expérience en situation de rédaction. Lorsque je demande à un LLM de mieux tourner une phrase, ou bien lorsqu’un logiciel embarquant un LLM me propose de poursuivre une phrase et que je m’y conforme, je ne peux pas ne pas me demander si le résultat final est bel et bien ce que je voulais écrire. Même si j’ai moi-même modifié le résultat pour le faire mieux correspondre à mon intention initiale. Mais suis-je alors dans la capacité de le savoir avec exactitude ? Je ne suis pas certain que mes capacités cognitives soient suffisantes pour en juger, étant donné que ce passage du biologique au monde matériel est déjà effectué. En somme, que le « dentifrice est sorti du tube ». Cela disqualifie-t-il pour autant mon travail ?

Trop déterministe ?

Pour effectuer une critique digne de ce nom, il faut parfois légèrement exagérer les enjeux du questionnement de départ. Dans ce texte j’ai essayé de réaliser une critique radicale de la morale individuelle en la dissolvant dans un système technique qui déterminerait toujours l’existence de la pensée. C’est une posture fataliste, voire cynique. C’est précisément dans les marges de l’usage, par la ruse (fouillez un peu ce blog, j’en parle souvent) et par l’exercice conscient de la responsabilité du sujet (refuser le « délestage cognitif », cultiver l’effort de la pensée), que s’invente la résistance politique. L’éthique n’est pas un vain mot : elle est la condition première de la conscience critique. C’est en réalité la raison première de ce texte…

Conclusion

On ne sortira pas du problème de la démarcation tant qu’on cherchera à endiguer les effets d’un système technique global par la seule régulation des intentions et des actes individuels. La puissance cognitive de l’individu n’est ni un rempart infaillible ni suffisante, elle est toujours configurée par le système technique dans lequel on évolue. Ce qui nous fait peur, par conséquent, ce n’est pas la dépendance au système, c’est sa vitesse et sa (dé)mesure, un peu comme si lors de l’arrivée de l’imprimerie, du jour au lendemain, tous les récits avaient été imprimés dans la nuit sans que tout le monde soit en capacité de les lire. C’est à cette dimension qu’il faut s’attaquer et non par le biais de la morale.