Morale on Framatophe

Bondieuseries technologiques : le mythe de la page blanche

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Sat, 03 Oct 2026 00:00:00 +0000

Ce texte cherche à exprimer l’impasse épistémologique et morale de la régulation de l’IA par le prisme des « usages » individuels. Pensons-nous en dehors de toute matérialité technique ? Certaines formes critiques de l’IA sont un piège moral.

Échec de l’évaluation morale des usages

Nous analysons avec nos yeux et nos valeurs occidentales et modernes (au sens des Lumières). Nous cherchons à définir des principes d’adoption et d’usages de l’IA, mais les usages sont tellement diffus et diversifiés qu’ils forment en réalité un continuum matériel. Nous feignons de l’ignorer. Nous pensons en termes binaires :

Là, on peut utiliser, là, on ne devrait pas
Ou bien : ceci est mal, ceci est bien/acceptable (en vertu de…)
Etc.

Nous cherchons à appliquer des catégories binaires sur un continuum varié et nuancé. En épistémologie, c’est ce que Karl Popper appelait le problème de la démarcation.

Transposition et continuum technologique

En sciences, le principe consiste à chercher un critère permettant de distinguer les propositions des sciences empiriques de celles de la métaphysique, de la logique mathématique ou des pseudosciences. Le critère établi par Popper est la réfutabilité (ou falsifiabilité) : une proposition est scientifique si et seulement si elle peut entrer en contradiction avec des observations empiriques possibles.

Ce principe méthodologique présuppose qu’une observation puisse invalider une hypothèse de manière directe et univoque. Or, l’approche de Popper a elle-même été discutée et ses limites largement admises. Pierre Duhem et Willard Van Orman Quine ont montré qu’une hypothèse isolée n’est jamais soumise seule à l’expérience, il y a tout un réseau d’hypothèses, théories et postulats auxiliaires. Donc si l’expérience est négative, elle ne démontre pas en soi (et à elle seule, sauf dans certains cas rares) le rejet de l’hypothèse de départ. Thomas Kuhn a montré à son tour que l’activité de recherche dépend toujours d’un ou plusieurs paradigmes (matrice disciplinaire, modèles d’application) et que s’il y a une énigme, elle ne remet pas forcément en cause les fondements de la théorie. Et je passe les autres approches (Imre Lakatos, Paul Feyerabend, et beaucoup d’autres). Il reste que le problème de la démarcation se pose toujours et pas seulement dans les sciences.

Casuistique

Lorsqu’un principe moral repose sur une condition d’inclusion discrète (posséder une propriété X), il engendre mécaniquement des zones-frontières, nécessitant soit la création d’états d’exception juridiques ou éthiques (une casuistique), soit une redéfinition du principe initial. « Utiliser l’IA, c’est mal » : comme il y a toujours un problème de démarcation, on va déterminer longuement dans quels cas l’exception est admise, dans quel cas elle est tolérable, dans quel cas elle est condamnable, bref, une casuistique. Et tout cela parce que nous sommes incapables (puisque nul ne peut prédire l’avenir) d’envisager les choses sous l’angle de l’évolution des usages, sous l’angle du changement économique, sous l’angle du changement climatique, etc. En somme, tous ces facteurs qui conditionnent nos usages. Dès lors, on se focalise sur les usages et non sur les conditions matérielles de l’IA.

Vous allez me dire : « bien sûr que si, la preuve, nous condamnons le capitalisme à l’œuvre, les dégâts de l’IA sur l’économie et l’environnement, etc. ». Oui, certes, mais ces dénonciations s’articulent encore comme des variables externes et non comme la définition même de l’objet « IA ». Nous produisons une séparation entre l’artefact cognitif abstrait (et souvent mal défini, c’est pourquoi nous faisons usage de l’expression « IA » à la place de services de texte ou contenus génératifs, ou LLM, ou encore d’autres services) et le système technique global qui le rend possible.

Critique matérialiste

Neutralisation de la distinction morale

L’intelligence artificielle n’est pas une entité désincarnée soumise à l’arbitrage de l’utilisateur. C’est un système technique qui inclut des conditions matérielles, logistiques et sociales. En s’interrogeant sur les usages, la réflexion occulte la chaîne d’interdépendances physiques (de la mine à la gestion de l’énergie en passant par les puces et le pillage des connaissances), ou, si elle les mentionne, c’est à la marge.

Tenter d’appliquer un critère de démarcation entre un usage admissible et un usage condamnable revient à évaluer l’interface sans considérer sa base de production. Le déploiement des services de LLM ou de tout-ce-qu’on-veut basé sur de l’apprentissage automatisé, indépendamment de sa finalité (formuler un diagnostic médical ou générer une campagne de désinformation par du slopping), active l’intégralité de l’infrastructure sous-jacente. L’usage validé moralement mobilise la même matrice extractive et énergétique que l’usage rejeté.

Mythe de la page blanche

La sortie de ce problème de démarcation implique de renoncer à l’évaluation morale des actes isolés pour substituer à la théorie des usages une analyse du système technique dans sa stricte matérialité. Or, la réponse, nous la connaissons déjà : nous ne voulons pas de ce monde fait de capitalisme de surveillance, de capitalisme de plateforme, de capitalisme extractiviste, qui nourrit nos systèmes techniques tout en créant des inégalités et qui menace toujours plus l’environnement et le climat. Si nous voulons des systèmes automatisés et si nous devons composer avec l’existant (l’IA d’aujourd’hui incluse, car « on ne pourra pas remettre le dentifrice dans le tube », les modèles sont déjà là), il faut y répondre par la communalisation de ces systèmes techniques : maîtriser en commun leurs conditions matérielles d’exercice.

Dépassement et limites

Mais cela nous confronte directement avec plusieurs problématiques.

Un problème d’échelle. Le système technique dont nous parlons ici est mondial et implique des infrastructures matérielles dont nous peinons à imaginer l’importance stratégique et géographique (les câbles sous-marins, la centralisation des capitaux, les chaînes d’approvisionnement transnationales en terres rares, les monopoles industriels comme celui des semi-conducteurs et les infrastructures de calculs elles-mêmes dont les besoins se mesurent en gigawatts). L’échelle de production de l’IA s’oppose à la structure institutionnelle classique des biens communs. Il faudrait résoudre cette asymétrie. Cela peut se faire avec un changement d’échelle, par communautés d’utilisateurs capables de surveiller et de réguler les ressources : donc une low-technicisation d’envergure est nécessaire.

Nous devons écarter une confusion qu’on rencontre souvent : le déploiement de modèles de langage dits « open source » (voire libres ?) ne constitue pas une communalisation du système technique. On se limite là à la seule approche cognitive de l’artefact. L’ouverture logicielle maintient la dépendance aux infrastructures matérielles propriétaires citées ci-dessus. Un commun technique appliqué à l’IA implique une gouvernance sur la couche matérielle : la propriété des serveurs, l’accès à la puissance de calcul et la maîtrise des sources énergétiques. Parlerait-on d’une nationalisation des ressources techniques ? Si oui, quel serait leur degré de souveraineté ?

À moins d’imaginer des communs à l’échelle mondiale. Cela donne le vertige. Pourrait-on vraiment communaliser un méga-système technique mondial sans verser dans l’excès inverse : reproduire sous une forme centralisée (bureaucratique) les tares du productivisme technologique que l’on critique. C’est bien pourquoi les communs devraient idéalement reposer en premier sur des ressources locales et des communautés d’usage circonscrites. La seule issue réaliste n’est donc pas la prise en commun d’un monstre technologique, mais son amoindrissement, sa régulation stricte, voire son abandon sélectif (la décroissance technologique).

Dès lors, la régulation ne porte plus sur l’intention morale de l’usager, mais sur la gestion des ressources. Le débat passe du domaine de l’éthique au domaine de la politique de l’allocation. Comment définir des seuils de viabilité matérielle ? Peut-être y serons-nous forcés dans un avenir proche par le simple fait du changement climatique (tout comme nous devrons très prochainement limiter les voyages et déplacements dépendants de l’énergie fossile). La délibération collective devra alors porter sur des métriques : quelle proportion d’électricité, de capacité de refroidissement (eau) et de minerais une collectivité (ou un pays) décide-t-elle d’allouer au calcul informatique, en concurrence avec d’autres fonctions sociales ou industrielles ? Serons-nous prêts à faire ces choix, y compris budgétaires ?

Problème de l’éthique de l’intention (illustration)

Je lis l’article de Pierre-Thomas Eckert à propos de l’affaire Thélyson Orélien que l’on « accuse » de s’être servi de LLM pour écrire son roman. La question ne porte pas tant sur l’analyse des faits, mais sur une prémisse épistémologique : l’autonomie et la puissance intrinsèque de la cognition humaine, qu’il faudrait préserver des systèmes génératifs qui opèrent un « délestage cognitif » néfaste.

C’est tout simplement faire fi des conditions matérielles de la connaissance.

Premièrement, il y aurait une sorte de vertu épistémique à se confronter à la « page blanche ». Mais que nous dit l’anthropologie ? Les travaux d’André Leroi-Gourhan montrent la technique comme couplage fonctionnel entre l’organisme et l’environnement : mémorisation et transmission (parole comme écrit) sont des processus biologiques qui passent toujours par la technique. La page blanche et la plume forment un système technique : à partir de quel moment la complexification de ce système technique pose un problème moral ? quand il se transforme en clavier + écran ? quand il emploie un algorithme de correction grammaticale ? quand on fait une recherche sémantique sur cinq ans de notes de lecture et qu’on en automatise un résumé ? quand ?

Deuxièmement, on essaie de confronter l’éthique individuelle à une question technique qui dépasse largement le cadre individuel. P.-T. Eckert tente de résoudre un état de fait technique (les LLM) en faisant appel à la probité morale du chercheur (l’honnêteté, l’effort). Mais les usages des LLM sont déjà incités (voire normalisés) par les structures du monde académique qui créent une pression à la publication (le publish or perish). Peut-on vraiment demander aux individus de résister par la seule force de leur volonté à un dispositif que l’économie même de leur profession rend nécessaire (quand il ne le requiert pas, carrément) ? Injonction paradoxale…

Et troisièmement, il y aurait de manière éthérée une intentionnalité humaine, absolument pure, préexistante à sa formulation matérielle. C’est ce que P.-T. Eckert suppose lorsqu’il affirme que rédiger à l’aide d’un LLM (on ne sait finalement pas à quel degré) cause un glissement sémantique et intentionnel par rapport à ce que le chercheur (ou le romancier) aurait exprimé par lui-même. Déjà, comme nous venons de le voir, le « par lui-même » est sujet à caution tant nous dépendons des systèmes techniques dans nos productions (et je ne parle pas de la fameuse inspiration dont on sait pertinemment qu’elle est le résultat d’une foule de conditions). Ensuite, la machine ne traduit jamais une pensée humaine souveraine, elle participe toujours à sa formulation : que ferions-nous sans base de données ? sans instruments statistiques ? sans automatisation ? La page blanche est toujours un fantasme : toute personne dont l’activité est l’écriture (y compris de code) travaille avec des notes qu’elle classe, avec un système automatisant une partie de son travail, bref avec un système technique dont l’objectif est la gestion de la connaissance.

Et pourtant, je suis bien d’accord sur un point, pour en avoir fait l’expérience en situation de rédaction. Lorsque je demande à un LLM de mieux tourner une phrase, ou bien lorsqu’un logiciel embarquant un LLM me propose de poursuivre une phrase et que je m’y conforme, je ne peux pas ne pas me demander si le résultat final est bel et bien ce que je voulais écrire. Même si j’ai moi-même modifié le résultat pour le faire mieux correspondre à mon intention initiale. Mais suis-je alors dans la capacité de le savoir avec exactitude ? Je ne suis pas certain que mes capacités cognitives soient suffisantes pour en juger, étant donné que ce passage du biologique au monde matériel est déjà effectué. En somme, que le « dentifrice est sorti du tube ». Cela disqualifie-t-il pour autant mon travail ?

Trop déterministe ?

Pour effectuer une critique digne de ce nom, il faut parfois légèrement exagérer les enjeux du questionnement de départ. Dans ce texte j’ai essayé de réaliser une critique radicale de la morale individuelle en la dissolvant dans un système technique qui déterminerait toujours l’existence de la pensée. C’est une posture fataliste, voire cynique. C’est précisément dans les marges de l’usage, par la ruse (fouillez un peu ce blog, j’en parle souvent) et par l’exercice conscient de la responsabilité du sujet (refuser le « délestage cognitif », cultiver l’effort de la pensée), que s’invente la résistance politique. L’éthique n’est pas un vain mot : elle est la condition première de la conscience critique. C’est en réalité la raison première de ce texte…

Conclusion

On ne sortira pas du problème de la démarcation tant qu’on cherchera à endiguer les effets d’un système technique global par la seule régulation des intentions et des actes individuels. La puissance cognitive de l’individu n’est ni un rempart infaillible ni suffisante, elle est toujours configurée par le système technique dans lequel on évolue. Ce qui nous fait peur, par conséquent, ce n’est pas la dépendance au système, c’est sa vitesse et sa (dé)mesure, un peu comme si lors de l’arrivée de l’imprimerie, du jour au lendemain, tous les récits avaient été imprimés dans la nuit sans que tout le monde soit en capacité de les lire. C’est à cette dimension qu’il faut s’attaquer et non par le biais de la morale.

Toute la France se tient sage... toute ?

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Sat, 04 Feb 2023 00:00:00 +0000

Il y a des torchons qu’on ne devrait pas signer et d’autres qui méritent franchement d’être brûlés. La « France qui se tient sage » est un concept qui a fait du chemin et il est vrai que bien peu l’ont vu venir. Il se décline aujourd’hui dans le monde associatif mais aussi – on en parle moins – dans le monde académique.

Des associations qui se tiennent sages

En 2020, dans le cadre de la lutte contre le « séparatisme », l’argumentaire était judicieusement choisi. Surfant sur la vague des attentats (notamment celui de Samuel Paty) se revendiquant d’un certain islam, et sur celle de l’angoisse d’un monde en guerre et de l’écho trop large laissé aux discours de haine dans les médias, la lutte contre le séparatisme visait à prémunir la société française contre les tentatives anti-démocratiques de groupes identifiés souhaitant imposer leur propre ordre social. Ordres religieux, s’il en est, ou bien ordres néofascistes, bref, la Loi confortant le respect des principes de la République (dite « Loi séparatisme ») nous a été vendue comme un bouclier républicain. En particulier des dispositions ont été prises pour que toute association profitant des bienfaits institutionnels (versement de subventions ou commodités municipales) tout en livrant discours et actes à l’encontre de l’ordre républicain se verrait dissoute ou au moins largement contrecarrée dans ses projets.

On peut s’interroger néanmoins. L’arsenal juridique n’était-il pas suffisant ? Et dans la surenchère d’amendements appelant à la censure de tous côtés, on pouvait déjà se douter que le gouvernement était désormais tombé dans le piège anti-démocratique grossièrement tendu : ordonner le lissage des discours, l’obligation au silence (des fonctionnaires, par exemple), contraindre la censure à tout bout de champ dans les médias… le front des atteintes aux libertés (surtout d’expression) marquait une avancée majeure, ajoutées au déjà très nombreuses mesures liberticides prises depuis le début des années 2000.

Le 31 décembre 2021, un décret mettait alors en place le Contrat d’engagement républicain (CER) à destination des associations qui bénéficient d’un agrément officiel ou de subventions publiques (au sens large : il s’agit aussi de commodités en nature qu’une collectivité locale pourrait mettre à disposition). Ce CER n’a pas fait couler beaucoup d’encre à sa sortie, et pour cause : les conséquences n’était pas évidentes à concevoir pour le grand public. Tout au plus pouvait-on se demander pourquoi il était pertinent de le signer pour toutes les associations qui sont déjà placées sous la loi de 1901 (ou sous le code civil local d’Alsace-Moselle). Après tout, celles accusées de séparatisme tombaient déjà sous le coup de la loi. Par exemple, pourquoi l’association des Joyeux Randonneurs de Chimoux-sur-la-Fluette, dont les liens avec le fascisme ou l’intégrisme religieux sont a priori inexistants, devait se voir contrainte de signer ce CER pour avoir le droit de demander à la municipalité quelques menus subsides pour l’organisation de la marche populaire annuelle ?

Réponse : parce que l’égalité est républicaine. Soit ce CER est signé par tout le monde soit personne. D’accord. Et le silence fut brisé par quelques acteurs de qui, eux, l’avaient lu attentivement, ce contrat. Il y eut Le Mouvement Associatif qui dès le 3 janvier 2022 publie un communiqué de presse et pointe les dangers de ce CER. On note par exemple pour une association l’obligation de surveillance des actions de ses membres, ou encore le fait que les « dirigeants » d’une association engagent la responsabilité de l’ensemble de l’association. Comprendre : si l’un d’entre vous fait le mariole, c’est toute l’asso qui en subit les conséquences (privé de subvention, na!).

Puis s’enclenche un mouvement général, comme le 02 févier 2022 cet appel de la Ligue des Droits de l’Homme. Enfin L.A. Coalition fut au premier plan contre le CER dès les premiers débats sur la loi séparatisme. Créé dès 2019 afin de « proposer des stratégies de riposte contre les répressions subies par le secteur associatif », L.A. Coalition montre combien sont nombreuses les entraves judiciaires ou administratives dressées dans le seul but de nuire aux libertés associatives, surtout lorsqu’elles sont teintés de militantisme… alors même qu’elles sont la matière première de la démocratie en France. L.A. Coalition illustre la contradiction notoire entre le discours gouvernemental prétendant défendre la République et la voix du peuple profondément attaché aux valeurs démocratiques. Elle se fait ainsi le thermomètre de l’illibéralisme en France.

Lorsque les associations s’emparent de sujets de société tels l’écologie, les questions de genre, l’économie, les migration, la pauvreté, ou oeuvrent plus généralement pour une société plus juste et solidaire, elles sont désormais amenées à engager une lutte à l’encontre des institutions qui, jusqu’à présent, leur garantissait un cadre d’action démocratique et juridique.

Mais cette lutte dépasse assez largement le cadre des actions associatives. En effet, le CER n’a pas pour seul objet de contraindre les citoyens à la censure. Il sert aussi à court-circuiter les cadres de l’action publique locale, surtout si les collectivités locales sont dirigées par des élus qui ne sont pas du même bord politique que la majorité présidentielle. C’est que qu’illustre notamment l’affaire d’Alternatiba Poitiers qui s’est vue (ainsi que d’autres associations) mettre en cause par le préfet de la Vienne en raison d’un atelier de formation à la désobéissance civile lors d’un évènement « Village des alternatives ». Invoquant le CER contre le concept même de désobéissance civile, le préfet Jean-Marie Girier (macroniste notoire) a obligé la mairie de Poitiers (dont le maire est EELV) à ne pas subventionner l’évènement. Il reçu aussitôt l’appui du Ministre de l’Intérieur (l’affaire est devant la justice). La France des droits et libertés contre la France de l’ordre au pouvoir, tel est l’essence même du CER.

Des scientifiques qui se tiennent sages

On ne peut pas s’empêcher de rapprocher le CER du dernier avatar du genre : le serment doctoral.

Qu’est-ce que c’est ? Il s’agit d’un serment d’intégrité scientifique rendu obligatoire pour tout nouveau docteur et stipulé dans L’arrêté du 26 août 2022 modifiant l’arrêté du 25 mai 2016 fixant le cadre national de la formation et les modalités conduisant à la délivrance du diplôme national de doctorat. L’office français de l’intégrité scientifique (OFIS) en a fait une fiche pratique.

Voici le texte (Art. 19b de l’arrêté) :

« En présence de mes pairs.

Parvenu(e) à l’issue de mon doctorat en [xxx], et ayant ainsi pratiqué, dans ma quête du savoir, l’exercice d’une recherche scientifique exigeante, en cultivant la rigueur intellectuelle, la réflexivité éthique et dans le respect des principes de l’intégrité scientifique, je m’engage, pour ce qui dépendra de moi, dans la suite de ma carrière professionnelle quel qu’en soit le secteur ou le domaine d’activité, à maintenir une conduite intègre dans mon rapport au savoir, mes méthodes et mes résultats. »

On notera que sous son apparente simplicité, le texte se divise en deux : ce que le doctorant a fait jusqu’à présent et ce que le nouveau docteur fera à l’avenir (même s’il quitte le monde académique car le grade de docteur valide compétences et savoirs d’un individu et non d’une fonction). Autrement dit, le serment est censé garantir « l’intégrité » du docteur, alors même que l’obtention du diplôme validé par des (désormais) pairs était déjà censé sanctionner cette intégrité.

Là encore, tout comme avec le CER, il y a une volonté de court-circuiter des acteurs institutionnels (ici les professeurs et l’Université qui valident le doctorat) qui sont désormais réputés ne plus être en mesure de détecter la fraude ou même de garantir les sciences contre les manipulations d’informations, de données et les arguments fallacieux (on pense évidemment aux informations douteuses qui ont circulé lors de l’épisode COVID). On peut aussi s’interroger sur la représentation de la Science que cela implique : une Science figée, obéissant à un ordre moral qui l’empêcherait d’évoluer à ses frontières, là où justement les sciences ont toujours évolué, souvent à l’encontre du pouvoir qu’il soit politique, religieux ou moral.

Plusieurs sections CNU (Conseil National des Universités) sont actuellement en train de réfléchir à l’adoption de motions à l’encontre de ce serment. Ainsi la section 22 (Histoire) a récemment publié sa motion: « Elle appelle les Écoles doctorales et la communauté universitaire dans son ensemble à résister collectivement, par tous les moyens possibles, à l’introduction de ce serment ». L’argument principal est que ce serment introduit un contrôle moral de la recherche. Ce en quoi la communauté universitaire a tout à fait raison de s’y opposer.

On peut aussi comparer ce serment avec un autre bien connu, le serment d’Hippocrate. Après tout, les médecins prêtent déjà un serment, pourquoi n’en serait-il pas de même pour tous les docteurs ?

Hé bien pour deux raisons :

Parce que le serment d’Hippocrate n’est pas défini par un arrêté et encore moins dicté par le législateur. Il s’agit d’un serment traditionnel dont la valeur symbolique n’est pas feinte : il est hautement moral et à ce titre n’a pas de rapport juridique avec le pouvoir.
Il engage le médecin dans une voie de responsabilité vis-à-vis de ses pairs et surtout des patients qu’il est amené à soigner. Il appartient au Conseil de l’Ordre des médecins : c’est une affaire entre médecins et patients d’abord et entre médecins et médecins ensuite.

Reprenons les termes du serment doctoral imposé par le gouvernement : « je m’engage, pour ce qui dépendra de moi, dans la suite de ma carrière professionnelle quel qu’en soit le secteur ou le domaine d’activité, à maintenir une conduite intègre dans mon rapport au savoir, mes méthodes et mes résultats. »

Question : qui est censé juger de l’intégrité de la conduite ? Les pairs ? Ce n’est pas stipulé, alors que c’est clair dans le serment d’Hippocrate de l’Ordre des Médecins, dernier paragraphe :

« Que les hommes et mes confrères m’accordent leur estime si je suis fidèle à mes promesses ; que je sois déshonoré(e) et méprisé(e) si j’y manque. »

Le « serment doctoral » stipule seulement qu’il est prêté « en présence de mes pairs », la belle affaire. Il est évident selon moi que l’intégrité scientifique d’un chercheur sera à l’avenir évaluée moralement par les institutions et non par les pairs. Cette tendance à la fongibilité entre morale et droit dans nos institutions républicaines est tout à fait malsaine.

Parlons des scandales pharmaceutiques. Parlons des scandales environnementaux. Si demain un chercheur ayant signé ce serment utilise son savoir et ses méthodes pour démontrer les conséquences néfastes (tant environnementales que sociales) d’un engagement gouvernemental dans l’ouverture d’une mine de charbon comme celle de Hambach en Allemagne, à votre avis : pourra-t-il toujours dans son laboratoire essayer de prétendre à quelques subventions pour des recherches (même n’ayant aucun rapport avec son engagement personnel contre la mine) ? En fait, sur le sujet climatique, la question de l’engagement des chercheurs est brûlante : ce qu’on veut surtout éviter c’est le profil du chercheur militant, car on ne sait jamais, il pourrait avoir raison…

Là encore le militantisme et la démocratie sont mises en cause de manière frontale par le gouvernement.

Après avoir bien transformé la dynamique de la recherche française en la noyant sous l’évaluation et la logique de projet, il est normal de faire en sorte que les chercheurs, tout comme les associations, puissent enfin rentrer dans le rang : c’est une France qui se tient sage. Le concept a fait du chemin.