IA on Framatophe

Agent automate et insoumission : faut-il désynchroniser ?

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Fri, 13 Mar 2026 00:00:00 +0000

L’émergence contemporaine de l’intelligence artificielle, et plus spécifiquement son glissement vers l’agent autonome, marque une rupture épistémologique que la pensée critique ne peut plus ignorer sous peine de sombrer dans l’anachronisme. Nous avons quitté l’ère du programme-outil pour celle de l’opérateur capable de naviguer, de manipuler et de s’autocorriger. Cette mutation n’est pas une simple avancée incrémentale, mais l’aboutissement d’une trajectoire historique dont il faut saisir la profondeur pour armer notre résistance. Ce billet est surtout prospectif, il ne relève pas d’une pensée aboutie et encore moins prescriptive.

(Billet publié sur le Framablog le 10/03/2025)

Éviter l’anachronisme

Historiquement, la machine était conçue comme une extension de l’organe ou une prothèse de l’intellect. C’est le concept d’outil chez Simondon. Ce dernier montrait que l’évolution technique tend vers la concrétisation : la machine devient de plus en plus cohérente en elle-même, la fonction implique la transformation de la machine (l’idée du progrès au XVIII^e siècle). Avec l’IA contemporaine (oui, parce qu’on parle d’IA depuis bien, bien longtemps), on quitte le stade de la simple prothèse (qui exécute une commande) pour entrer dans celui de l’agent (qui interprète une intention et produit une stratégie). La machine n’est plus seulement au bout de l’esprit, elle commence à occuper l’espace de la décision intermédiaire.

L’agentivité autonome actuelle rompt avec la linéarité qu’on tend généralement à supposer lorsqu’on parle d’histoire des techniques (si on n’est pas historien des techniques, la plupart du temps, c’est ainsi qu’on voit les choses). Le système technique n’est plus un simple intermédiaire entre une intention et un résultat, mais un dispositif capable de définir ses propres sous-objectifs et de corriger ses trajectoires d’exécution en temps réel. Cette autonomie opérationnelle déplace le curseur de la décision, créant un système technique où l’opérateur humain intervient par la consigne de haut niveau plutôt que par le pilotage de précision. Et le paradoxe, c’est que ce faisant, nous créons un système hiérarchique radical dans lequel la plupart des opérateurs humains deviennent eux-mêmes des rouages, lorsque par exemple l’algorithme impose sa loi au livreur, au manutentionnaire, au vendeur. Toutes les professions, y compris les plus intellectuelles, sont désormais destinées à produire ce que Cory Doctorow nomme des centaures inversés.

La violence technologique que je mentionne ces derniers temps dans mes écrits m’inspirant de la pensée de Detlef Hartmann, se superpose à cette lecture. Dans le capitalisme industriel, les individus sont dépossédés de leur autonomie et rendus étrangers à leur propre activité. Dès les années 1970-1980, cette logique d’aliénation s’étend de la production industrielle à la production symbolique et intellectuelle par l’informatisation des tâches, toujours au service du contrôle et de la rationalisation capitalistes. La violence technologique prolonge ainsi la violence structurelle du capital en cherchant à formater les dimensions qualitatives de l’existence humaine (l’intuition, l’émotion, l’imaginaire) selon les exigences d’un ordre rationnel formel. Cette normalisation constitue une violence en ce qu’elle privilégie l’accumulation et le contrôle, réduit la richesse des facultés humaines à des catégories limitées et entrave les pratiques d’émancipation ainsi que la capacité collective à transformer consciemment le monde.

L’introduction des agents dans le système technique numérique modifie la structure de la preuve et de la responsabilité technique. Dans le paradigme du logiciel classique, la réponse est déterministe et traçable dans le code. Avec les modèles d’action autonomes, le système procède par inférences probabilistes et par itérations imprévisibles sur des interfaces tierces. Cette opacité du processus décisionnel, cette boîte noire, remet en cause l’imaginaire de la maîtrise technique, où l’utilisateur est censé comprendre et contrôler chaque étape de la transformation du réel par la machine (même si dans bien des cas, c’est vraiment imaginaire).

En s’extrayant de la simple génération de texte pour interagir directement avec les systèmes d’exploitation et les réseaux, les modèles d’IA aujourd’hui créent un nouveau milieu. Elles deviennent des acteurs dans l’infrastructure numérique. Elles imposent une cohabitation dans laquelle les processus automatisés s’autoalimentent, réduisant ainsi la latence entre la conception et l’application, mais augmentant radicalement la complexité du système technique global.

L’anachronisme consiste à s’obstiner à analyser l’IA comme un simple automate sophistiqué. La spécificité de l’agent autonome réside dans sa capacité de planification et d’adaptation face à l’imprévu. Ignorer cette dimension conduit à une méprise sur la nature même de la puissance de calcul contemporaine : elle n’est plus seulement quantitative (vitesse de traitement), mais qualitative (capacité de médiation et de substitution dans des tâches cognitives et décisionnelles complexes).

L’IA dans l’histoire de l’arraisonnement technique

Pour comprendre l’IA, il faut l’inscrire dans l’histoire de l’informatisation des organisations amorcée dans les années 1960-1970. Nous sommes alors passés d’un moment technique à un autre, entre « faire travailler les machines » à notre place, à la constitution de « systèmes d’information ». Cela a transformé l’ordinateur en un pivot du management, visant la quantification du réel, et en particulier la productivité de l’homme et son comportement (marketing). Déjà à cette époque, le discours sur la « neutralité technique » servait de paravent à une volonté de monitoring social et de rationalisation productiviste.

Je ne peux m’empêcher de penser (c’est peut-être justement un réflexe anachronique, donc : prudence) que l’IA générative contemporaine marque l’aboutissement technique de ce que Marx nommait le « sujet automate » : un stade dans lequel le système de machinerie ne se contente plus d’assister l’homme, mais s’autonomise pour devenir un processus de production de valeur dont l’humain n’est plus que l’accessoire. Dans cette configuration, l’IA n’est plus un outil inerte, mais un agent capable de gérer ses propres itérations. Dans un récent article Matt Shumer (oui, encore un entrepreneur de l’IA, mais on peut aussi le lire, ce n’est pas inutile), mentionne le modèle GPT-5.3 Codex : la machine contribue désormais à sa propre création en déboguant son code de formation et en optimisant elle-même son déploiement. En fermant cette boucle de rétroaction, l’IA instaure un métabolisme technique qui s’autoalimente : elle écrit le code des générations futures, créant une accélération où la puissance de calcul se valorise elle-même.

Cette mutation transforme notre rôle : nous passons du statut d’opérateur pilotant une machine, ou d’opérateur annexe à la machine (le livreur surveillé par l’algortithme qui lui dit où déposer le colis et en combien de temps) à celui de simple fournisseur de ressources. À moins de faire partie d’une élite des big tech, nous sommes en train de passer du statut déjà peu enviable de périphérique biologique d’un système algortithmique à celui d’un terreau d’où le système extrait les données nécessaires à sa propre maintenance. Il en résulte une « seconde nature » technologique, telle que décrite par Jacques Ellul et Langdon Winner : un environnement si totalisant et si profondément imbriqué dans nos formes de vie qu’il devient invisible à nos yeux. Nous basculons alors dans un somnambulisme technologique, acceptant comme inéluctable un cadre de vie où la technologie dicte ses propres normes de fonctionnement¹.

Le braconnage culturel est-il une impasse ?

Ces deux dernières années, je me suis appuyé sur deux concepts qui permettent de se figurer des méthodes d’émancipation de ce cadre de vie ainsi imposé. Celui de mètis repris de James Scott, dans L’œil de l’État, et celui de braconnage culturel, repris de Michel de Certeau, dans L’invention du quotidien (voir la troisième section de cet article). Autant mener résistance contre un système totalitaire par la ruse laisse au moins un horizon ouvert de techniques à tester et à éprouver (on pense par exemple au Fediverse et ses protocoles), autant les tactiques de M. de Certeau me semblent désormais quelque peu obsolètes. Que nous dit M. de Certeau ? Il nous parle des tactiques du quotidien qui permettent, par des usages imprévus, de détourner l’ordre imposé. J’y voyais comme lui autant d’actes possibles de résistance, comme détourner des objets de leurs finalités ordonnées par leur marchandisation. Souvenez-vous par exemple de la Pirate Box qu’il était possible d’installer sur un routeur TP-Link. Mais aujourd’hui, nous devons affronter quelque chose de beaucoup plus brutal : l’IA générative semble immunisée contre ce braconnage car elle ne se contente plus de prescrire un usage… elle l’absorbe.

Le braconnier joue sur les failles d’un système rigide. L’agent IA, lui, est par définition malléable et adore les déviations. Chaque tentative de détournement devient une nouvelle donnée d’entraînement, une itération supplémentaire qui permet au système de corriger ses erreurs et d’intégrer la subversion dans sa propre logique formelle. Le système se fiche du sens de votre révolte tant qu’il peut en modéliser le comportement. Le braconnage numérique risque donc de n’être qu’une collaboration involontaire à l’emprise algorithmique « voulez-vous que je vous aide à créer votre Pirate Box ? »

Quelle mètis pour l’insoumission ?

Dès lors, il ne s’agit plus de ruser dans le système, mais de ruser contre son intelligibilité. Notre mètis doit devenir une intelligence de la désynchronisation :

Le sabotage de la prédictibilité : puisque le capitalisme de surveillance tend à une augmentation des degrés de certitude, l’insoumission passe par l’injection de « bruit » et l’entretien de zones de haute tension identitaire. On peut penser aux pratiques de data obfuscation. Il faut refuser la standardisation des subjectivités en multipliant les appartenances contradictoires que l’algorithme ne peut réduire à un profil de consommation cohérent. Hélas, le principal biais de cette approche, c’est l’épuisement à transformer notre quotidien en lutte permanente, coûteuse et aux résultats incertains, contre des machines qui, elles, ne s’épuisent pas. Reste à s’appuyer sur le droit et les garde-fous de type RGPD et AI-Act… suffiront-ils ? j’ai des doutes.
Désynchroniser nos pratiques de l’ordre imposé : face à l’agent qui navigue pour nous, la ruse consiste à restaurer notre propre encapacitation par le recours aux Communs numériques et aux low-tech. C’est une forme de « désapprentissage » de la dépendance. L’objectif est de reconstruire des espaces d’autonomie technique où l’on refuse la médiation de l’agent propriétaire. Là, le logiciel libre a toutes ses cartes à jouer, et c’est maintenant ! il est presque déjà trop tard. À trop dénigrer les LLM et les services qui emmerdifient le web, nous avons laissé passer le train de l’adoption des usages : la seule solution consiste selon moi à utiliser les modèles existant et les détourner. C’est une réminiscence du braconnage culturel que je mentionnais plus haut, sauf qu’ici, il s’agit d’un geste technique, qui implique des communautés, et non plus le quotidien personnel de chacun de nous. Nous devons braconner ensemble. De petits LLM à l’usage concret et frugal.
L’action préfigurative : j’en parle dans ce billet. Il s’agit de créer des « archipels » de liberté numérique qui échappent physiquement et logiquement au contrôle centralisé. Cela revient à refuser le somnambulisme technologique en organisant des espaces dans lesquels la créativité, le partage et la solidarité redeviennent les mesures de l’intérêt du monde numérique.

En acceptant les modèles d’IA comme des auxiliaires « pratiques », nous signons un contrat dont les clauses d’aliénation ne nous seront révélées qu’une fois que le verrouillage socio-technique sera total. Nous devons donc politiser non pas seulement l’usage, mais les conditions de possibilité de ces techniques. Si un système technique exige pour fonctionner une structure de commandement hiérarchique ou une extraction illimitée de données, il doit être combattu en tant qu’artefact intrinsèquement autoritaire. Notre mètis ne doit plus être celle du braconnier qui se cache dans la forêt, mais celle du constructeur d’une autre forêt, impénétrable (ou le moins possible).

Un monde sans les IA d’aujourd’hui (à moins d’une catastrophe) n’est plus envisageable. Et jamais, nous n’avons été autant dépossédés de notre cadre de vie. La menace est trop grande pour que nous puissions nous payer le luxe d’ignorer ou faire semblant d’éviter cet avancement technologique brutal et foudroyant. La question ne se limite plus à se demander si chacun d’entre nous utilise ou pas ces technologies. Elles s’imposent partout, et s’imposeront encore. Je ne vois donc qu’une seule possibilité : ruser. Ruser en utilisant ces techniques, en y opposant d’autres savoirs (et c’est en cela que la mètis est le miroir inversé de la technè) et en leur volant de la valeur. La transformer en commun. D’abord par la connaissance et la réappropriation cognitive, ensuite en désynchronisant l’usage de l’autorité.

Idées en vrac et à réfléchir ensemble :

des SLM (Small Language Models) à usage concret et frugal (avec une sorte de Huggingface vraiment communautaire, spécialisation fine de type LoRA),
des espaces numériques où la créativité redevient le moteur de la valeur ajoutée (un web off-line first, flux RSS, pages statiques, Fediverse),
reformer un web à part, un web « des gens », sans usages imposés, et lui aussi frugal.
Autres idées ? c’est le moment :)

Je reprends ici deux expressions de Langdon Winner, dans La baleine et le réacteur, dont je conseille vivement la lecture. ↩︎

IAg et neutralité de la technique

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Mon, 21 Jul 2025 00:00:00 +0000

Ceci est une note de synthèse qui s’inspire en partie des thèmes et arguments abordés dans l’article : « ChatGPT, c’est juste un outil ! : les impensés de la vision instrumentale de la technique » par Olivier Lefebvre.

Dans la mesure où les thèmes en question ont tous déjà été abordés par d’autres auteurs, j’y ajoute des contextes, des réflexions et des références comme autant de pistes d’ouverture au sujet de la non-neutralité de la technique.

Commençons par un fait : les entreprises des Big Tech qui travaillent sur les IA génératives ont tout à gagner de considérer ces dernières comme des outils.

Les arguments marketing de Microsoft présentent Copilot comme un assistant permettant de délester les humains des tâches fastidieuses pour qu’ils se concentrent sur des tâches à plus haute valeur ajoutée. C’est une vision où l’IA est clairement un outil d’appoint, sans autonomie créative réelle, orientée dans un seul but, la productivité.

D’autres voix plus subtiles se font toutefois entendre. Andrew Ng, co-fondateur de Google Brain, s’exprime à ce sujet devant un journaliste de The Economic Times le 17 juillet 2025. Il minimise l’idée d’une intelligence artificielle générale imminente, qualifiant de « ridicules » les peurs » selon lesquelles ces systèmes remplaceraient massivement les humains. Pour lui, l’IA doit être un outil permettant d’augmenter l’humain, pas un substitut de la créativité ou du raisonnement. Ce faisant il formule une comparaison avec l’électricité : selon Ng, l’IA est une technologie neutre dont l’impact dépend entièrement de la façon dont elle est utilisée :

« L’IA n’est ni sûre ni dangereuse. C’est la façon dont vous vous en servez qui la rend telle », a-t-il déclaré. « Comme l’électricité, l’IA peut alimenter d’innombrables applications positives, mais elle peut aussi être utilisée de manière préjudiciable si elle est mal gérée. »

Considérer les IA génératives ou n’importe quelle autre technique comme un « simple outil », cela revient à adopter une approche instrumentale de la technique. C’est une approche volontairement réductrice, qui présuppose la neutralité des technologies, et élude les conditions matérielles, sociales, économiques et politiques de leur existence. Elle masque également les transformations profondes que ces systèmes techniques induisent dans nos manières de vivre, de penser, de produire, et d’interagir.

Nous savons depuis longtemps que la technique n’est pas neutre. Et pourtant, le sujet revient comme un marronnier : il est toujours renouvelé par ceux qui ont un intérêt à réduire la technique à ses aspects purement utilitaires. Les IA génératives ne relèvent pas uniquement de l’outillage fonctionnel, mais participent à la reconfiguration des structures sociales et des subjectivités contemporaines. Elles doivent être pensées comme des systèmes techniques complexes, produits par un faisceau de déterminations économiques, énergétiques, géopolitiques et culturelles, et non comme de simples extensions de la main humaine.

IAg, c’est quoi ?

Une Intelligence Artificielle générative (IAg) est un type d’IA capable de générer du contenu original (texte, images, musique, code, etc.) qui n’existait pas avant. On ne peut pas vraiment parler de création dans la mesure où, pour entraîner de telles IA, il faut utiliser des corpus et des bases de données issus de la création humaine et dont s’inspire l’acte de génération de contenus par ces IA : des milliards de textes, d’images, de musiques, de vidéos, etc.. Évidemment, cela soulève de nombreuses questions liées au droit d’auteur et à la somme énergétique et technologique mobilisée pour ces entraînements.

On peut avoir un aperçu des enjeux liés aux IA sur Framamia.

L’idée de réaliser des systèmes automatisés permettant de reproduire la « créativité » humaine et le raisonnement est une idée fort ancienne. Retenons, en gros, que pour réaliser ceci on utilisait auparavant des programmes qui donnaient à la machine des suites d’instructions (des algorithmes) pour générer par exemples des phrases ou des formes aléatoires. Il manquait alors deux choses aux IA : de la puissance de calcul, et la possibilité d’entraîner des modèles d’IA sur des immense quantités d’informations accessibles notamment grâce à Internet.

Les LLM (Larges Language Models) sont des IAg spécialisées dans le langage. Ils sont devenus de plus en plus performants et sont aujourd’hui couplés avec d’autres générateurs d’image voire de vidéos, si bien que ChatGPT, Gemini et consors, sont en réalité des services de prompteurs auxquels on soumet des requêtes en langage naturel pour obtenir une production de texte, d’image ou autre.

Pour donner une idée de la manière dont les LLM ont progressé, on peut parler de l’architecture d’apprentissage machine basée sur les transformeurs (on parle aussi d’auto-attention du système), une méthode introduite en 2017 par des chercheurs de Google Brain et Google Research (Vaswani et al. 2023). Avant 2017, on basait l’apprentissage sur une analyse séquentielle : pour comprendre une phrase, les modèles lisaient les mots un par un. Pour un humain, c’est une chose parfaitement banale car nous apprenons et comprenons le sens des mots. Mais pour une machine qui lit un texte mot après mot, elle doit se souvenir de tous les mots précédents pour déterminer le sens d’une phrase.

Mais même à l’intérieur d’une phrase, cela peut s’avérer compliqué. Prenons celle-ci : « Le petit Nicolas, qui avançait sur le chemin de l’école en compagnie de son amie Valentine vêtue d’une jolie robe rouge, avait oublié son cartable ». Il est difficile, pour une analyse séquentielle, de faire le lien entre Nicolas et « son cartable ». Le mécanisme de l’auto-attention permet de lire de manière simultanée tous les mots d’une phrase et d’en calculer une importance ou une relation des uns avec les autres. Ainsi, des mots très éloignés les uns des autres pourront bénéficier d’une analyse de pondération permettant de connaître le poids de leurs relations. Pour l’apprentissage machine, cela permet non seulement d’être plus efficace mais aussi de traiter de manière beaucoup plus rapide des milliards de phrases.

Les IAg sont-elles de simples outils « comme les autres » ?

Que veut-on dire lorsqu’on compare des outils ? Est-ce que cela a un sens que de comparer un marteau et un ordinateur ? Ce qu’on fait la plupart du temps lorsqu’on compare des outils, c’est comparer leurs finalités. On en arrive toujours à quelques banalités : un marteau peut servir à enfoncer un clou ou fracasser un crâne, tout dépend de qui s’en sert et dans quelle intention. La conclusion consiste toujours à en tirer un argument fallacieux : une technique serait toujours neutre, indépendante des usages et des conditions de sa production. Est-ce le cas ? bien sûr que non.

C’est un vieux problème

Dans le Gorgias, Platon opposait deux points de vue au sujet de la rhétorique, fondement de l’art politique qui, selon Platon est une technê (Platon, 2024). Il y a le point de vue du sophiste Gorgias, d’un côté, qui considère la rhétorique comme une technique neutre, pour laquelle il n’y aurait ni bon ni mauvais usage, un simple moyen, un instrument. De l’autre côté, celui de Socrate pour lequel aucune technique n’est neutre : l’efficacité d’une technique dépend de choix politiques et économiques pour utiliser une technique plutôt qu’une autre et quelle que soit la finalité, une technique n’existe pas seule.

Plus contemporain de nous, Jacques Ellul (Ellul, 1954) s’intéressait à la notion de système technique. Il montrait que les techniques forment des systèmes dotés d’une sorte d’autonomie car ils finissent par imposer à l’homme des usages (pensons par exemple à l’immédiateté de nos communications téléphoniques), et créent toujours une dépendance (pensons par exemple à la dépendance de notre société à la voiture).

Langdon Winner, dans La baleine et le réacteur (Winner, 2022) revient lui aussi sur la question de la vision instrumentale de la technique et montre que la réduction de l’outil à une objet axiologiquement neutre revient à isoler l’outil du reste du monde, y compris de ses conditions d’existence. Cela revient aussi, toujours selon L. Winner, à renforcer le mythe du progrès en le présentant comme un phénomène naturel et par définition incontrôlable. La seule solution consisterait donc à s’adapter individuellement à l’outil et au progrès (on verra plus loin à quel point cet argument revient à l’ère néolibérale).

Dans son article « Mythinformation in the high-tech era » (Winner, 1984), L. Winner définit la Mythinformation comme la « conviction quasi-religieuse qu’une adoption généralisée des ordinateurs et des systèmes de communication, ainsi qu’un large accès à l’information électronique, produiront automatiquement un monde meilleur pour l’humanité ». Il montre que la question du supposé besoin du traitement de l’information concentre l’informatique sur la seule acception d’outil, ou de boîte à outils, comme une réponse à tous nos besoins. Et cela élude complètement (c’est moins le cas aujourd’hui puisque nous sommes capables de penser le capitalisme de surveillance) le fait que ces prétendus outils créent de nouvelles institutions, comportements et formes de pouvoir.

En suivant un processus progressif d’améliorations technologiques, les sociétés créent de nouvelles institutions, de nouveaux modèles de comportement, de nouvelles sensibilités et de nouveaux contextes pour l’exercice du pouvoir. En qualifiant ces changements de « révolutionnaires », les gens reconnaissent tacitement qu’ils ont besoin une réflexion, voire d’une action publique forte pour s’assurer que les résultats sont souhaitables. Or, dans notre société, les occasions de réfléchir, de débattre et de faire des choix publics sont désormais rares. Les décisions importantes sont laissées aux mains d’acteurs privés inspirés par des motifs économiques étroitement ciblés. Bien qu’il soit largement reconnu que ces décisions ont des conséquences profondes sur notre vie commune, peu de gens semblent prêts à admettre ce fait. Certains observateurs prévoient que la révolution informatique sera guidée par les nouvelles merveilles de l’intelligence artificielle. Son cours actuel est influencé par quelque chose de beaucoup plus familier : l’absence d’esprit.

– L. Winner, « Mythinfonnation in the high-tech era », p. 596.

On ne compare pas des outils mais des systèmes techniques

On peut aisément comprendre que comparer une IAg et un marteau pose au moins un problème d’échelle. Il s’agit de deux systèmes techniques dont les conditions d’existence n’ont rien de commun. Si on compare des systèmes techniques, il faut en déterminer les éléments matériels et humains qui forment le système.

Un système technique peut être par exemple composé d’un menuisier, d’une planche, d’un clou et d’un marteau. Ses conditions socio-technique seront (entre autres) : la formation du menuisier, son humeur du jour, l’industrie qui a fabriqué le métal (du marteau et du clou), l’ingénierie qui a dessiné l’ergonomie du manche du marteau… Somme toute, à part l’industrie (minière et métallifère) et l’économie qui conditionnent le façonnage et le transport du métal du marteau, et comme il y a de forte chance que le marteau ai été importé d’un pays de production, le système technique a finalement assez peu de facteurs. L’empreinte matérielle et les conditions sociales de production sont limitées et assez facilement identifiables. Les conditions et conséquences environnementales, sociales, économiques et politique de la production de marteau, de clous et de planches, ainsi que les déterminants sociaux qui amènent un humain à choisir le métier de menuisier, sont elles aussi facilement identifiables.

Qu’en est-il des IAg ? L’inventaire est beaucoup plus long :

des datacenters dont les constructions se multiplient, entraînant une croissance vertigineuse des besoins en électricité,
des réseaux de télécommunication étendus et des usines de production de composants électroniques, ainsi que des mines pour les matières premières qui sont elles mêmes assez complexes (plus complexes que les mines de fer) et entraînent des facteurs sociaux et géopolitiques d’envergure,
les investissements colossaux (en milliards de dollars) en salaires d’ingénieurs en IA, en infrastructures de calcul pour entraîner les modèles, en recherche, réalisés dans une perspective de rentabilité,
l’exploitation humaine : des millions de personnes, majoritairement dans les pays du Sud, sont payées à la tâche pour labelliser des données, sans lesquelles l’IA générative n’existerait pas,
le pillage d’une immense quantité d’œuvres protégées par droits d’auteurs pour l’entraînement des modèles.
et nous pouvons rattacher plein d’autres éléments en cascade pour chacun de ceux cités ci-dessus.

On conçoit aisément que comparer les deux systèmes techniques, celui du marteau et celui d’une IAg comme ChatGPT, revient à comparer un système dont les conditions socio-techniques restent encore mesurables, avec un système dont l’envergure et les implications sociales sont gigantesques et à l’échelle mondiale. Quant à l’usage lui-même l’action du marteau restant simplissime, on ne peut pas en dire autant d’une IAg qui mobilise toute une infrastructure faite de logiciels, de réseaux, de serveurs dotés de puces électroniques spécifiques.

Postuler la neutralité des techniques revient à minimiser l’importance de leurs enjeux

L’affirmation selon laquelle une IAg ne serait qu’un simple outil s’inscrit dans une vision instrumentale de la technique, qui présuppose que l’objet est neutre, sous le contrôle de son utilisateur, et que ses effets ne dépendent que de l’usage qu’on en fait.

Ce discours cherche à désamorcer les inquiétudes que l’arrivée des IAg suscite. En ramenant cette technologie particulière dans le champ général et indifférencié des « outils » il circonscrit la réflexion dans un cadre connu et rassurant : chacun a une vision assez simpliste de ce qu’est un outil dans le sens d’un prolongement de la main et de l’action mécanique de l’homme sur son environnement, ce que l’anthropologue André Leroi-Gourhan nommait la technogénèse dans son article de l’Encyclopédie Française de 1936, « L’homme et la nature » (Beaune, 2011). Même à ce sujet, on sait désormais que les choses sont… plus compliquées.

Ce discours a pour effet d’invisibiliser de nombreux aspects cruciaux des IAg, tels que leurs conditions d’existence et la manière dont elles transforment la société, comment elles structurent de nouveau habitus du quotidien, ou encore leurs effets sur nos propres structures cognitives, culturelles et épistémiques.

L’autonomie de la technique

Ce discours a en réalité une intention : participer à la banalisation tout en nous empêchant de penser la complexité des effets des techniques et d’adopter les mesures appropriées, par exemple leur régulation. Il propage un sentiment de résignation, affirmant que la technologie est un « déjà-là » et que la question n’est plus de s’opposer ou de réfléchir, mais « comment on va vivre avec ».

Ce faisant cette vision instrumentale de la technique implique un paradoxe : alors qu’elle prétend que l’utilisateur a toujours le contrôle d’une technique supposée neutre, ce « déjà-là » de la technique implique au contraire une absence de contrôle, comme si l’humain était lui-même l’instrument d’une technique en processus d’autonomisation.

C’est mal poser le problème. Il y a effectivement, comme le disait J. Ellul, une forme d’autonomisation des systèmes techniques en ce qu’ils produisent des effets de dépendance. Mais cette autonomie de la technique n’est pas une tragédie dans laquelle nous serions au prises d’un destin décidé par des techno-divinités tissant les fils invisibles de notre soumission aux technologies aliénantes. Tout comme nous serions soumis aux aléas de la nature, notre destin serait non seulement d’utiliser des techniques pour nous extraire de notre condition servile mais aussi de subir les conséquences de nos usages techniques : le mythe de Prométhée sans cesse renouvelé. C’est une mauvaise lecture. Le feu n’a pas été donné par un Titan pas plus que les IAg n’ont été créés par des dieux.

L’exemple de l’automobile est assez parlant. Son déploiement s’est accompagné du développement de vastes infrastructures routières et pétrolières, structurant les banlieues résidentielles et l’industrie. En façonnant un monde adapté à elle, l’automobile est devenue incontournable, entraînant un verrouillage socio-technique où le choix d’utiliser ou non la voiture a perdu une grande partie de son sens. C’est cela l’autonomie des systèmes techniques : pour en sortir, il faut des révolutions socio-techniques : il y en a eu par le passé, il y en aura encore, plus ou moins rapides et subites ou lentes et progressives.

L’informatisation de la société a suivi une trajectoire similaire : un auto-renforcement entre le développement des infrastructures (réseaux, terminaux) et la multiplication des usages encastrés dans nos modes de vie. Ce processus a conduit à des situations où certaines activités quotidiennes ne sont possibles que par la médiation du numérique. Les IAg sont un prolongement de cette trajectoire, s’appuyant sur la disponibilité massive de données et l’habitude d’utiliser des applications numériques.

L’inéluctabilité est un discours néolibéral

La vision instrumentale de la technique présente celle-ci comme le résultat inéluctable de la « poursuite du progrès ». On y retrouve des discours éculés : le défaitisme devant le monde qui change, l’impossibilité d’élaborer des alternatives, le fait de masquer que les techniques sont aussi issues de choix sociaux et politiques (qui subventionne quoi et au nom de qui ?), ou encore l’argument de la jeunesse qui, par définition, serait toujours plus prompte à s’emparer des outils plus complexes que ce qu’ont connu leurs aînés.

On sait néanmoins que l’argument de la jeunesse a fait long feu. La sociologie a su démontrer que les usages des outils numériques dans la jeunesse sont non seulement très différenciés mais mettent aussi à jour les inégalités d’accès et, partant, les inégalités sociales (Cordier, 2023).

Ce qui rend véritablement inéluctable le déploiement d’une technologie est précisément la croyance partagée dans son aspect inéluctable. Or, nous avons vu qu’une technologie n’a rien d’inéluctable, elle est le fruit de tout un faisceau de conditions matérielles et sociales. Prétendre qu’un système technique dans un état E à un instant T est le résultat inéluctable de quoi que ce soit revient à pretendre que cet état est le fruit d’une finalité extrinsèque aux conditions métérielles et sociales, une finalité postulée, un retour à la volonté divine d’ordre prométhéen.

Pire, voici un nouveau paradoxe : prétendre l’inéluctabilité d’une technique reviendrait à figer celle-ci dans le temps, comme le résultat d’une démarche préexistante, au détriment de l’idée même de « progrès », c’est-à-dire de changement permanent dont le bénéfice est tout aussi postulé.

Quelle est l’intention derrière ce discours de l’inévitabilité du déploiement des IAg ? Il s’agit de contribuer à un sentiment de résignation et d’impuissance, suggérant qu’il n’y a pas d’autre choix que de s’adapter. On postulera donc que la jeunesse maîtrise mieux ces outils pour pousser le reste de la population à une adaptation contrainte par la peur du dépassement et de l’inutilité.

C’est toute l’injonction néolibérale qui se trouve ici résumée.

Le néolibéralisme a mit un demi-siècle pour imposer au monde ses principes. Alors que le libéralisme pensait à un « homme économique », le néolibéralisme pense l’homme en situation de concurrence permanente, c’est un humain « entrepreneur de lui-même », un mélange de volontarisme individuel et d’abdication des valeurs collectives et de commun. M. Foucault l’analysait ainsi dès 1979 : « Il s’agit de démultiplier le modèle économique, le modèle offre et demande, le modèle investissement-coût-profit, pour en faire un modèle des rapports sociaux, un modèle de l’existence même, une forme de rapport de l’individu à lui-même, au temps, à son entourage, à l’avenir, au groupe, à la famille. » (Foucault, 2004)

Dans nos subjectivités à tout instant l’injonction néolibérale résonne. C’est l’objet du livre de Barbara Stiegler (Stiegler, 2019) qui résume la conception de Walter Lippmann, selon lequel l’homme est incapable de s’adapter par nature à un état du monde qui s’impose et ne négocie pas (l’état économique industriel et productiviste) et que c’est à l’État d’impulser la transformation de l’humain par l’éducation ou l’hygiénisme. Il en résulte cette injonction permanente, soit par des techniques comme le nudge et le jeu de l’influence-surveillance des individus, soit par l’autorité parfois brutale qui nous soumet aux dogmes néolibéraux.

L’inéluctabilité des IAg est postulée parce que ces IAg ont été créés aussi dans un monde économique néolibéral qui nécessite une adaptation permanente aux techniques produites dans le cadre imposé. C’est un exercice de style qui vise à détruire toute possibilité d’émergence d’alternative qui ne soit pas issue des institutions du néolibéralisme. L’enjeu est de couper court à toute idée d’autogouvernance (pour ne pas dire autogestion) des outils numériques, et à toute possibilité de réflexion collective qui irait à l’encore des logiques de marché.

L’individu devant les IAg

La vision instrumentale de la technique, qui considère que les effets d’une technologie sont intégralement déterminés par les usages individuels, tend à occulter la manière dont les technologies, comme les IAg, transforment et structurent la société tout entière. Les effets sociaux des IAg ne sont pas simplement la somme des effets des usages individuels. L’utilisation des IAg redéfini les standards de productivité : le choix d’utiliser une IAg pour rédiger un rapport d’activité ou un compte-rendu de réunion implique d’y passer moins de temps au risque peut-être des erreurs de transcription que collectivement on choisi ou pas d’accepter, de même à l’école autoriser l’IAg pour rédiger un devoir implique de défavoriser l’élève qui choisirait de ne pas l’utiliser (ou serait contraint de ne pas l’utiliser à cause de l’inégalité d’accès).

On rejoint la question de l’autonomie de la technique : tout système technique implique forcément ses propres normes si bien qu’une société technicienne est une société de la surveillance et de conditionnement.

C’est ce que montrait M. Foucault dans Surveiller et punir (Foucault, 1975) : le panoptique est un modèle de pouvoir où la surveillance devient structurelle : le surveillant est invisible, l’individu conscient d’être potentiellement observé et ce modèle de dispositif s’étend aux écoles, à la clinique (Foucault, 2003), aux administrations, aux entreprises.

L’effet social des IAg s’inscrit dans cette logique : la présence de l’outil qui automatise des tâches crée une forme de contrôle disciplinant, où la conformité (usage ou non de l’IA) produit un état normatif.

On revient de même au discours néolibéral de l’adaptation forcée : la diffusion des IAg devient un instrument de gouvernementalité douce, incitant chacun à optimiser sa propre productivité, comme si nous étions toujours en mesure de choisir et de contrôler l’usage de ce « simple outil ». Ne pas utiliser les IAg reviendrait à se marginaliser socialement.

En fait, l’outil technique s’insère dans un système normatif :

J. Ellul : la technique impose une standardisation productive, une efficacité comme valeur commune réduisant la liberté individuelle face au système 
M. Foucault : les dispositifs techniques disciplinaires (panoptique, biopolitique) normalisent les corps et les pratiques

Les sociologues comme Langdon Winner, Bruno Latour, ou Andrew Feenberg ont montré que les technologies structurent les relations sociales, les institutions, et autorisent de nouveaux rapports de pouvoir :

Langdon Winner parle de « technologies politiques » qui incorporent des choix moraux ou politiques dans la structure même des artefacts.
B. Latour insiste sur les réseaux socio-techniques (théorie de l’acteur-réseau) où les objets techniques jouent un rôle d’actants influant sur les comportements.
A. Feenberg critique la neutralité technique qui individualise l’usage, proposant une politique de la technologie : l’usage n’est pas suffisant pour comprendre la technique qui, selon lui, est principalement influencée par les structures sociales. D’où l’importance aujourd’hui de (Re) Penser la technique (Feenberg, 2004).

La technique est intrinsèquement politique et sociohistorique

C’est la thèse du philosophe espagnol Almazán Gómez (Almazán Gómez, 2020).

La technique selon Almazán Gómez

Un objet technique n’est rien s’il est isolé de l’ensemble technique auquel il appartient et des pratiques instrumentales correspondantes. Par exemple, un arc n’est pas seulement un objet, mais est lié à des gestes, à un ensemble technique plus vaste et à des dimensions symboliques (chasse, virilité, rites de passage).
tout objet technique a un caractère sociohistorique. Les techniques sont des créations sociales radicales qui expriment différentes manières d’appréhender et de se situer dans le monde.
Le lien entre la société, l’individu et l’objet technique est réversible. La société crée la technique, mais la technique façonne à son tour l’individu et les nécessités sociales (par exemple, le chasseur crée l’arc, mais l’arc crée aussi le chasseur en modelant son corps, sa vision du monde, son rôle social). On pourra aussi se reporter au chapitre de Pierre Clastre L’arc et le panier (Clastres, 2011).
Le changement technique n’est pas additif, mais transformiste : l’ajout d’une technique (comme la presse à imprimer) transforme qualitativement la société tout entière.

La technologie selon Almazán Gómez

La Technologie est la forme concrète prise par la technique dans les sociétés capitalistes modernes.
Son émergence est liée à l’obsession croissante de la mécanique, la constitution du mythe du Progrès et l’apparition de la technoscience.
La technologie est l’union de la science et de la technique dans un cadre institutionnel visant à systématiser et améliorer le processus d’invention, dans le but d’augmenter la richesse et le bien-être social.

Le paradigme de la neutralité technologique a des conséquences :

renforce le mythe du progrès comme une amélioration irréversible qui réduit le progrès moral et social au progrès scientifique et technologique.
conduit à un “credo mécanique” ou “religion industrielle”, où le développement technologique devient un impératif social, déifiant la technologie comme substitut à Dieu et promouvant l’idée de solutions technologiques à tous les problèmes humains.
masque la nature sociohistorique de la technologie, les choix qui la guident et les intérêts en jeu.
alors que la technologie a toujours été dépendante des pouvoirs politique et économique (militaires, industriels cherchant à augmenter la productivité et le profit).

À tout cela, selon Almazán Gómez il faut répondre par le paradigme de la non-neutralité de la technique. L’accumulation des techniques a entraîné une transformation qualitative de la société qui ne peut être réduite à une simple somme d’outils neutres. Il faut envisager le rapport à la technique selon une approche totale de la société : le capitalisme industriel, le changement climatique. On y ajoutera une transformation des imaginaires pour en finir avec la technolâtrie et le prométhéisme et revenir à une pensée des limites et de l’autosuffisance. La critique doit porter sur la réversibilité des techniques, une lutte pour se réapproprier la capacité de transformer nos techniques.

Références

ALMAZÁN GÓMEZ, Adrián, 2020. La non-neutralité de la technologie. Une ontologie sociohistorique du phénomène technique. Écologie et politique. 2020. Vol. 61, pp. 27‑43.

BEAUNE, Sophie A. de, 2011. La genèse de la technologie comparée chez André Leroi-Gourhan. Documents pour l’histoire des techniques [en ligne]. 2011. N° 20, pp. 197. [Consulté le 21/7/2025]. Disponible à l’adresse : https://shs.hal.science/halshs-00730327

CLASTRES, Pierre, 2011. La société contre l’État: recherches d’anthropologie politique. Paris, France : les Éditions de Minuit. ISBN 978-2-7073-2159-6.

CORDIER, Anne, 2023. Grandir informés: les pratiques informationnelles des enfants, adolescents et jeunes adultes. Caen, France : C&F éditions. ISBN 978-2-37662-065-5.

ELLUL, Jacques, 1954. La technique ou l’enjeu du siècle. Paris, France : Armand Colin.

FEENBERG, Andrew, 2004. (Re)penser la technique: vers une technologie démocratique. Paris, France. ISBN 978-2-7071-4147-7.

FOUCAULT, Michel, 1975. Surveiller et punir. Naissance de la prison. Paris : Gallimard.

FOUCAULT, Michel, 2003. Naissance de la clinique. Paris, France : Presses universitaires de France. ISBN 978-2-13-053639-0.

FOUCAULT, Michel, 2004. Naissance de la biopolitique: cours au Collège de France, 1978-1979. Paris, France : EHESS : Gallimard : Seuil. ISBN 978-2-02-032401-4.

LEFEBVRE, Olivier, 2025. « ChatGPT, c’est juste un outil ! » : vraiment ? Terrestres [en ligne]. 28/6/2025. [Consulté le 21/7/2025]. Disponible à l’adresse : https://www.terrestres.org/2025/06/28/chatgpt-cest-juste-un-outil/

PLATON, 2024. Gorgias. Paris, France : Flammarion. ISBN 978-2-08-045166-8.

STIEGLER, Barbara, 2019. « Il faut s’adapter » : sur un nouvel impératif politique. Paris, France : Gallimard. ISBN 978-2-07-275749-5.

VASWANI, Ashish, SHAZEER, Noam, PARMAR, Niki, USZKOREIT, Jakob, JONES, Llion, GOMEZ, Aidan N., KAISER, Lukasz et POLOSUKHIN, Illia, 2023. Attention Is All You Need [en ligne]. 2/8/2023. arXiv. arXiv:1706.03762. [Consulté le 21/7/2025]. Disponible à l’adresse : http://arxiv.org/abs/1706.03762

WINNER, Langdon, 1984. Mythinformation in the high-tech era. Bulletin of Science, Technology & Society [en ligne]. 1/12/1984. Vol. 4, n° 6, pp. 582‑596. [Consulté le 21/7/2025]. DOI 10.1177/027046768400400609. Disponible à l’adresse : https://doi.org/10.1177/027046768400400609

WINNER, Langdon, 2022. La baleine et le réacteur: à la recherche de limites au temps de la haute technologie. Herblay, France : Éditions Libre. ISBN 978-2-490403-22-6.

Docilités numériques

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Sun, 04 May 2025 00:00:00 +0000

L’illusion du progrès numérique masque une réalité brutale : celle d’un monde où chaque geste alimente des systèmes de contrôle, de surveillance et d’exploitation. Ce n’est pas seulement l’intelligence artificielle, mais tout un modèle technologique, celui des plateformes, de la capture de l’attention, de l’extractivisme numérique, qu’il faut interroger. Ce texte n’invite ni à fuir ni à consentir : il appelle à politiser nos usages et à réarmer nos pratiques.

(Billet publié sur le Framablog le 29/04/2025)

Rhétorique du renoncement

Vers la vingt-deuxième minute de cet entretien matinal sur France Inter, le 09 avril 2025, la journaliste Léa Salamé faisait dire à F. Ruffin qu’il n’y a pas d’alternatives aux GAFAM. « Vous utilisez Google Doc, vous ? ». Tout le monde utilise les outils des GAFAM, on ne peut pas faire autrement…

En écoutant ces quelques secondes, et en repassant mentalement les quelques vingt dernières années passées à militer pour le logiciel libre avec les collègues de Framasoft, je me disais que décidément, le refrain sans cesse ânonné du there is no alternative concernant les outils numériques, n’est pas un argument défaitiste, ce n’est pas non plus un constat et encore moins une lamentation, c’est un sophisme. « Vu que tout le monde les utilise, on ne peut pas faire autrement que d’utiliser soi-même les logiciels des GAFAM » est une phrase qui a une valeur contraignante : elle situe celui ou celle qui la prononce en figure de sachant et exclut la possibilité du contre-argument du logiciel libre et des formats ouverts. Elle positionne l’interlocuteur en situation de renoncement car mentionner les logiciels libres et les formats ouverts suppose un argumentaire pseudo-technique dont le coût cognitif de l’explication l’emporte sur les bénéfices potentiels de l’argument. Face aux sophismes, on est souvent démuni. Ici, il s’agit de l'argumentum ad populum : tout le monde accepte l’affirmation parce qu’un nombre suffisamment important de la population est censé la considérer comme vraie. Et il est clair que dans le bus ou entre le café et la tartine du petit déjeuner, à l’heure de l’interview dont nous parlons ici, beaucoup de personnes ont dû se sentir légitimées et ont abordé leur journée comme ces pauvres prisonniers au fond de la caverne, dans un état de cécité intellectuelle heureuse (mais quand même un peu coupable).

20 ans (et même un peu plus) ! 20 ans que Framasoft démontre, littéralement par A+B que non seulement les alternatives aux outils des GAFAM existent, mais en plus sont utilisables, fiables, souvent conviviales. Depuis que nous avons annoncé que nous n’irions plus prendre le thé à l’Éducation Nationale, nous avons vu passer des pseudo politiques publiques qui tendent vers un semblant de lueur d’espoir : de la confiance dans l’économie numérique, des directives pour les formats ouverts, des débats parlementaires où pointe parfois la question du logiciel libre dans une vague conception de la souveraineté… auxquelles répondent, tout aussi inlassablement des contrats open bar Microsoft dans les fonctions publiques (1, 2, 3), quand il ne s’agit pas carrément du pantouflage de nos ex-élus politiques chez les GAFAM. Comme on dit de l’autre côté du Rhin : Einen Esel, der keinen Durst hat, kann man nicht zum Trinken bringen, que l’Alsacien par chez moi raccourcit ainsi : « on ne donne pas à boire à un âne qui n’a pas soif », autre version de l’historique « laisse béton ». Le salut ne viendra pas des élus. Il ne viendra pas de l’économie libérale, celle-là même qui veut nous faire croire que l’échec tient surtout de nos motivations personnelles, d’un manque de performance, d’un manque de proposition.

Violence capitaliste

Si le logiciel libre n’était pas performant, il ne serait pas présent absolument partout. Il suffit d’ouvrir de temps en temps le capot. Mais comme je l’ai écrit l’année dernière, c’est une situation tout aussi confortable que délétère que de pouvoir compter sur les communs sans y contribuer, ou au contraire d’y contribuer activement comme le font les multinationales pour s’octroyer des bénéfices privés sur le dos des communs. En quelques années, les transformations du monde numérique n’ont pas permis au grand public de s’approprier les outils numériques que de nouvelles frontières, floutées, sont apparues. L’une des raisons principales de l’adoption des logiciels libres dans le domaine de la bureautique personnelle consistait à tenter de s’émanciper de la logique hégémonique des grandes entreprises mondialisées qui imposent leurs pratiques au détriment des besoins réels pour se gaver des données personnelles. Or, l’intégration des services numériques et la puissance de calcul mobilisée, aux dépends de l’environnement naturel comme de nos libertés, ont crée une attraction telle que la question stratégique des pratiques personnelles est passée au second plan. Ce qui importe maintenant, ce n’est plus seulement de savoir ce que deviennent nos données personnelles ou si les logiciels nous émancipent, mais de savoir comment s’extraire du cauchemar de la production frénétique de contenus assistée par IA. Nous perdons pied.

Cette logique productiviste numérique est au sommet de la logique formelle du capital. Elle a une histoire dont la prise de conscience collective date des années 1980, contemporaine de celle du logiciel libre. C’est Detlef Hartmann (il y a bien d’autres auteurs) qui nous en livre l’une des formulations que je trouve assez simple à comprendre. Dans Die Alternative: Leben als Sabotage (1981), D. Hartmann procède à une critique de l’idéologie capitaliste en montrant comment celle-ci tend à subsumer l’ensemble des rapports sociaux sous une logique instrumentale, formelle, qui nie les subjectivités concrètes. C’est un processus d’aliénation généralisée : ce que le capitalisme fait au travailleur dans l’atelier taylorisé, il le reproduit à l’échelle de toute la société à travers l’expansion de technologies façonnées par les intérêts du capital. La taylorisation, qu’on peut résumer en une intensification de la séparation entre conception et exécution, devient paradigmatique d’un mode de domination : elle dépouille les individus de leur autonomie, les rendant étrangers à leur propre activité. À partir des années 1970-1980, cette logique d’aliénation se déplace du seul domaine de la production industrielle vers celui de la production symbolique et intellectuelle, via l’informatisation des tâches, toujours au service du contrôle et de la rationalisation capitalistes. Dans cette perspective, ce que Hartmann appelle la « violence technologique » s’inscrit dans le prolongement de la violence structurelle du capital : elle consiste à tenter de formater les dimensions qualitatives de l’existence humaine (l’intuition, l’émotion, l’imaginaire) selon les exigences d’un ordre rationnel formel, celui du capital abstrait. Cette normalisation est une violence parce que, au profit d’une logique d’accumulation et de contrôle, elle nie la richesse des facultés humaines, elle réduit les besoins humains à des catégories qui ne représentent pas l’ensemble des possibilités humaines¹. Ce faisant, elle entrave les pratiques d’émancipation, c’est-à-dire la capacité collective à transformer consciemment le monde.

Contrôle et productivisme

La violence technologique capitaliste s’incarne à la perfection dans la broligarchie qui a contaminé notre monde numérique. Ce monde que, par excès d’universalisme autant que de positivisme, nous pensions qu’il allait réussir à connecter les peuples. Cette broligarchie joue désormais le jeu de la domination anti-démocratique. Elle foule même au pied la démocratie libérale dont pourtant nous avions compris les limites tant en termes d’inégalités que d’assujettissement des gouvernements aux intérêts économiques de quelques uns. Pour ces techbros, le combat est le même que le gouvernement chinois ou russe : le contrôle et les systèmes de contrôle ne sont pas des sujets démocratiques, il n’y a pas plus de contrat social et les choix politiques se réduisent à des choix techniques. Et il n’y a aucune raison que nous soyons exemptés dans notre start-up nation française.

Quelles sont les manifestations concrètes de ce productivisme dans nos vies ? il y a d’abord les algorithmes de contrôle qui relèvent du vieux rêve de l’automatisation généralisée dont je parlais déjà dans mon livre. Comme le montre H. Guillaud, ces systèmes décisionnels automatisés influencent les services publics, tout comme les banques ou les assurances avec une efficacité si mauvaise, entraînant des injustices, que l’erreur loin d’être corrigée devient partie intégrante du système. Le droit au recours, la nécessité démocratique du contrôle de ces systèmes, tout cela est nié parce que ces systèmes automatisés sont considérés comme des solutions, et non des problèmes. L’IA arrive alors comme le Graal tant attendu, surfant sur le boom du développement des IA génératives, les projets d'emmerdification maximale des services publics deviennent des projets d’avenir : si les caisses sont vides pour entretenir des services publics performants, utilisez l’IA pour les rendre plus productifs ! Comme l’écrit H. Guillaud :

« Dans l’administration publique, l’IA est donc clairement un outil pour supprimer des emplois, constate le syndicat. L’État est devenu un simple prestataire de services publics qui doit produire des services plus efficaces, c’est-à-dire rentables et moins chers. Le numérique est le moteur de cette réduction de coût, ce qui explique qu’il soit devenu omniprésent dans l’administration, transformant à la fois les missions des agents et la relation de l’usager à l’administration. Il s’impose comme un « enjeu de croissance », c’est-à-dire le moyen de réaliser des gains de productivité. »

Outre la question antédiluvienne du contrôle, cela fait bien longtemps que nous avons intériorisé l’idée que nous ne sommes pas seulement des usagers, mais surtout des produits. Ce constat ne relève plus de la révélation. Comme le montre David Lyon, c’est un choix culturel, une absorption sociale. En acceptant sans sourciller l’économie des plateformes, nous avons scellé un pacte implicite avec le capitalisme de surveillance, troquant nos données personnelles contre des services dont la pertinence est souvent discutable, dans des contrats où la vie privée se monnaie à vil prix. Ce choix, pour beaucoup, s’est imposé comme une fatalité, tant l’alternative semble absente ou inaccessible : renoncer à ces services reviendrait à se marginaliser et se priver de certains bienfaits structurels.

Pire : nous avons également intégré, souvent sans résistance, le modèle économique des plateformes parasites dont la logique repose sur l’intermédiation. Ces plateformes ne produisent rien : elles captent, organisent, et exploitent la relation entre des prestataires précaires et des clients captifs. Elles génèrent du profit non pas en créant de la valeur, mais en prélevant leur dîme sur chaque interaction. Et pourtant nous continuons à alimenter ces circuits toxiques : d’un côté, une généralisation du travail sous contrainte algorithmique, mal payé, pressurisé, de l’autre, un mode de consommation séduisant qui reconduit en fait une exploitation des travailleurs qu’on croyait enterrée avec le siècle d’Émile Zola.

De l’émancipation

Dans sa conception classique, le logiciel libre se proposait d’effacer autant que faire se peut la distinction entre producteur et consommateur. Programmer n’est pas seulement une réponse à une demande industrielle, mais un moyen puissant d’expression personnelle et de possibilités créatives. Utiliser des programmes libres est tout autant créatif car cela renforce l’idée que l’utilisateur ne partage pas seulement un programme mais des savoirs, des rapports complexes avec les machines, au sein d’une communauté d’utilisateurs, dont font aussi partie les programmeurs.

L’efficacité et la durabilité de cette approche obéissent à une logique de « pratique réflexive ». La qualité d’un logiciel libre émerge d’une forme de « dogfooding », c’est-à-dire de la consommation directe du produit par son propre producteur, un processus d’amélioration continue. Cette pratique assure une dynamique auto-correctrice. Au sein de la communauté, la qualité du logiciel est d’autant plus renforcée par un feedback interne, où l’utilisateur se transforme en agent critique, capable d’identifier et de rectifier les dysfonctionnements de manière autonome. Il en résulte une production plus cohérente, car motivée par des intérêts personnels et collectifs qui orientent la création. Le code n’est pas seulement un produit technique, mais aussi un produit socialement inscrit dans une logique de désirs et de partage.

« Code is law »

– Lawrence Lessig

« Privacy is power »

– Carole Cadwalladr

Épuisement

C’est beau, non ? Dans ces principes, oui. Mais les barrières sont de plus en plus efficaces, soit pour élever le ticket d’entrée dans les communautés d’utilisateur-ices de logiciels libres, soit pour conserver la dynamique libriste au sein même de la production de logiciels « communautaires ».

Pour le ticket d’entrée, il suffit de se mettre à la place des utilisateurs. Là où il était encore assez facile, il y a une dizaine d’années, de promouvoir l’utilisation de logiciels libres dans la bureautique personnelle, le cadre a radicalement changé : l’essentiel de nos communications et de nos productions numériques passe aujourd’hui par des services en ligne. Cela pose la question du maintien des infrastructures techniques qui sous-tendent ces services. Il y a dix ans, Nadia Eghbal constatait que, au fil du temps, le secteur de l’open source a une tendance à l’épuisement par une attitude productiviste :

« Cette dernière génération de développeurs novices emprunte du code libre pour écrire ce dont elle a besoin, mais elle est rarement capable, en retour, d’apporter des contributions substantielles aux projets. Beaucoup sont également habitués à se considérer comme des « utilisateurs » de projets open source, davantage que comme les membres d’une communauté. »

Aujourd’hui, cette attitude s’est radicalisée avec les outils à base d’IA générative qui se sont largement gavés de code open source. Mais en plus de cela, cela a conduit les utilisateurs à s’éloigner de plus en plus des pratiques réflexives que je mentionnais plus haut, car il est devenu aujourd’hui quasi impossible de partager des connaissances tant l’usage des services s’est personnalisé : les services d’hébergement de cloud computing, l’intégration toujours plus forte des services à base d’IA dans les smartphones, l’appel toujours plus contraignant à produire et utiliser des contenus sur des plateformes, tout cela fait que les logiciels qu’on installe habituellement sur une machine deviennent superflus. Ils existent toujours mais sont rendus invisibles sur ces plateformes. Ces dernières vivent de ces communs numériques. Elles y contribuent juste ce qu’il faut, créent au besoin des fondations ou les subventionnent fortement, mais de communautés il n’y a plus, ou alors à la marge : celleux qui installent encore des distributions GNU/Linux sur des ordinateurs personnels, celleux qui veulent encore maîtriser l’envoi et la réception de leurs courriels… Dans les usages personnels (hors cadre professionnel), tout est fait pour que l’ordinateur personnel devienne superflu. Trop subversif, sans doute. Et ainsi s’envolent les rêves d’émancipation numérique.

Même les logiciels dont on pouvait penser qu’il participaient activement à une certaine convivialité d’Internet commencent à emmerdifier les utilisateurs. Par exemple : qui a convaincu la fondation Mozilla que ce dont avaient besoin des utilisateurs de Firefox c’est d’un outil de prévisualisation des liens dont le contenu est résumé par IA ? Que ce soit utile, efficace ou pas, n’est pas vraiment la question. La question est de savoir si les surcoûts énergétiques, environnementaux et cognitifs en valent la peine. Et la réponse est non. Dans un tel cas de figure, où est la communauté d’utilisateurs ? où sont les principes libristes ?

Vers une communauté critique

Il faut re-former des communautés d’utilisateurs, en particulier pour des services en ligne, mais pas uniquement. Avec son projet Frama.space, basé sur Nextcloud, Framasoft a annoncé haut et fort vouloir œuvrer pour « renforcer le pouvoir d’agir des associations ». L’idée mentionnée dans le billet qui était alors consacré portait essentiellement sur la capacité des associations et autres collectifs à faire face aux attaques contre les libertés associatives, la mise en concurrence des associations, les logiques de dépolitisation et de ringardisation. Avoir un espace de cloud partagé pour ne pas dépendre des plateformes n’est pas seulement une méthode pour échapper à l’hégémonie de quelques multinationales, c’est une méthode qui permet d’échapper justement aux logiques formelles qui nous obligent à la productivité, nous contraignent aux systèmes de contrôle, et nous empêchent d’utiliser des outils communs. Nextcloud n’est pas qu’un logiciel libre dont nous pourrions nous contenter d’encourager l’installation. C’est un logiciel dont le mode de partage que nous avons adopté, en mettant à disposition des serveurs payés par des donateurs, consiste justement à outiller une communauté d’utilisateurs. Et nous pouvons le faire dans une logique libriste et émancipatrice. Les communs qui peuvent s’y greffer sont par exemple des logiciels tels l’outil de supervision Argos Panoptès ou Intros, une application spécialement dédié à la prise en main de Frama.space. Ce que Framasoft encourage, ce n’est pas seulement des outils : cela reviendrait à verser dans une forme de solutionnisme infructueux. C’est l'« encapacitation » des utilisateurs.

Mais j’ai aussi écrit plus haut qu’il ne s’agissait pas seulement de services en ligne. Pourquoi avons-nous avancé quelques pions en produisant un logiciel qui utilise de l’IA comme Lokas ? Ce logiciel n’a rien de révolutionnaire. Il tourne avec une IA spécialisée, déjà entraînée, et il existe d’autres logiciels qui font la même chose. Qu’espérons-nous ? Constituer une communauté critique et autonome autour de la question de l’IA. Lokas n’est qu’un exemple : que souhaitons-nous en faire ? Si des modèles d’IA existent, quel avenir voulons nous avec eux ou à côté d’eux ? L’enjeu consiste à construire les conditions d’émancipation numérique face à l’envahissement des pratiques qui nous contraignent à produire des contenus sans en maîtriser la cognition.

J’ai affirmé ci-dessus la raison pour laquelle nous sommes embarqués de force dans un monde où les IA génératives connaissent un tel succès, quasiment sans aucune perspective critique : elles sont considérées comme les outils ultimes de la mise en production des subjectivités, leur dés-autonomisation. Les possibilités sont tellement alléchantes dans une perspective capitaliste que tout argument limitatif comme les questions énergétiques, climatiques, sociales, politiques, éthiques sont sacrifiées d’emblée sur l’autel de la rentabilité start-upeuse au profit de l’impérialisme fascisant des techbros les plus en vue. Ce que nous souhaitons opposer à cela, tout comme Framasoft avait opposé des outils alternatifs pour « dégoogliser Internet », c’est de voir si une alternative à l'« IA über alles » est possible. La question n’est pas de savoir si nous apporterons une réponse à la pertinence de chaque outil basé sur de l’IA générative ou spécialisée. La question que nous soulevons est de savoir quelles sont nos capacités critiques et notre degré d’autonomie stratégique et collective face à des groupes d’intérêts qui nous imposent leurs propres outils de contrôle, en particulier avec des IA.

Une émancipation numérique collective

Il y a vingt ans déjà, nous avions compris que culpabiliser les utilisateurs de Windows constituait non seulement une stratégie inefficace, mais surtout contre-productive, dans la mesure où elle nuisait directement à la promotion et à la légitimation des logiciels libres. Cette attitude moralisatrice présupposait une liberté de choix que la réalité technologique, sociale et économique ne garantit pas à tous. L’environnement numérique est souvent imposé par défaut, par des logiques industrielles, éducatives ou institutionnelles. La posture libriste ne peut être qu’une posture située, consciente des rapports de force et des contraintes concrètes qui pèsent sur les individus.

À l’heure de l’IA générative omniprésente, le rapport de force s’est accentué et l’enfermement technologique est aggravé. Les systèmes d’exploitation en deviennent eux-mêmes les vecteurs, comme le montre la prochaine version de Windows, où la mise à jour n’est plus un choix mais une obligation, dissimulant des logiques de captation des usages et des données.

Dans ce contexte, proposer des alternatives « sans » IA devient de plus en plus difficile – et pourrait s’avérer, à terme, irréaliste. Dans la mesure où l’environnement numérique est colonisé par les intérêts d’acteurs surpuissants, il ne s’agit plus de rejeter globalement l’IA, mais de re-politiser son usage : distinguer entre les instruments de domination et les instruments d’émancipation.

Il serait malhonnête de nier en bloc toute forme d’utilité aux systèmes d’IA. Automatiser certaines tâches, c’est un vieux rêve de l’informatique, bien antérieur à l’essor actuel de l’IA générative. Il arrive que des IA fassent ce qu’on attend d’elles, surtout dans des environnements et des rôles restreints. Lorsqu’on regarde l’histoire des techniques numériques dans l’entreprise dans la seconde moitié du XXe siècle, on constate autant de victoires que de défaites, sociales ou économiques. Mais les usages supposément vertueux sont devenus l’argument marketing préféré des entreprises de l’IA d’aujourd’hui : une vitrine bien propre, bien lisse, pour faire oublier les ravages sociaux, environnementaux et politiques que ces technologies engendrent ailleurs. Comme si quelques cas d’usage médical, par exemple en médecine personnalisée, pouvaient suffire à justifier l’opacité des systèmes, la dépendance aux infrastructures privées, la capture des données sensibles et l’accroissement des inégalités. Ce n’est pas parce qu’une technologie peut parfois servir qu’elle sert le bien commun².

De même que la promotion des logiciels libres n’avait pas vocation à se cristalliser dans un antagonisme stérile entre Windows (ou Mac) et GNU Linux, la question d’une informatique émancipatrice ne peut aujourd’hui se réduire à un débat binaire « pour ou contre l’IA ». Il faut reconnaître la diversité des IA – génératives, prescriptives, symboliques, décisionnelles, etc. – et la pluralité de leurs usages. L’enjeu est de comprendre leur place dans les systèmes techniques, reflets des rapports socio-économiques, et des visions du monde. Les IA nouvelles, notamment génératives, connaîtront un cycle d’adoption : après l’euphorie initiale et les sur-promesses, viendra probablement une phase de décantation, une redescente vers un usage plus mesuré, plus intégré, moins spectaculaire. Selon moi, cette marche forcée prendra fin. Mais ce qui restera – les infrastructures, les dépendances, les cultures d’usage – dépendra largement de ce que nous aurons su construire en parallèle : des communautés numériques solidaires, résilientes, capables de reprendre la main sur leurs outils et de refuser les logiques de dépossession. Quelle résilience pouvons-nous opposer à la violence technologique que nous subissons ? Il ne s’agit pas d’imaginer un monde d’après, neutre ou apaisé, mais de préparer les conditions de notre autonomie dans un monde où la violence technologique est déjà notre quotidien.

J’emprunte cette formulation à Agnès Heller, La théorie des besoins chez Marx, Paris, Les Éditions sociales, 2024, p.51. ↩︎
Pour continuer avec l’exemple de la médecine, souvent employé par les thuriféraires de l’IA-partout, on voit poindre régulièrement les mêmes problèmes que soulève depuis longtemps la surveillance algorithmique. Ainsi ce récent article dans Science relate de graves biais relatifs aux groupes sociaux (femmes et personnes noires, essentiellement) dans la recherche diagnostique lorsqu’on utilise une aide à l’analyse d’imagerie assistée par IA. ↩︎

Je suis allé faire un tour sur les GCP à la mode... et j'en suis revenu

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Tue, 07 Jan 2025 00:00:00 +0000

La gestion des connaissances personnelles (personal knowledge management) est une activité issue des sciences de gestion et s’est peu à peu diffusée dans les sphères privées…

🔔 L’idée qui sous-tend cette approche des connaissances est essentiellement productiviste. Elle a donc des limites dont il faut être assez conscient pour organiser ses connaissances en définissant les objectifs recherchés et ceux qui, de toute façon, ne sont pas à l’ordre du jour. Mais à l’intérieur de ces limites, il existe toute une économie logicielle et une offre face à laquelle il est possible de perdre pied. Cela m’est arrivé, c’est pourquoi j’écris ce billet.

On peut définir les objectifs de la GCP grosso modo ainsi :

Intégrer ses connaissances dans un ensemble cohérent afin de les exploiter de manière efficace (c’est pourquoi la connexion entre les connaissances est importante)
Définir stratégiquement un cadre conceptuel permettant de traiter l’information
Permettre l’acquisition de nouvelles connaissances qui enrichissent l’ensemble (ce qui suppose que le cadre doit être assez résilient pour intégrer ces nouvelles connaissances, quelle que soit leur forme).

La première information importante, c’est qu’on a tendance à réduire la plupart des logiciels en question à de simples outils de gestion de « notes », alors qu’ils permettent bien davantage que d’écrire et classer des notes. Si on regarde attentivement leurs présentations sur les sites officiel, chacun se présente avec des spécificités bien plus larges et nous incite davantage à organiser nos pensées et nos connaissances qu’à écrire des notes. Pour comparer deux outils propriétaires, là où un Google Keep est vraiment fait pour des notes simples, Microsoft Onenote contrairement à son nom, permet une vraie gestion dans le cadre d’une organisation.

Une autre information importante concerne la difficulté qu’il y a à choisir un logiciel adapté à ses usages. Surtout lorsqu’on utilise déjà un outil et qu’on a de multiples écrits à gérer. Changer ses pratiques suppose de faire de multiples tests, souvent décevants. Ainsi, un logiciel fera exactement ce que vous recherchez… à l’exception d’une fonctionnalité dont vous avez absolument besoin.

⚠️ Aucun logiciel de GCP ne fera exactement ce que vous recherchez : préparez-vous à devoir composer avec l’existant.

À la recherche du bon logiciel

Je vais devoir ici expliquer mon propre cas, une situation que j’ai déjà présentée ici. Pour résumer : j’adopte une méthode Zettelkasten, j’ai des textes courts et longs, il s’agit de travaux académiques pour l’essentiel (fiches de lecture, notes de synthèse, fiches propectives, citations… etc.). Parmi ces documents, une grande part n’a pas pour objectif d’être communiquée ou publiée. Or, comme l’un de mes outils est Zettlr, et que ce dernier se présente surtout comme un outil de production de notes et de textes structurés, je me suis naturellement posé la question de savoir si mes notes n’auraient pas un intérêt à être travaillées avec un outil différent (tout en conservant Zettlr pour des travaux poussés).

Par ailleurs :

Le markdown doit impérativement être utilisé, non seulement en raison de sa facilité d’usage, mais aussi pour sa propension à pouvoir être exporté dans de multiples formats,
La synchronisation des notes entre plusieurs appareils est importante : ordinateur (pour écrire vraiment), smartphone (petites notes, marque-page, liste de tâches) et tablette (écrire aussi, notamment en déplacement),
Les solutions d’export sont fondamentales, à la fois pour permettre un archivage et pour permettre une exploitation des documents dans d’autres contextes.

Le couple Zettlr - Pandoc m’a appris une chose très importante : éditer des fichiers markdown est une chose, les éditer en vue de les exploiter en est une autre. D’où la valeur ajoutée de Pandoc et des en-têtes Yaml qui permettent d’enrichir les fichiers et, justement, les exploiter de manière systématique.

Je suis donc parti, youkaïdi youkaïda, avec l’idée de trouver un logiciel d’exploitation de notes présentant des fonctionnalités assez conviviales pour faciliter leur accès, et aussi m’ouvrir à des solutions innovantes en la matière.

Je n’ai pas été déçu

Non, je n’ai pas été déçu car il faut reconnaître que, une fois qu’on a compris l’approche de chaque logiciel, leurs promesses sont généralement bien tenues.

Je suis allé voir :

Dans les logiciels pas libres du tout, Obsidian et Workflowy.
Dans les open source (et encore c’est beaucoup dire) : Logseq, Anytype.
Dans le libre : Joplin (et Zettlr que je connaissais déjà très bien).

Je ne vais pas présenter pour chacun toutes leurs fonctionnalités, ce serait trop long. Mais voici ce que j’ai trouvé.

Premier étonnement, c’est que c’est du côté open source ou privateur qu’on trouve les fonctionnalités les plus poussées de vue par graphe, et autres possibilités de requêtes customisables / automatisables, ou encore des analyse de flux (par exemple pour voir quel objet est en lien avec d’autres selon un certain contexte).

Second étonnement, concernant la gestion des mots-clé et des liens internes, points communs de tous les logiciels, il faut reconnaître que certains le font de manière plus agréable que d’autres. Ainsi on accorde beaucoup d’importance aux couleurs et aux contrastes, ce qui rend la consultation des notes assez fluide et efficace.

Bref, ça brille de mille feux. Les interfaces sont la plupart du temps bien pensées.

Anytype, le plus jeune, et qui a retenu le plus mon attention, a bénéficié pour son développement des critiques sur les limites des autres logiciels. Par exemple Obsidian qui est victime de ses trop nombreux plugins, reste finalement assez terne en matière de fonctions de base, là où Anytype propose d’emblée d’intégrer des documents, de manipuler des blocs, avec des couleurs, de créer des modèles de notes (on dit « objet » dans le vocabulaire de Anytype), des collections, etc.

Alors, qu’est-ce qui coince ?

En tant que libriste, je me suis intéressé surtout à des logiciels open source prometteurs. Exit Obsidian, et concentration sur Logseq et Anytype.

Dans les deux cas, la cohérence a un prix, pour moi bien trop cher : on reste coincé dedans ! L’avantage d’écrire en markdown, comme je l’ai dit, est de pouvoir exploiter les connaissances dans d’autres systèmes, par exemple le traitement de texte lorsqu’il s’agit de produire un résultat final. Et comme il s’agit de texte, la pérennité du format est un atout non négligeable.

Or, que font ces logiciels en matière d’export ? Du PDF peu élaboré mais dont on pourrait se passer s’il était possible d’exploiter correctement une sortie markdown… mais l’export markdown, en réalité, appauvrit le document au lieu de l’enrichir. Vous avez bien lu, oui 🙂

Exemple – Avec Anytype, j’ai voulu créer des modèles de fiches de lecture avec des champs couvrant des métadonnées comme : l’auteur, l’URL de la source, la date de publication, le lien avec d’autres fiches, les tags, etc. Tout cela avec de jolies couleurs… À l’export markdown, toutes ces données disparaissent et ne reste plus que la fiche dans un markdown approximatif. Résultat : mon fichier n’est finalement qu’un contenant et toutes les informations de connexion ou d’identification sont perdues si je l’exporte. À moins d’entrer ces informations en simple texte, ce qui rend alors inutiles les fonctions proposées. (Une difficulté absente avec Obsidian qui laisse les fichiers dans un markdown correct et ajoute des en-têtes yaml utiles, à condition d’être rigoureux).

Avec Logseq comme avec Anytype, vous pouvez avoir une superbe présentation de vos notes avec mots-clés, liens internes, rangement par collection, etc… sans que cela puisse être exploitable en dehors de ces logiciels. L’export markdown reste succinct, parfois mal fichu comme Anytype : des espaces inutiles, des sauts de lignes négligés, élimination des liens internes, plus de mots clé, et surtout aucun ajout pertinent comme ce que pourrait apporter un en-tête Yaml qui reprendrait les éléments utilisés dans le logiciel pour le classement.

Vous allez me dire : ce n’est pas le but de ces logiciels. Certes, mais dans la mesure où, pour exploiter un document, je dois me retaper la syntaxe markdown pour la corriger, autant rester avec Zettlr qui possède déjà des fonctions de recherche et une gestion des tags tout en permettant d’utiliser les en-têtes Yaml qui enrichissent les documents. Ha… c’est moins joli, d’accord, mais au moins, c’est efficace.

Et c’est aussi pourquoi Joplin reste encore un modèle du genre. On reste sur du markdown pur et dur. Là où Joplin est critiquable, c’est sur le choix de l’interface : des panneaux parfois encombrants et surtout une alternance entre d’un côté un éditeur Wysiwyg et de l’autre un éditeur markdown en double panneau, très peu pratique (alors que la version Android est plutôt bien faite).

Joplin et Zettlr n’ont pas de fioritures et n’offrent pas autant de solutions de classements que les autres logiciels… mais comme on va le voir ces « solutions » ne le sont qu’en apparence. Il y a une bonne dose de technosolutionnisme dans les logiciels de GCP les plus en vogue.

La synchronisation et le partage

Pouvoir accéder à ses notes depuis plusieurs dispositifs est, me semble-t-il, une condition de leur correcte exploitation. Sauf que… non seulement il faut un système de synchronisation qui soit aussi sécurisé, mais en plus de cela, il faut aussi se demander en qui on a confiance.

Anytype propose une synchronisation chiffrée et P2P par défaut, avec 1Go offert pour un abonnement gratuit et d’autres offres sont ou seront disponibles. Logseq propose une synchronisation pour les donateurs. Quant à Obsidian, il y a depuis longtemps plusieurs abonnements disponibles. On peut noter que tous proposent de choisir le stockage local (et gratuitement) sans synchronisation.

En fait, la question se résume surtout au chiffrement des données. Avec ces abonnements, même si Anytype propose une formule plutôt intéressante, vous restez dépendant•e d’un tiers en qui vous avez confiance… ou pas. Le principal biais dans ces opportunités, c’est que si vous pouvez stocker vos coffres de notes sur un système comme Nextcloud (à l’exception de Anytype), accéder aux fichiers via une autre application est déconseillé : indexation, relations, champs de formulaires… bricoler les fichiers par un autre moyen est source d’erreurs. Par ailleurs, sur un système Android, Anytype, Obsidian ou Logseq n’offrent pas la possibilité d’interagir avec un coffre situé dans votre espace Nextcloud.

⚠️ (màj) Dans ce fil de discussion sur Mastodon, un utilisateur a testé différents logiciels de GCP et a notamment analysé les questions de confidentialité des données. Le moins que l’on puisse dire est que Anytype remporte une palme. Je cite @loadhigh : « Le programme enregistre toutes vos actions et les envoie toutes les quelques minutes à Amplitude, une société d’analyse commerciale. Cela est mentionné dans la documentation, mais il n’y a pas de consentement ni même de mention dans le programme lui-même ou dans la politique de confidentialité. Il communique également en permanence avec quelques instances AWS EC2, probablement les nœuds IPFS qu’il utilise pour sauvegarder votre coffre-fort (crypté) de documents. (…) Le fait qu’il n’y ait pas d’option de refus, ni de demande de consentement, ni même d’avertissement est inacceptable à mes yeux. Pour une entreprise qui aime parler de confiance, il est certain qu’elle n’a aucune idée de la manière de la gagner. » Je souscris totalement à cette analyse !

De fait, la posture « local first » est en vérité la meilleure qui soit. Vous savez où sont stockés vos documents, vous en maîtrisez le stockage, et c’est ensuite seulement que vous décidez de les transporter ou de les modifier à distance.

Sur ce point Joplin a la bonne attitude. En effet, Joplin intègre non seulement une synchronisation Nextcloud, y compris dans la version pour Android, mais en plus de cela, il permet de choisir une formule de chiffrement. On peut aussi stocker sur d’autres cloud du genre Dropbox ou prendre un petit abonnement « Joplin cloud ». En somme, vous savez où vous stockez vos données et vous y accédez ensuite. Si on choisi de ne pas chiffrer (parce que votre espace Nextcloud peut être déjà chiffré), il est toujours possible d’accéder aux fichiers de Joplin et les modifier via une autre application. Joplin a même, dans l’application elle-même, une option permettant d’ouvrir une application externe de son choix pour éditer les fichiers.

Local first

Il m’a fallu du temps pour accepter ces faits. J’avais même commencé à travailler sérieusement avec Anytype… et c’est lorsque j’ai commencé à vouloir exporter que cela s’est vraiment compliqué. Sans compter la pérennité des classements : si demain Anytype, Logseq ou même Obsidian ferment leurs portes, on aura certes toujours accès à l’export markdown (quoique dans un état peu satisfaisant) mais il faudra tout recommencer.

Que faire ? je me suis mis à penser un peu plus sérieusement à mes pratiques et comme je dispose déjà d’un espace Nextcloud, j’ai choisi de le rentabiliser. La solution peut paraître simpliste, mais elle est efficace.

Elle consiste en deux dossiers principaux (on pourrait n’en choisir qu’un, mais pour séparer les activités, j’en préfère deux) :

un dossier Zettel où j’agis comme d’habitude avec Zettlr (et pour les relations, comme expliqué dans la documentation) en mettant davantage l’accent sur les mots-clé et en exploitant de manière plus systématique les fonctions de recherche.
Un dossier Notes destiné à la prise de notes courtes, comme on peut le faire avec un téléphone portable.

En pratique :

Les deux dossiers sont synchronisés avec Nextcloud.
Sur Zettlr en local, j’ouvre les deux dossiers comme deux espaces de travail et je peux agir simultanément sur tous les fichiers.
Depuis le smartphone et la tablette, j’ai accès à ces deux dossiers pour modifier et créer des fichiers via l’application Notes de Nextcloud, tout simplement, et toujours en markdown. Je fais aussi pointer l’application Nextcloud Notes précisément sur le dossier Notes.
Sachant que ces fichiers contiennent eux-mêmes les tags et qu’on peut ajouter d’autres données via un en-tête Yaml, je dispose des informations suffisantes pour chaque fichier et je peux aussi en ajouter, que j’utilise Zettlr ou toute autre application.

Les limites :

Sur smartphone ou tablette je n’ai pas l’application Zettlr et ne peut donc pas exploiter ma base de connaissances comme je le ferais sur ordinateur. Mais… aucun de ces dispositifs n’est fait pour un travail long de consultation.
Sur un autre ordinateur, je peux accéder à l’interface en ligne de Nextcloud et travailler dans ces dossiers, mais là aussi, c’est limité. Par contre je peux utiliser la fonction de recherche unifiée.
Gérer les liens de connexion entre les fichiers (par lien internes ou tags) demande un peu plus de rigueur avec Zettlr, mais reste très efficace.

Ce qui manque aux autres, je le trouve dans zettlr

Quant à Zettlr, il me permet tout simplement de faire ce que les autres applications ne permettent pas (ou alors avec des plugins plus ou moins mal fichus) :

utiliser une base de donnée bibliographique (et Zotero),
réaliser des exports multiformats avec de la mise en page (et avec Pandoc intégré),
les détails, comme une gestion correcte des notes de bas de page,
les modèles « snippets » qui simplifient les saisies répétitives,
l’auto-correction à la carte,
les volets de Zettlr (table des matières, fichiers connexes, biblio, fonction recherche etc.)

Les tâches et Kanban

C’est sans doute les point les plus tendancieux.

La plupart des logiciels de GCP intègrent un système de gestion de liste de tâches. Il s’agit en fait de pousser la fonction markdown - [ ] tâche bidule en lui ajoutant deux types d’éléments :

l’adjonction automatique de date et de tags (à faire, en cours, réalisé, etc…)
le classement par requêtes permettant de gérer les tâches et tenir à jour ces listes.

Le tout est complété par l’automatisation de tableaux type Kanban, très utiles dans la réalisation de projets.

C’est ce qui fait que ces logiciels de GCP se dotent de fonctions qui, selon moi, ne sont pas de la GCP mais de la gestion de projet. Si l’on regarde de près les systèmes privateurs intégrés comme chez Microsoft on constate que le jeu consiste à utiliser plusieurs logiciels qui interopèrent entre eux (et qui rendent encore plus difficile toute migration). Mais de la même manière, selon moi, un logiciel de gestion de projet ne devrait faire que cela, éventuellement couplé à une gestion de tâches.

On peut néanmoins réaliser facilement un fichier de tâches en markdown, ainsi (selon le rendu markdown du logiciel, les cases à cocher seront interactives) :


- [ ] penser à relire ce texte 🗓️15/12/2025
- [x] acheter des légumes 🗓️ aujourd'hui
- [ ] etc.

Mais qu’en est-il de la synchronisation de ces tâches sur un smartphone, par exemple ? N’est-il pas plus sage d’utiliser un logiciel dédié ? Si par contre les tâches concernent exclusivement des opérations à effectuer dans le processus de GCP, alors le markdown devrait suffire.

Sobriété

OK… C’est pas bling-bling et ni Zettlr ni Notes pour Nextcloud n’ont prétendu être la solution ultime pour la GCP. Par exemple, ma solution n’est sans doute pas appropriée dans un milieu professionnel. Dans ce dernier cas, cependant, il conviendra de s’interroger sérieusement sur la pérennité des données : si le logiciel que vous utilisez a une valeur ajoutée, il faudrait pouvoir la retrouver dans l’export et la sauvegarde. Aucun logiciel n’est assuré de durer éternellement.

Si, en revanche, vous êtes attiré•e par un logiciel simple permettant d’écrire des notes sans exigence académique, des compte-rendus de réunion, des notes de lectures et sans chercher à exploiter trop intensément les tags et autres liens internes, alors je dirais que Joplin est le logiciel libre idéal : il fonctionne parfaitement avec Nextcloud pour la synchronisation, le markdown est impeccable, l’application pour Android fonctionne très bien. Et il y a du chiffrement. Ne cherchez pas à utiliser les plugins proposés, car ils n’apportent que peu de chose. Quant à l’interface, elle souffre, je pense, d’un manque de choix assumés et gagnerait à n’utiliser que le markdown enrichi (à la manière de Zettlr) et sans double volet.

Pour ma part, après ce tour d’horizon – qui m’a néanmoins donné quelques idées pour l’élaboration de mes propres notes –, Zettlr reste encore mon application favorite… même si elle est exigeante. 😅 Pour les passionnés de Vim ou Emacs et de Org-mode… oui, je sais, ce sera difficile de faire mieux…

Moi aussi je peux écrire un livre sur l'IA

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Mon, 18 Nov 2024 00:00:00 +0000

Chez Framasoft, on se torture les méninges. Alors quand on parle d’Intelligence Artificielle, on préfère essayer de gratter un peu sous la surface pour comprendre ce qui se trame. Comme le marronnier éditorial du moment est l’IA dans tous ses états, je me suis dis que finalement, moi aussi…

C’est un petit projet, comme ça en passant. Il ne prétend par faire un tour exhaustif de ce qu’on entend exactement par « apprentissage automatique », mais au moins il m’a donné l’opportunité de réviser mes cours sur les dérivées… ha, ha !

Majpeulsia : Moi aussi je peux écrire un livre sur l’IA !

Ma manière à moi de comprendre des concepts, c’est d’en écrire des pages. J’ai pensé que cela pouvait éventuellement profiter à tout le monde. En premier lieu les copaing•nes de Framasoft mais pas que…

L’objectif consiste à développer les concepts techniques de l’apprentisage automatique et les enjeux du moment autour de cela. Pourquoi faire ? par exemple, lorsque l’Open Source Initiative a sorti a sorti sa définition d’une IA open source (voir mon billet précédent sur ce blog), il a été aussitôt question du statut des données d’entraînement. Mais… c’est quoi des données d’entraînement ? et surtout comment entraîne-t-on une IA ?

Vous allez me dire : ok, quand je conduis une voiture, je n’ai pas besoin de connaître la théorie du moteur à explosion. Oui, certes, mais connaître un peu de mécanique, c’est aussi assurer un minimum de sécurité. Alors, voilà, c’est ce minimum que je propose.

Cela se présente sous la forme d’un MKDocs à cette adresse (j’ai pas pris la peine d’un nom de domaine), et les sources sont ici. Le travail est lancé et il sera toujours en cours :)

Bonne lecture !

Que serait une IA libre ?

situveuxmonadresse@demande-la.moi (Christophe Masutti) — Sat, 02 Nov 2024 00:00:00 +0000

Fin octobre 2024, l’OSI a publié sa définition d’une IA open source. Ce faisant, elle remet en question les concepts d’ouverture et de partage. Il devient urgent d’imaginer ce que devrait être une IA libre. Je propose ici un court texte en réaction à cette publication. Sans doute vais-je un peu trop vite, mais je pense qu’il y a une petite urgence, là.

Nous savons que la définition d’un logiciel libre implique un ouverture et un accès complet au code. Il ne peut y avoir de faux-semblant : le code doit être lisible, il doit être accessible, et tout programmeur devrait pouvoir l’utiliser, le modifier et partager cette version modifiée. C’est encore mieux si la licence libre qui accompagne le programme est dite copyleft, c’est-à-dire qu’elle oblige tout partage du code à adopter la même licence.

Dans le domaine de l’IA, cela se complique un peu. D’abord, ce qu’on appelle « une IA » est un système composé :

le code qui permet de structurer le réseau neuronal. Par exemple un programme écrit en Python.
les paramètres : ce sont les poids qui agissent dans le réseau et déterminent les connexions qui dessinent le modèle d’IA. On peut aussi y adjoindre les biais qui sont utilisés volontairement pour affiner le rôle les poids.

Donc pour définir la licence d’un système d’IA, il faut qu’elle porte non seulement sur le code mais aussi sur les paramètres.

Fin octobre 2024, l’Open Source Initiative (l’OSI) a donné sa définition (1.0) de ce qu’est une IA open source. Elle indique bien cette importance donnée aux paramètres. On constate de même que pour la première fois dans l’histoire du logiciel libre ou open source, une licence d’un système porte à la fois sur du code et sur les paramètres qui permettent d’obtenir une manière particulière de faire tourner ce code.

Or, nous savons aussi qu’un système d’IA n’est rien (ou beaucoup moins) sans son entraînement. L’OSI a donc naturellement pensé à ces données d’entraînement, c’est-à-dire les jeux de données d’entrées et de sortie qui ont servi à paramétrer le système. Ainsi, la définition de l’OSI nous donne une liste des « informations suffisamment détaillées » requises au sujet de ces données d’entrainement.

Dans un article intitulé « L’IA Open Source existe-t-elle vraiment ? », Tante nous explique que cette définition de l’OSI nous embarque dans un régime d’exception problématique car le niveau de détail déclaré « suffisant » risque bien de ne jamais l’être. Par exemple on de dit pas qu’un code open source serait suffisamment ouvert : il est ouvert ou il ne l’est pas. C’est non seulement une question pratique (ai-je accès au code pour pouvoir l’inspecter et le modifier ?) mais aussi de confiance : irai-je faire tourner un programme si certains éléments, même décrits, me restent cachés ? En admettant que je puisse modifier les parties ouvertes du programme, puis-je repartager un tel programme contenant une boîte noire à laquelle personne ne peut avoir accès ?

De surcroît, la définition de l’OSI nous indique :

que pour « les données d’entraînement qui ne sont pas partageables », il suffirait de les décrire ;
que l’objectif de ce partage, à défaut de reproduire exactement le même système, consiste à obtenir un système seulement « similaire ».

Ainsi en cherchant à définir l’ouverture des systèmes d’IA, l’OSI cherche à modifier la conception même de ce qu’est l’ouverture. L’idée n’est plus de partager un commun numérique, mais de partager une méthode pour en reproduire un équivalent. Cette concession faite aux producteurs de systèmes d’IA déclarés open source implique un net recul par rapport aux avancées des dernières années au sujet des communs numériques. Là où l’ouverture du code pouvait servir de modèle pour partager toutes sortes d’oeuvres et ainsi contribuer au partage de la connaissance et de l’art, voici qu’un commun numérique n’a plus besoin d’être partagé dans son intégralité et peut même contenir ou dépendre d’éléments non ouverts et non accessibles (pourvu qu’ils soient « décrits »).

L’ouverture se distinguerait alors du partage. On tolèrerait des éléments rivaux dans les communs numériques, là où normalement tout partage implique l’enrichissement mutuel par l’abondance qu’implique ce partage. L’OSI conçoit alors l’ouverture des systèmes d’IA comme une sorte de partage inaboutit, un mieux-que-rien laissé dans le pot commun sans réel avantage. Sans l’intégralité des données d’entraînement, non seulement le système n’est plus le même mais encore faut il trouver les ressources suffisantes ailleurs pour en obtenir une alternative de niveau équivalent.

A contrario, un système d’IA libre devrait être fondé :

sur du code libre,
sur des données d’entraînement libres et accessibles à tous (elles peuvent être elles-mêmes sous licence libre ou dans le domaine public),
sur des algorithmes d’entraînement libres (bon, c’est des maths normalement), publiés et accessibles,
et le tout, pour mieux faire, sous Copyleft.

Mais ce n’est pas tout, il faut que les données soit décrites ainsi que la manière de les utiliser (l’étiquetage, par exemple). En effet, que les données soient libres n’est pas en soi suffisant. Tout dépend de l’usage : si j’entraîne une IA sur des données libres ou publiques il faut encore les évaluer. Par exemple si elles ne contiennent que des contenus racistes le résultat sera très différent que si je l’entraine sur des contenus dont on a évalué la teneur et que cette évaluation ai dûment été renseignée. Ici se joue la confiance dans le système et plus seulement la licence !

La question n’est pas de savoir s’il est aujourd’hui possible de réunir tous ces points. La question est de savoir ce que nous voulons réellement avec les systèmes d’IA.

Par ailleurs, l’OSI nous donne une définition qui intervient a posteriori par rapport aux systèmes d’IA existants et distribués d’emblée sous le drapeau open source. Un peu comme si l’OSI prenait simplement acte d’une pratique déjà mise en place par les acteurs des grands modèles d’IA, à l’Instar d’OpenAI qui soutenait qu’il n’était pas possible d’entraîner des systèmes d’IA sans matériel copyrighté (Ars Technica, 09/01/2024). Ce à quoi Huggingface a répondu quelques mois plus tard, en novembre 2024, en proposant une large base de données sous licences permissives (open source, domaine public, libre… la liste est sur ce dépôt).

En France, le Peren (le Pôle d’Expertise de la Régulation Numérique) est intervenu juste après l’annonce de l’OSI pour proposer un classement des système d’IA selon cette définition. Et ce classement s’accomode très bien avec la conception de l’ouverture des Big AI : tout est plus ou moins ouvert, plus ou moins accessible, voilà tout. Il n’y a aucune valeur performative de la définition de l’OSI là où une approche libriste cherche au contraire à imposer les éléments de probité inhérents aux libertés d’usage, de partage et de modification.

Est-ce vraiment étonnant ? Récemment Thibaul Prevost a publié un ouvrage passionant au sujet du cadre narratif des Big AI (Les prophètes de l’IA - Pourquoi la Silicon Valley nous vend l’apocalypse). On y apprend que, selon le Corporate Europe Observatory dans un communiqué édifiant intitulé Byte by byte. How Big Tech undermined the AI Act les Big AI se sont livrés à un lobbying de choc (plus qu’intensif, il était exclusif) dans le cadre des négociations de l'AI Act en 2023, jusqu’aux plus hauts sommets des intitutions européennes pour « faire supprimer du texte les obligations de transparence, de respect du copyright des données d’entraînement et d’évaluation de l’impact environnemental de leurs produits » (chap. 4). Avec sa définition, ce que fait l’OSI, c’est approuver la stratégie de maximisation des profits des Big AI pour donner blanc seing à cette posture de fopen source (avec un f) qui valide complètement le renversement de la valeur de l’ouverture dans les communs numériques, en occultant la question des sources.

On voit aussi l’enjeu que pourrait représenter une conception altérée de l’ouverture dans plusieurs domaines. En sciences par exemple, l’utilisation d’un système d’IA devrait absolument pouvoir reposer sur des garanties bien plus sérieuses quant à l’accessibilité des sources et la reproductibilité du système. Il en va du statut de la preuve scientifique.

Plus largement dans le domaine de la création artistique, le fait que des données non partageables aient pu entraîner une IA revient à poser la question de l’originalité même de l’oeuvre, puisqu’il serait impossible de dire si la part de l’oeuvre dûe à l’IA est attribuable à l’artiste ou à quelqu’un d’autre dont le travail se trouve ainsi dérivé.

Il y a encore du travail.