Charles de Lacombe

Je suis récemment tombé sur une chronique d’Anne-Cécile Mailfert pour France Inter, qui s’interroge sur la disparition où la dissimulation de certains mots dans nos espaces numériques. Enfin, pas vraiment « nos espaces » : cette censure qui ne dit pas son nom est propre aux réseaux sociaux détenus par une poignée de multinationales.

On ne peut plus rien dire

Sur les plateformes de Meta (Facebook, Instagram), Microsoft (LinkedIn), ByteDance (TikTok), Google (YouTube) et Amazon (Twitch), il est courant de recourir à certains stratagèmes visant à contourner une règle plus ou moins explicite : il y a des mots interdits, et des images itou. Ainsi fleurissent les astérisques, périphrases, bips sonores et autres bandeaux noirs.

On parlera donc de vi*l, puisqu’on n’a pas le droit d’écrire « viol » en toutes lettres, même quand le sujet est au cœur du débat public. On vulgarisera l’histoire de l’art en cachant des morceaux d’œuvres, sans quoi on risquera la démonétisation, le shadowban ou le verrouillage de son compte. On apprendra qu’il y a les bons et les mauvais tétons, les masculins qui ne posent aucun problème et les féminins qui sont pornographiques.

NB : je n’évoquerai pas ici le cas de X/Twitter, d’une part parce que ça change tout le temps, d’autre part parce qu’on ne doit plus accorder aucun crédit à ce réseau.

Cancel culture

Les entreprises qui contrôlent ces espaces en édictent les règles : elles choisissent ce qui est mis en avant ou au contraire caché même aux personnes qui s’étaient pourtant abonnées à un compte précisément pour en suivre la production. Elles font les règles de ces lieux virtuels qui ont une place toujours grandissante dans nos vies, et ainsi détiennent un véritable pouvoir normatif sur la réalité, sans avoir une once de légitimité démocratique.

Qu’importe que le viol ou les néonazis soient bien réels et qu’il faille en parler : ce sont des mots qui ne doivent pas exister. Idem pour le suicide, qui est pourtant la deuxième cause de mortalité chez les 15-29 ans au niveau mondial : pour en parler, en anglais, c’est à présent le terme unalive (« dévivre ») qui est utilisé. Cette métamorphose du langage pour se conformer aux règles de modération et aux mécanismes de recommandation du contenu a un nom : algospeak.

IA et « nonpensée »

On convoque souvent 1984 à tort, mais la référence à la novlangue d’Orwell n’est ici pas abusive. En décidant ce qu’on a le droit de lire, de voir et d’entendre, ce dont on a le droit de parler, Big Tech tend in fine à décider ce qu’on peut penser. Et avec les outils à base d’IA générative, on touche le fond ! Une personne qui prend l’habitude de déléguer la tâche de rédaction à un LLM pour s’épargner l’effort de la réflexion renonce en réalité à celle-ci.

Code is law, le code c’est la loi, encore plus qu’ailleurs : cette fois, au lieu d’un ordinateur qui cache ou supprime le contenu « inapproprié », c’est la machine qui le génère en se conformant aux choix de ceux qui paient les microprocesseurs et la facture d’électricité. Ça vaut le coup de cramer des tonnes de charbon et de contribuer à l’escalade d’un conflit qui a déjà causé des millions de morts, non ?

Le problème étant que l’industrie est en train de bourrer du LLM partout où c’est possible, et que simplement désactiver les fonctionnalités indésirables commence à devenir compliqué.

Conclusion

Je me disperse et si ça continue je vais embrayer sur Mark Zuckerberg et son allégeance à Donald Trump, alors que ce billet doit rester concentré sur une idée : le pouvoir que l’on accorde à quelques entreprises. Je reprends donc la chronique avec laquelle il démarrait :

 Les plateformes nettoient le langage, mais pas le réel. Elles effacent les mots crus, mais pas les violences qu’ils dénoncent.

Au moment où l’Histoire semble se répéter, il faut réagir. Quand les fascistes sortent du bois il faut les nommer, pour pouvoir les combattre. Et pour ça, pas de miracle : il est nécessaire de reprendre le contrôle de nos espaces d’expression, à commencer par les numériques. Quitter les réseaux sociaux capitalistes, ou au moins ne plus dépendre exclusivement d’eux ; et ne pas s’entraver de chaînes supplémentaires en croyant s’aider de machines à penser.