Depuis les Gorces

#Ecologie #Numérique Ce WE on votait un texte porté par deux écoloes de la commission numérique sur le sujet de l'IA (motion E). J'ai travaillé pour déposer 3 amendements, qui ont été refusés. Je profite du travail sur cette séquence pour expliquer un peu le sujet, et le mode de fonctionnement de notre parti.

Le cadre

Je reprends un petit texte écrit par le co-responsable de la commission numérique pour présenter le conseil fédéral pour les nouveaux membres du parti.

Le Conseil Fédéral est le parlement de notre parti, 240 représentants, élus au titre des régions ou du national, se retrouvent tout les deux mois pour décider de nos grandes orientations politiques, notre organisation interne et se chamailler, car nous sommes Les Écolos, après tout.

Les motions sont des textes de positionnement politique ou d'appel à l'action issus du travail des commissions thématiques. Elles sont débattues en préparation du conseil fédéral, avec la possibilité pour les membres du CF de proposer des amendements. Les amendements sont défendus lors de la présentation de la motion au CF.

Dans le cadre du redémarrage de la commission nous avons soumis au CF, qui se réunit ce dimanche à Pantin, deux motions.

Mon argumentaire autour de la motion sur l'IA

Avant la tenue du conseil fédéral, j'ai envoyé un mail à toustes les conseiller·es pour expliquer ma position. Faire de la pédagogie comme on dit.

De quoi parle-t-on ?

L'expression « intelligence artificielle » est une expression qui regroupe aujourd'hui des logiciels qui apprennent tous seuls en analysant un très grand volume de données. Ils repèrent des schémas répétitifs (comme par exemple : les personnes qui regardent des sites de tests de grossesse sont quasiment toujours des femmes enceintes) et arrivent à faire des prédictions (si une personne regarde un site de test de grossesse, c'est probablement une femme enceinte).

Mais l'expression « intelligence artificielle » rassemble aujourd'hui des logiciels très différents. Par exemple :

👉 Certains logiciels sont très connus du grand public comme ChatGPT, Gemini, ou Mistral AI : ils consomment beaucoup de ressources (électricité, eau qui est réchauffée, ressources minières, exploitation d'humain·es, ...) pour produire des médias (conversation, musique, images...) qui peuvent avoir un impact sociétal négatif. Ces logiciels ont besoin de gros datacenters (des usines remplies d'ordinateurs) pour apprendre, puis pour répondre aux demandes des internautes. 👉 D'autres logiciels rangés sous la bannière intelligence artificielle sont utilisés par des scientifiques pour réaliser UNE tâche spécifique (un peu comme alphaGo qui ne sait que jouer au Go, ou un logiciel qui détecte un type de cancer donné). Ces logiciels consomment peu de ressources : ils peuvent par exemple fonctionner sur un ordinateur sans nécessiter la puissance de calcul d'un datacenter.

Cette motion critique, à juste titre, les impacts sociétaux de 2 types de logiciels :

1. Les IA génératives de type chatGPT qui produisent des médias
2. Les chatbots basés sur des IA génératives

1. Les IA génératives de type chatGPT qui produisent des médias

Le premier type de logiciel, ce sont les IA génératives comme ChatGPT et consorts. La motion critique ces logiciels parce que :

• Ils produisent des médias dont il est de plus en plus difficile de savoir si ils sont vrais, ou faux (fake). Ces IA génératives sont aujourd'hui utilisées entre autres pour produire des contenus mensongers pour influencer ou endoctriner les citoyen·nes. On pense par exemple à des vidéos de faux influenceurs masculinistes, ou bien à une fausse photo de policier blessé.
  
• Ils simulent des conversations dans des “chatbots” qui peuvent manipuler les personnes. Les réponses des agents conversationnels ont des biais liés à la phase d'apprentissage du logiciel (si le logiciel a appris que les femmes sont moins souvent informaticiennes que les hommes, alors le logiciel conseillera davantage aux jeunes hommes qu'aux jeunes femmes de poursuivre des études d'informatique). En plus, les sociétés qui développent ces logiciels influencent les réponses faites dans ces chatbots de manière obscure (elles interdisent par exemple en théorie de donner la recette pour faire une bombe, ce qui est bien, ou peuvent minimiser l'importance des personnes racisées dans l'histoire, ce qui est moins bien).

2. Les chatbots basés sur des IA génératives

Le deuxième type de logiciel critiqué par la motion concerne les algorithmes de recommandation des plateformes type Facebook, Instagram ou Youtube qui entrainent des logiciels sur vos traces numériques (ce que vous avez écrit dans un mail, ce que vous avez regardé comme vidéo) pour vous faire des recommandations qui au mieux vous font rester plus longtemps sur la plateforme, au pire influencent vos opinions politiques.

Quelles sont les solutions pour lutter contre les impacts négatifs des IA génératives ?

L'exposé des motifs de cette motion est centré sur les conséquences sociétales néfastes des IA génératives grand public et des algorithmes de recommandation des plateformes de type réseaux sociaux. Les associations qui luttent sur ces sujets recommandent plusieurs actions qui sont présentes dans cette motion dont l'une des plus importantes est que les sites internets qui diffusent des contenus comme Youtube, FAcebook, ou les chatbots des IA gen soient considérés comme des éditeurs, et donc responsables des contenus qu'ils diffusent, et pas uniquement comme des hébergeurs. Ils pourront alors être poursuivi lorsqu'ils diffusent des contenus faux, racistes, sexistes, etc. Un autre point important, surtout en ce moment, est d'appliquer et défendre les textes européens qui ont déjà été votés : transparence des algorithmes, protection des données des utilisateurices, etc.

Ce dont la motion ne parle pas : les impacts des datacenters

Les logiciels dont on parle dans cette motion sont détestables pour de nombreuses raisons en plus de leurs impacts sociétaux. Mais ce dont on ne parle pas dans cette motion, et qui est un énorme problème au regard d'une partie des solutions proposées, c'est de l'impact matériel et écologique des datacenters. Un datacenter est une usine qui peut être très grande (Meta prévoit de construire un datacenter de la taille de l'île de Manhattan) qui contient des milliers d'ordinateurs spécialisés :

• qui consomment de l'électricité avec des projections de croissances incompatibles avec un scénario de baisse des émissions de CO2 et provoquera des conflits d'usage.
• et qui chauffent. Il faut les refroidir avec de l'eau ce qui demande d'évacuer cette chaleur.

De plus, le matériel de ces datacenters est aujourd'hui renouvelé très rapidement (on parle de 2 à 5 ans pour le matériel dédié à l'IA), et il y a déjà de très nombreux datacenters partout dans le monde.

• Arte a un petit documentaire de ~10 minutes sur ces datacenters pour voir des images.

Une vision écologiste du numérique n'est pas la course (pour reprendre les mots d'E. Macron) à la construction de nouvelles infrastructures géantes et centralisées avant de penser les usages, mais des mesures pour s'assurer que les infrastructures existantes sont bien utilisées. L'association la quadrature du net se mobilise par exemple pour un moratoire sur les gros datacenters dont l'installation devrait être simplifiée par l'article 15 du projet de loi de simplification de la vie économique qui a été voté par l'extrême droite, les députés qui soutiennent le gouvernement, et le PS.

Dans ce contexte, on ne peut pas accepter le paragraphe de la motion qui recommande de soutenir le développement de nouveaux datacenters pour les IA en construisant d'abord, et en réfléchissant sur les usages ensuite. Il serait par contre très intéressant que la commission numérique travaille à proposer une motion qui présente une vision écologiste des datacenters demain, alternative à la course créée par la bulle de l'IA.

De retour du conseil fédéral

Le samedi : Table ronde sur le numérique à la convention sur l'industrie

Ce samedi, les écologistes avaient organisé une convention autour du thème de l'industrie et il y avait une table ronde qui portait sur l'industrie numérique (et la souveraineté).

Au delà de la question intéressante qui se pose sur ce qu'on appelle une industrie (production de produits manufacturiers ? et donc le numérique ?), cette table ronde a permis d'entendre la position de 2 de nos élu·es député·es sur ce sujet :

• Cyrielle Chatelain, présidente du groupe des écolos à l'assemblée nationale, et originaire de l'Isère où il y a eu une lutte contre l'installation d'un datacenter.
• David Cormand, eurodéputé qui a porté un travail autour de l'IA (IA act) au niveau européen.

J'étais sur la défensive après avoir lu le texte présenté par deux femmes de leur collectif, ainsi que la position des verts européens qui me parait un peu trop : la green tech souveraine c'est trop cool. Et j'ai été surprise dans le bon sens du terme. Je crois que j'étais d'accord avec tout ou presque de ce qui a été dit :

• L'IA générative grand public n'est pas un besoin fondamental pour notre société.
• Il faut collecter beaucoup moins de données, et ça fera beaucoup moins de données à stocker.
• Il y a un futur avec du numérique, mais ce n'est pas le futur en cours de construction avec des tonnes de gadget numérique.
• Ce n'est pas parce qu'un datacenter est construit en France qu'il sera souverain, ni écologique (et il faut se rappeler que le gros du problème du numérique ce sont les terminaux).

Le dimanche : conseil fédéral

J'ai présenté ces amendements en début de matinée, après la présentation de la motion par les porteuses. Elles ont ensuite répondu à chacun des amendements en disant en substance que c'était une première motion, qu'il fallait se positionner rapidement parce que la souveraineté c'est super important, et donc ne pas accepter les amendements. Et qu'il y aurait d'autres motions pour préciser plus tard.

Il y a aussi une prise de parole contre l'un des amendements qui rappelait qu'il y a déjà la position du parti vert européen et que le cadre était déjà là.

Spoiler : je ne suis pas du tout d'accord avec ces arguments que je pense non fondés sur le plan de la logique, et problématiques sur le plan de l'éthique et de l'écologie. Et je pense qu'un certain nombre de personnes s'en sont rendu compte. MAIS.

Mais cette motion était portée par deux personnes issues du courant majoritaire des écologistes : Le collectif. C'est le courant de Marine Tondelier et d'une presque majorité des conseiller·es au conseil fédéral. Comme en plus c'était le matin (des conseiller·es n'étaient pas encore arrivé·es, même parmi les conseiller·es du courant auquel j'appartiens), que le sujet du numérique est méprisé et mal compris par beaucoup d'écolos (c'est pas très important), alors une large majorité a choisi de rejeter les amendements.

Mes conclusions

• Je comprends les personnes qui rejoignent le collectif même si elles n'adhèrent pas aux idées ou aux méthodes. C'est très difficile de faire passer ses idées si une personne du collectif n'est pas d'accord avec nous.
• Si on veut faire passer une idée au conseil fédéral, il faut vraiment être à la rédaction des textes, et pas à l'amendement. On peut faire marginalement évoluer des textes, mais l'angle est donné, et on ne peut plus que changer un mot ou un autre.
• Je ne suis pas certaine que les motions thématiques votées au CF aient un impact réel. Elles sont peu lues par les militant·es ou par les élu·es. Je pense que c'est différent pour les motions qui modifient le règlement intérieur car elles sont opposables, mais ce sont des motions beaucoup plus difficiles à faire adopter.

Au final, je me pose pas mal de questions sur l'endroit où investir mon temps dans la lutte écologique... Je suis déçue de quelque chose qui doit être une évidence : l'arène politique n'est pas du tout un lieu de construction des savoirs où la logique prime. Ce n'est pas une arène scientifique, c'est une arène de jeux de pouvoirs.