Mais intellectuellement, je déteste rester avec un argument qui m'a coincée. Et puis en plus, prochainement, je vais peut être devoir défendre ma position dans un débat, et là pour le coup, c'est utile d'avoir anticipé des arguments à opposer aux pro-IA.

Liste des arguments que j'ai entendus

• C'est déjà trop tard, 80% de la population utilise l'IA, c'est comme le smartphone
• Les entreprises qui ont déjà adopté l'IA doivent avoir une solution si les USA venaient à couper l'accès à l'IA
• L'IA c'est juste un outil, il faut contrôler les usages pour ne garder que les bons
• L'IA c'est comme la drogue, il faut expliquer aux enfants comment l'utiliser
• Il faut former les étudiant·es aux bons usages de l'IA dont iels auront besoin en entreprise
• Moi je gagne du temps grâce à l'IA donc c'est bien
• L'IA permet de faire des modèles climatiques utiles pour comprendre le réchauffement climatique
• Si on a nos propres centres de calculs, on pourra faire pression sur les entreprises

Développer une IA Générative souveraine

Mes discussions récentes m'ont surprises. Mes copaines sont au courant des dégâts de l'IA, mais pour autant iels défendent qu'on utilise de l'argent public pour développer une IA générative souveraine, avec du code ouvert et pour les bons usages.

C'est déjà trop tard, 80% de la population utilise l'IA, c'est comme le smartphone

Et comme c'est comme le smartphone, qu'on n'a plus le choix que de l'utiliser, alors il faudrait avoir une alternative.

Je n'ai pas réussi à percuter sur le coup, mais l'analogie avec le smartphone ne va pas.

On prend souvent comme exemples le smartphone ou la voiture pour illustrer des verrouillages technosociétaux : il est quasiment impossible de faire sans.

• Le smartphone est nécessaire pour se connecter au site impots.gouv.fr ou pour accéder à ses comptes en banque.
• À la campagne, la voiture est souvent nécessaire pour se rendre sur son lieu de travail.

Mais ce n'est pas le cas de l'IA gen à cette échelle. Oui pour certaines personnes dans certains emplois ça devient très difficile de s'en passer individuellement (risque de perdre une promotion ou de ne pas avoir son contrat renouvelé), mais ce n'est pas le cas de la majorité des personnes.

• Et puis ... MAIS SOURCE, ENFIN ? D'où vient ce chiffre quand on lit en permanence que les entreprises qui vendent de l'IA galèrent à ce que tout le monde l'adopte ?

Les entreprises qui ont déjà adopté l'IA doivent avoir une solution si les USA venaient à couper l'accès à l'IA

Là, j'ai l'impression de devoir m'opposer à des gens de droite qui défendent les grosses entreprises...

• Ce n'est pas à l'état de soutenir les mauvais choix des chefs d'entreprise français. L'objectif est de soutenir l'emploi (ou le revenu), pas l'entreprise.
• Actuellement, ces chefs d'entreprise licencient des personnes (ou ne renouvellent pas des contrats) et mettent des freelances au chômage car ils utilisent l'IA à la place. La perte d'emplois c'est maintenant, il faudrait donc au contraire punir les entreprises qui s'engouffrent dans l'IA.
• Et parlons des gains de productivité affirmés : il n'y pas d’études qui les montrent vraiment pour l’instant, la productivité c’est dur à mesurer pour de vrai (par contre il y a bien un sentiment d’efficacité, d’autant plus dangereux)

Il faut une alternative éthique aux mauvaises IA génératives

• Déjà, qu'est-ce qu'une IA éthique ? Est-ce qu'une IA sans biais sexistes ni racistes, mais qui consomme énormément d'eau et d'énergie, et qui a été entraînée par des travailleur·ses du clic c'est éthique ?
• Et si on avait une IA éthique, est-ce qu'elle serait utilisée ? Si on regarde le passé récent, il y a plein de trucs numériques nuls (genre gmail, ou twitter) pour lesquels on a des solutions vraiment mieux, parfois même gratuites et bien fichues, et les gens ne les utilisent pas.
• Et si on avait une IA éthique pour produire des vidéos de chats mignons, est-ce que les enfants ne regarderaient plus de la merde sur Youtube ? Bah non, car les gens qui utilisent des IA moins éthiques continueraient à produire des tonnes de vidéos craignos avec leurs IA pas éthiques.

L'IA c'est juste un outil, il faut contrôler les usages pour ne garder que les bons

• L'IA n'est pas juste un outil. C'est un outil dont les conditions de possibilité sont très lourdes : extractivisme, consommation d'énergie, consommation d'eau, capitalisme, mondialisation, exploitation de travailleur·ses pauvres.
• Les conséquences de la généralisation de l'IA seront bloquantes à terme. Il faut être pragmatique et pas idéaliste sur les usages qui seront fait de la technologie.
  

Moi je gagne du temps grâce à l'IA donc c'est bien

• Il y a en effet quelques personnes pour qui l'IA est un plus dans le quotidien, mais c'est un privilège de personnes privilégiées :
  • qui ont les codes et la connaissance pour que l'IA fasse gagner du temps sans pertes substantielles de qualité
  • qui bénéficient de ces gains de productivité (et pas leurs employeur·ses ou les actionnaires de leurs employeur·ses)
• MAIS quand on est de gauche on doit se demander qui bénéficie de la technologie, et qui y perd. Et aujourd'hui, un très grand nombre de personnes perdent beaucoup du fait du développement de toutes les IA au bénéfice d'un petit groupe de privilégié·es.

Former à l'IA

Nos avis divergeaient aussi sur l'IA et l'éducation. Tout le monde dans le groupe semble convaincu qu'il ne faut pas utiliser l'IA pour enseigner (c'est déjà ça), mais certain·es pensent qu'il faut apprendre aux enfant à utiliser l'IA.

Je range ces arguments comme pro IA avec de l'argent public puisque les enseignant·es sont payés avec de l'argent public.

L'IA c'est comme la drogue, il faut expliquer aux enfants comment l'utiliser

Il faut former les étudiant·es aux bons usages de l'IA dont iels auront besoin en entreprise

• Déjà, on peut discuter de si le rôle de l'école c'est de former des citoyen·nes ou de la main d’œuvre au monde de l'entreprise.
• Mais en plus, il est prouvé que pour pouvoir faire un usage efficace de l'IA en entreprise, il faut être bon·ne dans son domaine. Et on ne devient pas bon·ne en jouant avec une IA mais en apprenant classiquement.

L'IA permet de faire des modèles climatiques utiles pour comprendre le réchauffement climatique

• Il ne faut pas regarder un seul bénéfice, mais la balance tous les bénéfices VS tous les coûts. Est-ce que c'est OK de consommer l'énergie que toute l'IA consomme pour le bénéfice de quelques cancers de plus de détectés ?
• En ce qui concerne le climat, visiblement, on n'a pas besoin de plus de sciences pour infléchir la courbe des émissions. On a bien assez de sciences et ça ne change rien. On a besoin d'arrêter maintenant les excuses pour des nouveaux projets consommateurs de ressources, d'énergie, et potentiels accélérateurs de croissance.

Construire des datacenter pour de l'IA

Au cours des discussions, l'argument à pivoter de développer une IA souveraine à développer des infrastructures pour faire de l'IA chez nous. On parle donc de développer des datacenter pour faire de l'IA. À quel moment on se dit que c'est une bonne idée de construire des usines qui ne créent pas d'emplois directs, qui consomment en local énormément d'eau et d'énergie, et qui demandent une grosse activité minière ?!

Si on a nos propres centres de calculs, on pourra faire pression sur les entreprises

• On réservera ces capacités de calculs aux usages éthiques — et dans ce cas, commençons par définir ces usages éthiques
• Puis, ça nous permettra d'imposer des conditions aux entreprises qui dont de l'IA caca. Mais je croyais qu'on réservait ces capacités de calculs aux usages éthiques qui vont sauver la planète ?

Les impacts négatifs de l'IA

Il y a des des personnes écolos qui soutiennent le développement de datacenters ou d'IA génératives du moment qu'ils soient français. Ma première réaction a été de croire que c'est parce qu'elles croyaient aux bienfaits de l'IA, ou qu'elles ne connaissaient pas ses impacts négatifs. Mais non. En discutant, je me suis rendue compte qu'on avait des points d'accord. On était d'accord que l'IA a plein d'impact très négatifs.

Mais on ne met pas l'accent sur les mêmes impacts, et du coup, on n'a pas du tout le même avis sur le fait qu'une IA éthique, ou soutenable soit possible.

Éducation

J'ai l'impression que les impacts sur nos enfants / jeunes sont ceux qui inquiètent le plus le grand public, dont une partie des écolos. C'est sur ce sujet qu'a été porté la première motion du parti les écologistes. Il y avait à la fois une inquiétude que les dirigeant·es de ce monde pensent faire des économies d'enseignant·es avec l'IA, mais aussi une inquiétude de l'utilisation par les enfants et les ados des IA génératives.

1. Volonté des financeurs de remplacer des enseignant·es par des IA gen.
2. Impact sur nos capacités mentales : L'invasion des réseaux sociaux par des contenus brainrot addictifs conduirait à une perte des capacités d'attention ou un abrutissement.
3. L'utilisation de l'IA par les élèves / étudiant·es entraine une perte de l'habitude d'écrire, de réfléchir, de penser et donc une perte de compétences d'analyse.
4. Dégradation des conditions de travail des enseignant·es qui doivent inventer des manières d'évaluer qui ne soient pas affectées par les IA (qui veut corriger 15 pages de textes produits par une IA ???)

Société, sexisme, racisme, ...

Les partis politiques ne peuvent pas ne pas s'inquiéter des impacts de l'IA sur la société et en particulier sur le déroulement des élections.

1. Manipulation des croyances et des élections : les chatbot biaisés embrigadent la population dans des idées d'extrême droite / sexistes, racistes, ... / biaisent des élections
2. Destruction de la presse et donc de l'information de qualité. Les contenus des journaux sont volés sans rémunération et perdent des visiteurs sur leurs sites puisque leurs contenu sont digérés par des IA pour produire des réponses aux questions des internautes.
3. Enshittification d'internet : de moins en moins de contenus de qualité sur internet, perte de connaissance
4. Dégradation des biens et des services : une efficacité de 70% en moyenne. La conséquence c'est une dégradation de la qualité de la majorité de ce qui est fait avec de l'IA (sauf quand fait par des expert·es)
5. Isolement des personnes qui passent de plus en plus de temps devant des contenus produits par des IA soit dans des réseaux sociaux addictifs soit dans des discussions virtuelles.

Travail et économie

Les entreprises qui vendent de l'IA disent que c'est génial pour les entreprises. Et pourtant...

1. Dégradation des conditions de travail : très souvent l'arrivée de l'IA transforme des tâches de création (comme traduire un texte) en tâches de contrôle (comme relire un texte mal traduit). On passe 3 h à relire quelque chose qu'on aurait écrit en 3h30 soit même. Il y a un gain de temps, et une perte de sens.
2. Perte de qualité du travail fait : en moyenne, les IA conduisent à un travail moins bien fait que celui fait par une personne compétente. Mais elles produisent plus rapidement, et peut être que la qualité n'était pas nécessaire (je repense à la traduction automatique dans teams qui avait traduit « hold on » en « tenez bon » quand on était dans la salle d'attente d'une visio), et parfois ça sera vraiment un problème.
3. Suppression d'emplois : l'IA gen est au service des entreprises (des patrons, des investisseurs), mais pas au service / bénéfice des humains qui travaillent dans et pour les entreprises.
   
4. Perte de savoir-faire à moyen terme : en général, on devient expert·e en étant d'abord junior et en s'entrainant sur des tâches simples. Ce sont ces tâches qui sont souvent automatisées avec de l'IA, et à moyen terme on va perdre des personnes avec ces compétences. À court terme ça ne sera peut être pas un problème, mais à moyen terme, quand la qualité du travail fourni par les IA se dégradera car il n'y aura plus de nouveau contenu humain à manger, quand les expert·es qui s'étaient entraînés dans leur jeunesse partiront à la retraite, alors on aura perdu la compétence.
5. Et en plus, il n'y a même pas de modèle économique pour l'IA ! On est à deux doigts d'une bulle financière monstrueuse, et les entreprises qui font de l'IA ne gagnent pas d'argent en dehors de montages financiers.

Planète, écosystèmes

A priori, ça devrait être le point qui motive le plus les écolos, et c'est souvent celui que j'entends rappelé en dernier en mode : « oui et en plus les impacts du numérique c'est vraiment énorme... avec les data center et tout ». Mais on dirait que le fait que les IA reposent sur une infrastructure matérielle nécessaire énorme n'est pas le principal problème. Peut-être parce qu'on a fini par s'habituer à ce que nos activités soient polluantes ? Ou bien qu'on ne sait pas comparer par rapport aux voitures électriques et aux panneaux solaires. C'est mal, mais de combien ?

1. Le premier impact concerne la matière. Il faut extraire des métaux et de nombreux matériaux dans des mines pour construire les ordinateurs des datacenter. Et cette extraction :
   • consomme beaucoup d'énergie (un gros marché pour TotalEnergie que de fournir du carburant pour alimenter les engins monstres)
   • Consomme beaucoup d'eau, souvent dans des régions où l'eau manque,
   • Et pollue l'environnement car il faut aussi des produits chimiques souvent très toxiques pour extraire les métaux des roches. Et comme c'est loin de chez nous et qu'on reste assez colonialiste, c'est pas trop grave.
     
2. Le deuxième impact à lieu au niveau des datacenter, et là c'est beaucoup plus proche de chez nous, et donc on s'en rend davantage compte. Il faut :
   • De l'eau pour refroidir les ordinateurs. Alors oui ça fournit de la chaleur gratuite, ce qui en hiver est sympa, mais nettement moins l'été.
   • De l'électricité, pour alimenter les datacenter. Et aujourd'hui, le renouvelable que l'on déploie sert davantage à alimenter des datacenters qu'à substituer les autres consommations d'énergie.
3. Accélérer la consommation de matériaux dans d'autres activités économiques. Le projet de l'IA dans le monde de l'entreprise, c'est d'aller plus vite. Et si on va plus vite, on consomme davantage, et donc on extrait davantage de ressources.

Colonialisme et mondialisation

Un truc qui me rend folle en ce moment, c'est de réaliser que la croissance des pays du Nord s'est faite, et se fait toujours sur le dos des populations du Sud. Quand j'entends quelqu'un se réjouir de gagner du temps grâce à l'IA, et que ça ne fait de mal à personne car ils n'ont licencié personne, je suis triste. Car ce gain de temps n'est possible que parce que des personnes ont été exploitées dans des pays du Sud global.

• Des petites mains dans les mines et dans les usines pour produire le hardware utilisé par le numérique.
• Les travailleur·ses du clic exploité·es pour entraîner les IA

Le gain de temps de quelques personnes privilégiées se fait grâce à l'exploitation de femmes et d'hommes dans les suds globaux.

Et je suis d'autant plus malheureuse que c'est vrai de tellement de chose, et que mon confort de vie repose tellement sur les mauvaises conditions de vie de centaines de personnes dans les Sud. Du coup, si on peut éviter d'accélérer dans cette direction, merci.

Capitalisme

Depuis que je suis adoe je sais que le capitalisme c'est caca. Mais maintenant j'ai compris un peu mieux ce que ça veut dire, et l'IA aujourd'hui est, comme le nucléaire, un outil du, et pour le capitalisme.

1. Le coût de l'infrastructure (datacenter, réseaux) et de l'entraînement des IA ne sont possibles que dans une économie capitaliste dans laquelle des personnes peuvent avancer une énorme somme d'argent au démarrage du projet, en espérant gagner ensuite de l'argent sur cet argent dans le futur.
2. Les bénéfices liés à l'utilisation des IA tombent dans la poche des actionnaires, pas des salariés
3. Une grande partie de la réussite du monde capitaliste a été l'appropriation de communs et du travail de certaines classes sociales pour les valoriser et gagner de l'argent. Aujourd'hui l'IA poursuit ce projet en volant le travail des auteurices, des artistes etc. ainsi que nos données personnelles. Maintenant que les IA ont scrapé tout internet et tous les livres, elles ne pourront plus s'améliorer que en accédant à tout ce que nous produisons comme données que nous ne publions pas : nos mails, nos documents perso, nos photos perso, les images prises par nos *sonnettes intelligentes** etc.

Vers une société de la surveillance

L'un des aspects terrifiant du projet IA est la mise en place d'une société de la surveillance en mode BigBrother. Quand on voit que ces grandes sociétés sont les alliées des régimes fascistes ou fascisant, et que ces régimes sont de plus en plus probables en France, c'est terrifiant.

1. Le déploiement de l'IA dans les ordinateurs et téléphones de toute la société donne les moyens aux plateformes de faire du ciblage qui pourra être utilisé pour choisir qui arrêter ou tuer, comme le font déjà l'ICE américaine ou l'armée israélienne.

Not all IA ?

Il y a surement plein d'autres aspects négatifs à côté desquels je suis passée, et je complèterai la liste au fur et à mesure. J'ai l'impression qu'il n'y a pas besoin de convaincre la majorité des gens des dégâts causés par l'IA.

Par contre, il y a des grosses divergences d'opinion pour répondre à la question :

Est-ce qu'il faut lutter contre les IA ou bien contre les effets négatifs des IA ?

J'ai l'impression qu'il y a un mouvement #NotAllIA parmi les personnes qui aiment le numérique et la technologie... Et que beaucoup seront d'accord sur toutes ces conséquences négatives des IA, mais diront que « il ne faut pas jeter bébé avec l'eau du bain » et qu'elles ne détestent pas l'IA, mais certaines IA. Et je comprends un peu, j'aime bien mon conjoint #NotAllMen, mais je déteste quand même le patriarcat.

Je suis très curieuse de poursuivre la discussion sur ces sujets par mail ou bien sur Mastodon... C'est encore work in progress dans ma tête !