Des bonnes raisons de détester l'IA

#Société #Numerique #Ecologie En ce moment, on bosse sur les questions d'intelligence artificielle dans la commission numérique des écologistes. Ce qui est marrant, c'est que, les un·es ou les autres, on ne reproche pas du tout les mêmes trucs aux IA . Du coup, j'ai eu envie de faire un article pour lister les conséquences négatives des IA, et aussi de réfléchir à celles qui étaient le plus mobilisatrices autour de moi.

Les impacts négatifs de l'IA

Il y a des des personnes écolos qui soutiennent le développement de datacenters ou d'IA génératives du moment qu'ils soient français. Ma première réaction a été de croire que c'est parce qu'elles croyaient aux bienfaits de l'IA, ou qu'elles ne connaissaient pas ses impacts négatifs. Mais non. En discutant, je me suis rendue compte qu'on avait des points d'accord. On était d'accord que l'IA a plein d'impact très négatifs.

Mais on ne met pas l'accent sur les mêmes impacts, et du coup, on n'a pas du tout le même avis sur le fait qu'une IA éthique, ou soutenable soit possible.

Éducation

J'ai l'impression que les impacts sur nos enfants / jeunes sont ceux qui inquiètent le plus le grand public, dont une partie des écolos. C'est sur ce sujet qu'a été porté la première motion du parti les écologistes. Il y avait à la fois une inquiétude que les dirigeant·es de ce monde pensent faire des économies d'enseignant·es avec l'IA, mais aussi une inquiétude de l'utilisation par les enfants et les ados des IA génératives.

  1. Volonté des financeurs de remplacer des enseignant·es par des IA gen.
  2. Impact sur nos capacités mentales : L'invasion des réseaux sociaux par des contenus brainrot addictifs conduirait à une perte des capacités d'attention ou un abrutissement.
  3. L'utilisation de l'IA par les élèves / étudiant·es entraine une perte de l'habitude d'écrire, de réfléchir, de penser et donc une perte de compétences d'analyse.
  4. Dégradation des conditions de travail des enseignant·es qui doivent inventer des manières d'évaluer qui ne soient pas affectées par les IA (qui veut corriger 15 pages de textes produits par une IA ???)

Société, sexisme, racisme, ...

Les partis politiques ne peuvent pas ne pas s'inquiéter des impacts de l'IA sur la société et en particulier sur le déroulement des élections.

  1. Manipulation des croyances et des élections : les chatbot biaisés embrigadent la population dans des idées d'extrême droite / sexistes, racistes, ... / biaisent des élections
  2. Destruction de la presse et donc de l'information de qualité. Les contenus des journaux sont volés sans rémunération et perdent des visiteurs sur leurs sites puisque leurs contenu sont digérés par des IA pour produire des réponses aux questions des internautes.
  3. Enshittification d'internet : de moins en moins de contenus de qualité sur internet, perte de connaissance
  4. Dégradation des biens et des services : une efficacité de 70% en moyenne. La conséquence c'est une dégradation de la qualité de la majorité de ce qui est fait avec de l'IA (sauf quand fait par des expert·es)
  5. Isolement des personnes qui passent de plus en plus de temps devant des contenus produits par des IA soit dans des réseaux sociaux addictifs soit dans des discussions virtuelles.

Travail et économie

Les entreprises qui vendent de l'IA disent que c'est génial pour les entreprises. Et pourtant...

  1. Dégradation des conditions de travail : très souvent l'arrivée de l'IA transforme des tâches de création (comme traduire un texte) en tâches de contrôle (comme relire un texte mal traduit). On passe 3 h à relire quelque chose qu'on aurait écrit en 3h30 soit même. Il y a un gain de temps, et une perte de sens.
  2. Perte de qualité du travail fait : en moyenne, les IA conduisent à un travail moins bien fait que celui fait par une personne compétente. Mais elles produisent plus rapidement, et peut être que la qualité n'était pas nécessaire (je repense à la traduction automatique dans teams qui avait traduit « hold on » en « tenez bon » quand on était dans la salle d'attente d'une visio), et parfois ça sera vraiment un problème.
  3. Suppression d'emplois : l'IA gen est au service des entreprises (des patrons, des investisseurs), mais pas au service / bénéfice des humains qui travaillent dans et pour les entreprises.
  4. Perte de savoir-faire à moyen terme : en général, on devient expert·e en étant d'abord junior et en s'entrainant sur des tâches simples. Ce sont ces tâches qui sont souvent automatisées avec de l'IA, et à moyen terme on va perdre des personnes avec ces compétences. À court terme ça ne sera peut être pas un problème, mais à moyen terme, quand la qualité du travail fourni par les IA se dégradera car il n'y aura plus de nouveau contenu humain à manger, quand les expert·es qui s'étaient entraînés dans leur jeunesse partiront à la retraite, alors on aura perdu la compétence.

Planète, écosystèmes

A priori, ça devrait être le point qui motive le plus les écolos, et c'est souvent celui que j'entends rappelé en dernier en mode : « oui et en plus les impacts du numérique c'est vraiment énorme... avec les data center et tout ». Mais on dirait que le fait que les IA reposent sur une infrastructure matérielle nécessaire énorme n'est pas le principal problème. Peut-être parce qu'on a fini par s'habituer à ce que nos activités soient polluantes ? Ou bien qu'on ne sait pas comparer par rapport aux voitures électriques et aux panneaux solaires. C'est mal, mais de combien ?

  1. Le premier impact concerne la matière. Il faut extraire des métaux et de nombreux matériaux dans des mines pour construire les ordinateurs des datacenter. Et cette extraction :
    • consomme beaucoup d'énergie (un gros marché pour TotalEnergie que de fournir du carburant pour alimenter les engins monstres)
    • Consomme beaucoup d'eau, souvent dans des régions où l'eau manque,
    • Et pollue l'environnement car il faut aussi des produits chimiques souvent très toxiques pour extraire les métaux des roches. Et comme c'est loin de chez nous et qu'on reste assez colonialiste, c'est pas trop grave.
  2. Le deuxième impact à lieu au niveau des datacenter, et là c'est beaucoup plus proche de chez nous, et donc on s'en rend davantage compte. Il faut :
    • De l'eau pour refroidir les ordinateurs. Alors oui ça fournit de la chaleur gratuite, ce qui en hiver est sympa, mais nettement moins l'été.
    • De l'électricité, pour alimenter les datacenter. Et aujourd'hui, le renouvelable que l'on déploie sert davantage à alimenter des datacenters qu'à substituer les autres consommations d'énergie.
  3. Accélérer la consommation de matériaux dans d'autres activités économiques. Le projet de l'IA dans le monde de l'entreprise, c'est d'aller plus vite. Et si on va plus vite, on consomme davantage, et donc on extrait davantage de ressources.

Colonialisme et mondialisation

Un truc qui me rend folle en ce moment, c'est de réaliser que la croissance des pays du Nord s'est faite, et se fait toujours sur le dos des populations du Sud. Quand j'entends quelqu'un se réjouir de gagner du temps grâce à l'IA, et que ça ne fait de mal à personne car ils n'ont licencié personne, je suis triste. Car ce gain de temps n'est possible que parce que des personnes ont été exploitées dans des pays du Sud global.

Le gain de temps de quelques personnes privilégiées se fait grâce à l'exploitation de femmes et d'hommes dans les suds globaux.

Et je suis d'autant plus malheureuse que c'est vrai de tellement de chose, et que mon confort de vie repose tellement sur les mauvaises conditions de vie de centaines de personnes dans les Sud. Du coup, si on peut éviter d'accélérer dans cette direction, merci.

Capitalisme

Depuis que je suis adoe je sais que le capitalisme c'est caca. Mais maintenant j'ai compris un peu mieux ce que ça veut dire, et l'IA aujourd'hui est, comme le nucléaire, un outil du, et pour le capitalisme.

  1. Le coût de l'infrastructure (datacenter, réseaux) et de l'entraînement des IA ne sont possibles que dans une économie capitaliste dans laquelle des personnes peuvent avancer une énorme somme d'argent au démarrage du projet, en espérant gagner ensuite de l'argent sur cet argent dans le futur.
  2. Les bénéfices liés à l'utilisation des IA tombent dans la poche des actionnaires, pas des salariés
  3. Une grande partie de la réussite du monde capitaliste a été l'appropriation de communs et du travail de certaines classes sociales pour les valoriser et gagner de l'argent. Aujourd'hui l'IA poursuit ce projet en volant le travail des auteurices, des artistes etc. ainsi que nos données personnelles. Maintenant que les IA ont scrapé tout internet et tous les livres, elles ne pourront plus s'améliorer que en accédant à tout ce que nous produisons comme données que nous ne publions pas : nos mails, nos documents perso, nos photos perso, les images prises par nos *sonnettes intelligentes** etc.

Vers une société de la surveillance

L'un des aspects terrifiant du projet IA est la mise en place d'une société de la surveillance en mode BigBrother. Quand on voit que ces grandes sociétés sont les alliées des régimes fascistes ou fascisant, et que ces régimes sont de plus en plus probables en France, c'est terrifiant.

  1. Le déploiement de l'IA dans les ordinateurs et téléphones de toute la société donne les moyens aux plateformes de faire du ciblage qui pourra être utilisé pour choisir qui arrêter ou tuer, comme le font déjà l'ICE américaine ou l'armée israélienne.

Not all IA ?

Il y a surement plein d'autres aspects négatifs à côté desquels je suis passée, et je complèterai la liste au fur et à mesure. J'ai l'impression qu'il n'y a pas besoin de convaincre la majorité des gens des dégâts causés par l'IA.

Par contre, il y a des grosses divergences d'opinion pour répondre à la question :

Est-ce qu'il faut lutter contre les IA ou bien contre les effets négatifs des IA ?

J'ai l'impression qu'il y a un mouvement #NotAllIA parmi les personnes qui aiment le numérique et la technologie... Et que beaucoup seront d'accord sur toutes ces conséquences négatives des IA, mais diront que « il ne faut pas jeter bébé avec l'eau du bain » et qu'elles ne détestent pas l'IA, mais certaines IA. Et je comprends un peu, j'aime bien mon conjoint #NotAllMen, mais je déteste quand même le patriarcat.

Je suis très curieuse de poursuivre la discussion sur ces sujets par mail ou bien sur Mastodon... C'est encore work in progress dans ma tête !