Depuis les Gorces

#Ecologie #Numérique #IA En ce moment je discute pas mal d'IA avec des personnes écolos, mais dont je ne partage pas complètement l'avis. C'est intéressant, car ça me permet de découvrir des arguments pro-IA, et d'y réfléchir... Listes d'arguments et de réponse qui sera actualisée au fur et à mesure de nos échanges...

Depuis quelques semaines, j'entends donc plein d'arguments originaux. Je dis originaux, parce que d'habitude j'entends parler d'IA sur mastodon, et que dans ma bulle informationnelle, je n'entends jamais d'arguments pro IA... J'ai beau savoir que la meilleure manière de convaincre quelqu'un c'est de l'écouter, j'ai toujours envie de répondre.

Mais intellectuellement, je déteste rester avec un argument qui m'a coincée. Et puis en plus, prochainement, je vais peut être devoir défendre ma position dans un débat, et là pour le coup, c'est utile d'avoir anticipé des arguments à opposer aux pro-IA.

Liste des arguments que j'ai entendus

• C'est déjà trop tard, 80% de la population utilise l'IA, c'est comme le smartphone
• Les entreprises qui ont déjà adopté l'IA doivent avoir une solution si les USA venaient à couper l'accès à l'IA
• L'IA c'est juste un outil, il faut contrôler les usages pour ne garder que les bons
• L'IA c'est comme la drogue, il faut expliquer aux enfants comment l'utiliser
• Il faut former les étudiant·es aux bons usages de l'IA dont iels auront besoin en entreprise
• Moi je gagne du temps grâce à l'IA donc c'est bien
• L'IA permet de faire des modèles climatiques utiles pour comprendre le réchauffement climatique
• Si on a nos propres centres de calculs, on pourra faire pression sur les entreprises

Développer une IA Générative souveraine

Mes discussions récentes m'ont surprises. Mes copaines sont au courant des dégâts de l'IA, mais pour autant iels défendent qu'on utilise de l'argent public pour développer une IA générative souveraine, avec du code ouvert et pour les bons usages.

C'est déjà trop tard, 80% de la population utilise l'IA, c'est comme le smartphone

Et comme c'est comme le smartphone, qu'on n'a plus le choix que de l'utiliser, alors il faudrait avoir une alternative.

Je n'ai pas réussi à percuter sur le coup, mais l'analogie avec le smartphone ne va pas.

On prend souvent comme exemples le smartphone ou la voiture pour illustrer des verrouillages technosociétaux : il est quasiment impossible de faire sans.

• Le smartphone est nécessaire pour se connecter au site impots.gouv.fr ou pour accéder à ses comptes en banque.
• À la campagne, la voiture est souvent nécessaire pour se rendre sur son lieu de travail.

Mais ce n'est pas le cas de l'IA gen à cette échelle. Oui pour certaines personnes dans certains emplois ça devient très difficile de s'en passer individuellement (risque de perdre une promotion ou de ne pas avoir son contrat renouvelé), mais ce n'est pas le cas de la majorité des personnes.

• Et puis ... MAIS SOURCE, ENFIN ? D'où vient ce chiffre quand on lit en permanence que les entreprises qui vendent de l'IA galèrent à ce que tout le monde l'adopte ?

Les entreprises qui ont déjà adopté l'IA doivent avoir une solution si les USA venaient à couper l'accès à l'IA

Là, j'ai l'impression de devoir m'opposer à des gens de droite qui défendent les grosses entreprises...

• Ce n'est pas à l'état de soutenir les mauvais choix des chefs d'entreprise français. L'objectif est de soutenir l'emploi (ou le revenu), pas l'entreprise.
• Actuellement, ces chefs d'entreprise licencient des personnes (ou ne renouvellent pas des contrats) et mettent des freelances au chômage car ils utilisent l'IA à la place. La perte d'emplois c'est maintenant, il faudrait donc au contraire punir les entreprises qui s'engouffrent dans l'IA.
• Et parlons des gains de productivité affirmés : il n'y pas d’études qui les montrent vraiment pour l’instant, la productivité c’est dur à mesurer pour de vrai (par contre il y a bien un sentiment d’efficacité, d’autant plus dangereux)

Il faut une alternative éthique aux mauvaises IA génératives

• Déjà, qu'est-ce qu'une IA éthique ? Est-ce qu'une IA sans biais sexistes ni racistes, mais qui consomme énormément d'eau et d'énergie, et qui a été entraînée par des travailleur·ses du clic c'est éthique ?
• Et si on avait une IA éthique, est-ce qu'elle serait utilisée ? Si on regarde le passé récent, il y a plein de trucs numériques nuls (genre gmail, ou twitter) pour lesquels on a des solutions vraiment mieux, parfois même gratuites et bien fichues, et les gens ne les utilisent pas.
• Et si on avait une IA éthique pour produire des vidéos de chats mignons, est-ce que les enfants ne regarderaient plus de la merde sur Youtube ? Bah non, car les gens qui utilisent des IA moins éthiques continueraient à produire des tonnes de vidéos craignos avec leurs IA pas éthiques.

L'IA c'est juste un outil, il faut contrôler les usages pour ne garder que les bons

• L'IA n'est pas juste un outil. C'est un outil dont les conditions de possibilité sont très lourdes : extractivisme, consommation d'énergie, consommation d'eau, capitalisme, mondialisation, exploitation de travailleur·ses pauvres.
• Les conséquences de la généralisation de l'IA seront bloquantes à terme. Il faut être pragmatique et pas idéaliste sur les usages qui seront fait de la technologie.
  

Moi je gagne du temps grâce à l'IA donc c'est bien

• Il y a en effet quelques personnes pour qui l'IA est un plus dans le quotidien, mais c'est un privilège de personnes privilégiées :
  • qui ont les codes et la connaissance pour que l'IA fasse gagner du temps sans pertes substantielles de qualité
  • qui bénéficient de ces gains de productivité (et pas leurs employeur·ses ou les actionnaires de leurs employeur·ses)
• MAIS quand on est de gauche on doit se demander qui bénéficie de la technologie, et qui y perd. Et aujourd'hui, un très grand nombre de personnes perdent beaucoup du fait du développement de toutes les IA au bénéfice d'un petit groupe de privilégié·es.

Former à l'IA

Nos avis divergeaient aussi sur l'IA et l'éducation. Tout le monde dans le groupe semble convaincu qu'il ne faut pas utiliser l'IA pour enseigner (c'est déjà ça), mais certain·es pensent qu'il faut apprendre aux enfant à utiliser l'IA.

Je range ces arguments comme pro IA avec de l'argent public puisque les enseignant·es sont payés avec de l'argent public.

L'IA c'est comme la drogue, il faut expliquer aux enfants comment l'utiliser

Là, j'avoue, j'avais pas vu venir le rapprochement. L'IA ce serait comme la drogue ou une pratique sexuelle dangereuse, il ne faut pas interdire mais faire de la prévention en expliquant ce qui rend les pratiques plus safe. * Dire qu'on n'enseigne pas comment utiliser l'IA à l'école, et qu'on demande aux enfants de ne pas utiliser l'IA pour travailler, ce n'est pas interdire tout usage de l'IA. * La plupart des risques soulevés par les copaines sur l'utilisation de l'IA par les enfants relèvent de la consommation de contenus produits par IA. Dans ce cas, l'alternative n'est pas une bonne utilisation de l'IA, mais la consommation de meilleurs contenus.

Il faut former les étudiant·es aux bons usages de l'IA dont iels auront besoin en entreprise

• Déjà, on peut discuter de si le rôle de l'école c'est de former des citoyen·nes ou de la main d’œuvre au monde de l'entreprise.
• Mais en plus, il est prouvé que pour pouvoir faire un usage efficace de l'IA en entreprise, il faut être bon·ne dans son domaine. Et on ne devient pas bon·ne en jouant avec une IA mais en apprenant classiquement.

L'IA permet de faire des modèles climatiques utiles pour comprendre le réchauffement climatique

Là, vous pouvez remplacer par n'importe quel usage qui a l'air bien et incontestable de l'IA, genre : détecter des cancers, trouver des nouvelles molécules pour soigner le cancer, ...

• Il ne faut pas regarder un seul bénéfice, mais la balance tous les bénéfices VS tous les coûts. Est-ce que c'est OK de consommer l'énergie que toute l'IA consomme pour le bénéfice de quelques cancers de plus de détectés ?
• En ce qui concerne le climat, visiblement, on n'a pas besoin de plus de sciences pour infléchir la courbe des émissions. On a bien assez de sciences et ça ne change rien. On a besoin d'arrêter maintenant les excuses pour des nouveaux projets consommateurs de ressources, d'énergie, et potentiels accélérateurs de croissance.

Construire des datacenter pour de l'IA

Au cours des discussions, l'argument à pivoter de développer une IA souveraine à développer des infrastructures pour faire de l'IA chez nous. On parle donc de développer des datacenter pour faire de l'IA. À quel moment on se dit que c'est une bonne idée de construire des usines qui ne créent pas d'emplois directs, qui consomment en local énormément d'eau et d'énergie, et qui demandent une grosse activité minière ?!

Si on a nos propres centres de calculs, on pourra faire pression sur les entreprises

Cet argument n'est pas très clair car la personne qui l'a amené à tour à tour dit :

• On réservera ces capacités de calculs aux usages éthiques — et dans ce cas, commençons par définir ces usages éthiques
• Puis, ça nous permettra d'imposer des conditions aux entreprises qui dont de l'IA caca. Mais je croyais qu'on réservait ces capacités de calculs aux usages éthiques qui vont sauver la planète ?