Chatpey

Une explication imagée, à partir d'une question toute simple : « Quelle est la meilleure recette traditionnelle de Dijon ? »

Étape 1 — La carte

Comment l'IA représente les mots

Imagine une immense carte où chaque mot a sa place. Les mots qu'on trouve souvent ensemble dans les mêmes phrases sont proches sur cette carte : couteau et fourchette sont dans le même quartier, tomate et basilic aussi. En revanche, « couteau » est très loin du quartier « basketball » ou « fusée » — ces mots n'ont presque aucun lien entre eux. Plus on s'éloigne sur la carte, plus les liens entre les mots sont faibles, mais ils existent toujours.

La carte est organisée en zones thématiques : le quartier « repas » contient « couteau » et « fourchette », lui-même inclus dans la ville « cuisine », proche de la région « gastronomie ». Certains mots, comme « sel », apparaissent dans plusieurs zones : à la fois dans « cuisine » et dans « mer », car ils sont utilisés dans des contextes variés.

Étape 2 — Le point d'équilibre

Comment l'IA comprend une phrase entière

Ta question est : « Quelle est la meilleure recette traditionnelle de Dijon ? »

L'IA plante un drapeau sur chaque mot important : « meilleure », « recette », « traditionnelle », « Dijon ». Chacun a son quartier sur la carte. « Recette » et « traditionnelle » sont déjà voisins — leur fil est court. « Meilleure » est un peu plus loin, dans le quartier des jugements de valeur. Et « Dijon » est un cas particulier : il apparaît dans plusieurs zones (ville de Bourgogne, moutarde, gastronomie régionale).

L'IA tend un fil entre tous les drapeaux et cherche le point d'équilibre — celui qui est à égale distance de chacun. C'est ce point qui représente le sens global de ta question. Il se trouve quelque part dans la zone où gastronomie, tradition et Bourgogne se croisent.

Étape 3 — Le conteur

Comment l'IA construit la réponse

Depuis ce point d'équilibre, l'IA construit sa réponse mot par mot. Elle regarde les mots voisins sur la carte et choisit celui qui semble le plus cohérent avec les fils déjà posés. À chaque étape, elle tire sur ces fils pour les tendre au maximum, comme si elle cherchait à former une ligne la plus droite possible entre tous les drapeaux. Chaque nouveau mot doit s'ajuster à cette tension pour que la phrase reste cohérente de bout en bout.

Elle répond : « À Dijon, on mange du bœuf bourguignon. »

Étape 4 — Le cartographe

Comment la carte a été construite

Mais qui a dessiné cette carte ? Personne ne l'a tracée à la main. On a donné à l'IA des milliards de phrases — des livres, des articles, des conversations — et on lui a demandé de jouer à un jeu : « Devine le mot qui manque dans cette phrase ». Chaque fois qu'elle se trompait, on déplaçait légèrement les mots sur la carte pour que la prochaine fois elle se trompe moins. Personne n'a décidé que moutarde et Dijon seraient voisins — ça s'est fait naturellement, à force de corrections.

Les humains ont choisi quels textes donner à l'IA. Si on lui avait donné surtout des recettes de cuisine, elle serait incollable sur les plats… mais ignorante en histoire !

Épilogue — Et si ?

Variabilité, hallucination, et silence impossible

Le point d'équilibre trouvé à l'étape 2 n'est pas un point exact — c'est une zone. À chaque fois que tu poses la même question, l'IA ne plante pas son drapeau exactement au même endroit. C'est pour ça qu'elle peut te donner des réponses légèrement différentes d'une fois à l'autre. Ce n'est pas un bug — c'est une conséquence directe de la façon dont elle fonctionne.

Mais parfois, le drapeau atterrit dans le mauvais quartier. La zone « Dijon » touche aussi le quartier « villes de France » — et si le drapeau glisse un peu trop loin, l'IA pourrait te répondre avec assurance « À Dijon, la spécialité c'est la choucroute ». Comme un GPS qui te ferait prendre un chemin parce que beaucoup de gens l'ont pris avant… même si c'est un raccourci interdit ! Elle ne sait pas qu'elle s'est trompée de quartier. Elle a juste suivi le fil depuis un mauvais point de départ. C'est ce qu'on appelle une hallucination.

Et c'est précisément parce qu'elle ne sait pas qu'elle s'est trompée qu'elle ne peut pas dire « je ne sais pas ». Elle ne comprend pas comme nous : elle trouve des motifs, comme un détective qui relierait des indices sans savoir ce qu'ils signifient. Elle pose toujours un drapeau, même quand la zone est floue. Elle est faite pour répondre, pas pour douter.

L'envers du décor — La carte n'est pas neutre

Les biais d'entraînement

On l'a vu à l'étape 4 : la carte a été construite à partir de milliards de textes écrits par des humains. Ça veut dire deux choses.

La première : si un sujet est peu représenté dans ces textes — une langue minoritaire, une culture peu documentée, un point de vue marginal — il sera mal placé sur la carte, ou carrément absent. L'IA ne saura pas bien en parler, non pas parce qu'elle a décidé de l'ignorer, mais parce que personne ne lui a donné les phrases pour apprendre.

La deuxième est plus subtile : si les textes qu'on lui a donnés véhiculent des préjugés — sur les femmes, sur certaines origines, sur certains métiers — ces préjugés se retrouvent dans la carte. Les mots se sont regroupés selon ce que les humains ont écrit, pas selon ce qui est juste. C'est pour ça que la carte n'est jamais neutre. Elle est le reflet, sans qu'ils le sachent, de ceux qui ont choisi les textes pour la construire.

Pour finir — Une carte, pas un territoire

Retenons l'essentiel. L'IA ne sait rien au sens où nous savons : elle a une carte des mots, construite à partir de ce que les humains ont écrit, et elle s'y déplace en tirant des fils. C'est ce qui la rend bluffante — elle relie des idées qu'on n'aurait pas rapprochées — et c'est ce qui la rend faillible — elle plante parfois son drapeau dans le mauvais quartier sans le savoir.

Comprendre ça change la façon de s'en servir. On ne lui demande pas la vérité, on lui demande un trajet plausible sur sa carte — qu'il faut ensuite vérifier soi-même. C'est exactement le principe que je m'efforce d'appliquer dans mes propres outils : la machine propose un chemin, l'humain décide s'il est juste. La carte est utile à condition de ne jamais la confondre avec le territoire.

---

Cette explication est volontairement imagée : la « carte » est une métaphore de ce que les spécialistes appellent un espace de représentation (les mots y sont des points dans un espace à plusieurs centaines de dimensions). Le tableau réel est plus complexe, mais l'intuition — proximité, point d'équilibre, génération mot à mot, carte façonnée par les textes d'entraînement — est fidèle au fonctionnement.

Ce texte a été rédigé avec l'aide d'un assistant IA, à partir de mes explications et de mes choix de formulation. La métaphore et l'angle sont les miens ; l'outil a aidé à les mettre en forme. C'est, d'une certaine manière, cohérent avec le sujet : comprendre comment marche l'outil, c'est aussi savoir s'en servir sans lui laisser le volant.