Premièrment, cette histoire de contexte apparaît aussi à sa manière quand on se confronte à une oeuvre du passé : là aussi l'usage est désarrimé pour flotter, anachronique, par-devant nous et nos pratiques de langages contemporaines.
Deuxièmement, quand je discute avec un fou, ou bien un idiot (ce n'est pas la même chose, et cela ne se ramène pas non plus au problème que vous exposez) je vis quelque chose d'assez analogue, une déprise complète sur le contexte que je suppose ou présuppose au dialogue dans lequel je m'investis, superficiellement ou pas.
Pour ces deux raisons déjà, je ne trouve pas qu'il y ait lieu de considérer les LLM comme d'une altérité bien nouvelle sur cette question du sens.
Je vois ce que vous voulez dire. Il est vrai que lorsqu’on lit une œuvre ancienne, son langage se détache de son contexte d’origine et se réinscrit dans le nôtre. Il est vrai aussi que face à un fou ou à un idiot -deux acceptions qui ne se recouvrent pas- ou plus largement face à quelqu’un dont la perception du réel est profondément altérée, l’échange peut produire une impression de flottement, une perte des repères habituels du dialogue.
Mais dans ces situations, il y a toujours quelque chose derrière les mots. Une intention, une histoire, une tentative - aussi décalée soit-elle- de dire quelque chose depuis une forme de vie, un ancrage dans un monde. Un texte ancien appartient à une trajectoire, il porte les marques d’un contexte, d’un auteur, d’une nécessité. Un individu en rupture avec nos cadres partagés de référence, lui aussi, parle encore depuis quelque part, avec des affects, des obsessions, une manière d’être au monde, même si elle peut nous échapper.
Un LLM, en revanche à mon sens, ne parle de rien. Il produit un langage fonctionnel, mais sans origine. Il ne convoque ni passé, ni ne poursuit aucune pensée, n’exprime ni désir ni trouble. Il aligne des mots qui semblent tenir debout uniquement parce qu’ils respectent des probabilités ou des enchaînements qui font sens pour le lecteur. Ce n’est pas seulement un flottement du contexte, c’est une absence totale de référence vécue. Peut-être est-ce là un nouveau jeu de langage ancrée dans une nouvelle ou une autre forme de vie ? En cela oui ça ne constitue peut-être pas une altérité nouvelle. Vous avez certainement raison.
Le sens naît de la "contextualisation" des mots, et les LLM excellent dans cette tâche. Même sans compréhension propre, ils produisent un sens "fonctionnel" pour l’utilisateur.
Si le sens est une construction contextuelle, alors les LLM créent bel et bien du sens, même sans conscience.
Une remarque : il faut aussi tenir compte de la variété de nos usages du langage.
Il y a un usage purement fonctionnel : « fait il beau dehors ? », « passe moi le marteau ».
Un usage purement relationnel : la conversation chez le coiffeur ou avec une personne sénile, dans ce contexte le sens de nos phrases à moins d’importance que le fait de manifester notre lien. On parle pour rester en contact (comme le défenseur au basket qui garde une main au contact de l’adversaire qu’il tente de marquer).
Et un usage porté par l’intention de transmette ou de rechercher un sens.
Sur l’aspect fonctionnaliste, l’usage des LLM semble très approprié et ne change pas grand chose : entre cliquer sur la météo ou demander s’il fait chaud dehors ce n’est qu’une ergonomie différente d’une même fonction. Même la commande « réécrit mon texte dans le style de Maylis de Kerangal » me semble tout à fait fonctionnel et juste. On utilise sans ambiguïté une machine à langage.
Les deux autres usages posent eux d’avantage question par l’aspect factice de l’agent conversationnel numérique. Mais dans le deuxième usage, pour lequel le langage n’est qu’un prétexte à l’échange, pas besoin de LLM pour être dans un usage factice : certaines conversations de café ou de réseau sociaux ne sont que des semblances de relations.
Au final, il me semble que votre texte questionne moins les LLM que l’expérience de l’interface conversationnelle. Toute interface homme machine porte cette ambiguïté : cliquer sur un bouton vert sous un picto souriant à la sortie des toilettes de l’aéroport nous fait croire à l’expression d’une émotion positive alors que nous n’avons affaire qu’à une froide collecte de données.
Vous avez certainement raison. Ce sont des points morts de mon texte. Je pense quand même que ces utilisations de langage sont ancrés dans des formes de vie et qu'ils sont eux aussi des jeux de langage, tels compris ici.
La question serait peut-être alors de se demander si nos échanges homme/machine à travers des LLM ne deviennent pas de nouveaux jeux langage ? J'enfonce une porte ouverte... Et pourtant.
Franchement je ne suis pas convaincu.
Premièrment, cette histoire de contexte apparaît aussi à sa manière quand on se confronte à une oeuvre du passé : là aussi l'usage est désarrimé pour flotter, anachronique, par-devant nous et nos pratiques de langages contemporaines.
Deuxièmement, quand je discute avec un fou, ou bien un idiot (ce n'est pas la même chose, et cela ne se ramène pas non plus au problème que vous exposez) je vis quelque chose d'assez analogue, une déprise complète sur le contexte que je suppose ou présuppose au dialogue dans lequel je m'investis, superficiellement ou pas.
Pour ces deux raisons déjà, je ne trouve pas qu'il y ait lieu de considérer les LLM comme d'une altérité bien nouvelle sur cette question du sens.
Je vois ce que vous voulez dire. Il est vrai que lorsqu’on lit une œuvre ancienne, son langage se détache de son contexte d’origine et se réinscrit dans le nôtre. Il est vrai aussi que face à un fou ou à un idiot -deux acceptions qui ne se recouvrent pas- ou plus largement face à quelqu’un dont la perception du réel est profondément altérée, l’échange peut produire une impression de flottement, une perte des repères habituels du dialogue.
Mais dans ces situations, il y a toujours quelque chose derrière les mots. Une intention, une histoire, une tentative - aussi décalée soit-elle- de dire quelque chose depuis une forme de vie, un ancrage dans un monde. Un texte ancien appartient à une trajectoire, il porte les marques d’un contexte, d’un auteur, d’une nécessité. Un individu en rupture avec nos cadres partagés de référence, lui aussi, parle encore depuis quelque part, avec des affects, des obsessions, une manière d’être au monde, même si elle peut nous échapper.
Un LLM, en revanche à mon sens, ne parle de rien. Il produit un langage fonctionnel, mais sans origine. Il ne convoque ni passé, ni ne poursuit aucune pensée, n’exprime ni désir ni trouble. Il aligne des mots qui semblent tenir debout uniquement parce qu’ils respectent des probabilités ou des enchaînements qui font sens pour le lecteur. Ce n’est pas seulement un flottement du contexte, c’est une absence totale de référence vécue. Peut-être est-ce là un nouveau jeu de langage ancrée dans une nouvelle ou une autre forme de vie ? En cela oui ça ne constitue peut-être pas une altérité nouvelle. Vous avez certainement raison.
Merci. J’inclus le lien vers ta newsletter dans ma veille.
Merci !
Excellent article et éclairage Olivier ! Merci
Le sens naît de la "contextualisation" des mots, et les LLM excellent dans cette tâche. Même sans compréhension propre, ils produisent un sens "fonctionnel" pour l’utilisateur.
Si le sens est une construction contextuelle, alors les LLM créent bel et bien du sens, même sans conscience.
Très éclairant ,
Une remarque : il faut aussi tenir compte de la variété de nos usages du langage.
Il y a un usage purement fonctionnel : « fait il beau dehors ? », « passe moi le marteau ».
Un usage purement relationnel : la conversation chez le coiffeur ou avec une personne sénile, dans ce contexte le sens de nos phrases à moins d’importance que le fait de manifester notre lien. On parle pour rester en contact (comme le défenseur au basket qui garde une main au contact de l’adversaire qu’il tente de marquer).
Et un usage porté par l’intention de transmette ou de rechercher un sens.
Sur l’aspect fonctionnaliste, l’usage des LLM semble très approprié et ne change pas grand chose : entre cliquer sur la météo ou demander s’il fait chaud dehors ce n’est qu’une ergonomie différente d’une même fonction. Même la commande « réécrit mon texte dans le style de Maylis de Kerangal » me semble tout à fait fonctionnel et juste. On utilise sans ambiguïté une machine à langage.
Les deux autres usages posent eux d’avantage question par l’aspect factice de l’agent conversationnel numérique. Mais dans le deuxième usage, pour lequel le langage n’est qu’un prétexte à l’échange, pas besoin de LLM pour être dans un usage factice : certaines conversations de café ou de réseau sociaux ne sont que des semblances de relations.
Au final, il me semble que votre texte questionne moins les LLM que l’expérience de l’interface conversationnelle. Toute interface homme machine porte cette ambiguïté : cliquer sur un bouton vert sous un picto souriant à la sortie des toilettes de l’aéroport nous fait croire à l’expression d’une émotion positive alors que nous n’avons affaire qu’à une froide collecte de données.
Vous avez certainement raison. Ce sont des points morts de mon texte. Je pense quand même que ces utilisations de langage sont ancrés dans des formes de vie et qu'ils sont eux aussi des jeux de langage, tels compris ici.
La question serait peut-être alors de se demander si nos échanges homme/machine à travers des LLM ne deviennent pas de nouveaux jeux langage ? J'enfonce une porte ouverte... Et pourtant.
Il faut bien sûr lire "angles morts" et non "points morts" ; et ajouter "que" à "tel compris ici"
Superbe article Olivier
Cela me fait penser a Jankélévitch et son malentendu dans la conversation
Il disait que c'était comme le jeu d'une porte
Et que sans jeu la porte ne pouvait ni s'ouvrir ni se fermer
Ce malentendu créé aussi parce que l'on pense le plus souvent à ce qu on va dire au lieu d'écouter l'autre
Ce malentendu subsiste peut être encore dans les hallucinations des LLM
Essayons de ne converser qu avec les hallucinations des LLM !
Merci Jean-Yves
Il y a de ça en effet. Et pour jouer au jeu de la porte, il faut connaitre le fonctionnement de la serrure et de la poignée.