Un assistant qui répond vite n’est pas un assistant qui comprend

Avatar de Yohan Trescarte

·

4 min de lecture

La rapidité d’une réponse ne dit rien de la compréhension qui l’a produite. Un grand modèle de langage ne « sait » pas ce qu’on lui a écrit dix messages plus tôt de la même façon qu’un interlocuteur humain s’en souviendrait : il relit, à chaque tour de conversation, tout ce qui tient dans sa fenêtre de contexte, puis il calcule la suite la plus probable. Passé un certain volume d’échanges, le début de la conversation sort tout simplement du champ, comme une page qu’on aurait tournée sans pouvoir revenir en arrière.

Une mémoire qui a une taille, pas une durée

Cette fenêtre de contexte se mesure en jetons — des fragments de mots — et non en minutes. Un modèle annoncé avec une fenêtre large peut lire l’équivalent d’un roman entier d’un coup ; un modèle plus modeste oublie une consigne donnée quelques échanges plus tôt, non par mauvaise volonté, mais parce qu’elle a littéralement quitté l’espace qu’il peut encore consulter. C’est ce qui explique ce sentiment familier : l’assistant, brillant sur une question isolée, se contredit ou repart de zéro sur une conversation longue, en particulier quand elle a mêlé plusieurs sujets.

Ce fonctionnement a une conséquence pratique que l’on sous-estime souvent : plus une consigne est ancienne dans l’échange, plus elle risque d’être diluée par tout ce qui a été dit depuis. Répéter une contrainte importante — un format de réponse, une limite à ne pas dépasser — n’est donc pas une maladresse de débutant, c’est une manière de la remettre dans le champ de vision du modèle au bon moment.

Reformuler change la réponse, pas seulement la question

Un deuxième malentendu porte sur la reformulation. Poser la même question avec des mots différents ne revient pas à demander « la même chose » pour un modèle de langage : chaque tournure de phrase déplace légèrement le calcul de probabilité qui produit la réponse suivante. C’est pour cela qu’une question mal comprise s’améliore souvent moins en insistant qu’en la découpant : préciser le public visé, le format attendu, ou l’exemple dont on s’inspire, donne au modèle des points d’appui plus solides que la simple répétition.

Cette sensibilité à la formulation a un revers utile à connaître : un assistant peut donner une réponse assurée à une question ambiguë, sans jamais signaler le doute. Il ne « sait » pas qu’il ne sait pas ; il complète, avec la même fluidité de ton, une phrase plausible que la question ait un sens clair ou non. La confiance apparente du style n’est donc jamais une preuve de justesse — un point qui vaut particulièrement quand la réponse porte sur des données personnelles ou des démarches sensibles, où l’on gagnera à croiser la réponse avec une source vérifiée, par exemple sur les questions de sécurité numérique abordées par ailleurs dans nos pages.

Ce que cela change dans l’usage quotidien

Au fil de nos échanges avec ces outils, une habitude simple change beaucoup de choses : traiter chaque nouvelle conversation comme une page blanche plutôt que comme la suite naturelle de la précédente, surtout après une pause de plusieurs heures. Rouvrir un fil ancien pour y greffer un sujet différent revient à demander au modèle de faire cohabiter deux mémoires dans un espace limité — et c’est souvent là que naissent les réponses les plus décevantes.

Une autre habitude utile consiste à résumer soi-même, en deux ou trois phrases, les éléments essentiels d’un échange avant de le poursuivre sur une nouvelle question : cette synthèse, courte et récente, pèse bien plus dans le calcul du modèle qu’un détail énoncé cent messages plus tôt. Elle a aussi un effet secondaire bienvenu pour l’utilisateur lui-même, qui clarifie ce qu’il attend vraiment avant de continuer. À l’inverse, empiler des questions sans jamais faire ce point d’étape revient à espérer qu’un interlocuteur garde en tête, sans aucun rappel, tout ce qui a été dit depuis le début d’une longue discussion — une attente que l’on n’aurait pas non plus envers une personne réelle.

Comprendre la mécanique — une fenêtre qui se remplit, un calcul qui privilégie ce qui est proche plutôt que ce qui est ancien — ne rend pas ces outils moins utiles. Cela évite seulement de leur prêter une mémoire qu’ils n’ont pas, et d’attendre d’eux une constance qu’aucun modèle de langage actuel ne peut garantir sur une conversation longue. Pour qui veut aller plus loin sur ce que recouvre exactement un grand modèle de langage, l’article correspondant de Wikipédia pose clairement les bases techniques du sujet.


Avatar de Yohan Trescarte

À lire aussi