Guide de terrain · octobre 2026

La fenêtre de contexte

Ce qu'un modèle peut voir, et comment le choisir
par Mat Siems
Partie I

Le rez-de-chaussée

Ce qu'est la fenêtre de contexte, et ce qu'elle n'est pas.

Chapitre 1 · Partie I

Le bureau, pas l'esprit

Bienvenue. Ceci est un guide de terrain consacré à la fenêtre de contexte : l'étendue de texte qu'un modèle de langage peut voir au moment où il vous répond. Il compte cent chapitres courts, chacun destiné à vous apprendre une chose utilisable dès cette semaine, que vous rédigiez le prompt système d'un chatbot, que vous branchiez un système de récupération documentaire ou que vous regardiez un agent de code dévorer une session. Le sujet a l'air technique. C'est surtout, en réalité, une affaire de choix.

Commençons par l'image qui vous épargnera le plus de déboires. Un modèle n'est pas un esprit qui se trouve être en train de vous parler. Il ressemble davantage à un employé de bureau très rapide et très cultivé, assis derrière un bureau. Sur ce bureau se trouve tout ce que vous y avez posé : vos instructions, la conversation jusqu'ici, les documents que vous avez collés, les résultats des outils qu'il a appelés. L'employé lit le bureau et rédige une réponse. C'est tout. Il n'y a pas de tiroir en dessous avec votre dernière conversation, pas de classeur rempli de vos préférences, pas de vague intuition de qui vous êtes. Ce qui n'est pas sur le bureau n'existe pas.

Cela paraît évident, jusqu'au moment où l'on remarque combien de gens se comportent comme si c'était faux. Ils demandent à un modèle d'utiliser le style dont on a convenu dans une conversation toute neuve. Ils supposent qu'il connaît le document dont ils ont parlé avec un collègue. Ils s'étonnent que l'agent qui a corrigé un bug hier n'ait aujourd'hui aucune idée de ce qu'il a corrigé. Rien de tout cela ne relève de l'oubli. Oublier suppose qu'on s'est un jour souvenu. Le modèle n'a jamais rien tenu d'autre que ce qu'il avait sous les yeux.

Le modèle ne sait pas ce que vous savez. Il sait ce que vous lui avez montré.

La conséquence utile, c'est que presque toute réponse décevante peut être ramenée au bureau. Soit il manquait quelque chose de nécessaire, soit quelque chose d'inutile l'encombrait, soit la bonne information s'y trouvait, mais enfouie là où personne ne la remarquerait. Ces trois échecs, l'absence, l'encombrement et l'enfouissement, sont le sujet de l'essentiel de ce livre. Ce sont aussi, et c'est heureux, des choses que vous maîtrisez. Vous ne pouvez pas changer la façon dont le modèle a été entraîné. Vous pouvez changer ce que vous lui tendez.

Voici donc le premier exercice, et il ne coûte rien. Prenez la dernière réponse d'un modèle qui vous a agacé. Avant d'accuser le modèle, notez exactement ce qui se trouvait sur son bureau à ce moment-là : le prompt système, chaque message, chaque fichier collé. Puis demandez-vous si un humain compétent, muni de cela et de rien d'autre, aurait fait mieux. Souvent, la réponse honnête est non. Le modèle n'était pas bête. Il était mal informé, ce qui est un mal au pronostic nettement plus favorable. Dressez le bureau, et l'employé fera presque tout le reste.

Ce que le modèle voit Si ce n'est pas sur le bureau, ça n'existe pas. SUR LE BUREAU Consignes prompt système Conversation jusqu'ici renvoyée à chaque tour Documents collés fichiers, passages Sorties d'outils commandes, recherches Le modèle lit, puis écrit Réponse rien que le bureau PAS SUR LE BUREAU dernier chat · vos préférences · correctif d'hier TROIS ÉCHECS DU BUREAU Absence utile, mais absent Fouillis inutile, gênant Enfouis présent, inaperçu
Fig. 1 · Le bureau, pas l'esprit. Le modèle ne répond qu'avec ce qui est sur son bureau ; absence, encombrement et enfouissement le gâchent.
Chapitre 2 · Partie I

Sans état, par construction

Un modèle de langage, au niveau où se fait l'arithmétique, est sans état. Chaque appel prend un bloc de texte en entrée et produit un bloc de texte en sortie, et une fois l'appel terminé, rien ne subsiste. Aucune impression ne s'attarde, aucune leçon n'est discrètement apprise, aucune rancune n'est gardée. L'appel suivant commence exactement aussi vierge que le premier. Ce n'est pas un oubli en attente de correctif. C'est la conception même, et elle est sensée.

Pensez à une calculatrice. Vous ne voudriez pas qu'elle se souvienne de votre dernière addition et s'appuie un peu dessus pour faire la suivante. Vous voulez que la même entrée produise le même genre de réponse, à chaque fois, pour tout le monde. L'absence d'état rend les modèles prévisibles à exploiter, faciles à déployer à grande échelle et sûrs à partager entre des millions de personnes qui préféreraient que leurs conversations ne débordent pas les unes sur les autres. Le prix à payer, c'est que tout ce qui ressemble à de la mémoire doit être construit autour du modèle, pas à l'intérieur.

Et on la construit, sans cesse. L'interface de chat qui semble se souvenir de vos messages précédents se contente de tous les renvoyer, à chaque tour. L'assistant qui se rappelle votre prénom a stocké une note quelque part et la recolle dans le contexte. L'agent de code qui reprend là où il s'était arrêté lit un fichier de progression qu'il a écrit la dernière fois. Chacun de ces dispositifs est de l'appareillage : un mécanisme qui fait passer hier en contrebande sur le bureau d'aujourd'hui. Quand il fonctionne, on dirait de la mémoire. Quand il tombe en panne, on voit la machinerie.

Tout ce dont un modèle semble se souvenir, quelqu'un a fait en sorte qu'on le lui redise.

Le savoir change votre façon de déboguer. Quand un assistant oublie une consigne au milieu d'une longue conversation, la question n'est pas pourquoi a-t-il oublié ?, mais la consigne était-elle encore envoyée, et pouvait-on encore la trouver ? Quand une fonction de mémoire ressort une information périmée, la question n'est pas pourquoi est-il perdu ?, mais de quel stockage cela vient-il, et qui l'a mis à jour en dernier ? Vous cessez de traiter le modèle comme une personne sujette à des absences pour traiter le système comme une plomberie qui fuit. La plomberie, ça se répare plus facilement.

Cela vous dit aussi où porter l'effort. Si vous voulez un comportement cohérent d'une session à l'autre, n'espérez pas que le modèle l'absorbe. Inscrivez-le dans quelque chose qui sera renvoyé de façon fiable : un prompt système, un fichier d'instructions, un profil enregistré. Si vous voulez qu'il sache ce qui s'est passé hier, consignez hier sous une forme qu'aujourd'hui saura lire. Le modèle ne le fera pas pour vous, sauf si vous construisez quelque chose qui s'en charge.

Il y a là une étrange liberté. Chaque session est un nouveau départ, ce qui signifie que chaque session peut être mieux préparée que la précédente. Le modèle n'apporte aucun bagage. Les seuls bagages présents dans la pièce sont ceux que vous avez faits.

La mémoire tient au dispositif, pas au modèle Util. vous Appli le dispositif Modèle sans état Stockage notes, profil APPEL 1 message 1 système + msg 1 réponse 1 rien ne survit noter APPEL 2 message 2 charger la note tout renvoyer + note réponse 2 Tout ce dont il semble se souvenir, quelqu'un a fait en sorte qu'on le lui redise.
Fig. 2 · Sans état, par construction. Deux appels : l'appli renvoie l'historique et les notes stockées, car le modèle ne garde rien.
Chapitre 3 · Partie I

Les tokens, unité de toute chose

Les modèles ne lisent pas des mots. Ils lisent des tokens, des jetons : des fragments de texte, souvent un mot court entier, parfois un morceau de mot plus long, parfois un simple signe de ponctuation ou une espace collée devant un mot. Un tokeniseur découpe votre texte en ces morceaux avant que le modèle ne voie quoi que ce soit, et chaque limite, chaque facture et chaque mesure de ce qui tient dans la fenêtre se comptent en tokens. Si vous travaillez avec le contexte, le token est votre unité, comme le gramme est celle du boulanger.

La règle approximative, pour de la prose anglaise, veut qu'un token vaille environ trois quarts de mot, si bien que mille mots donnent un peu plus de mille tokens. Cette règle se plie vite. Le code se découpe autrement que la prose, à cause de toutes ces accolades et de l'indentation. Les noms inhabituels, les longs nombres et les identifiants en snake case éclatent en une multitude de petits morceaux. Les langues autres que l'anglais, le français compris, coûtent souvent davantage de tokens pour le même sens. Les tableaux collés sous forme de texte, avec leurs barres verticales et leurs espaces de remplissage, peuvent se révéler étonnamment coûteux pour ce qu'ils disent. Un JSON profondément imbriqué dépense une somme surprenante en guillemets.

Inutile de mémoriser tout cela. Il vous faut l'habitude de mesurer plutôt que de deviner. La plupart des fournisseurs de modèles proposent un moyen de compter les tokens avant l'envoi, et la plupart des outils d'agents vous montrent le taux de remplissage de la fenêtre. Servez-vous-en. Ceux qui devinent sous-estiment presque toujours, parce qu'ils pensent en pages quand le modèle pense en fragments. Un document qui paraît court peut être volumineux ; un fichier journal qui ressemble à du bruit peut être énorme.

Comptez dans l'unité de la machine, ou laissez-vous surprendre par son arithmétique.

Il y a une seconde raison de s'en soucier. Les tokens ne sont pas seulement une limite : ils coûtent aussi du temps. Le modèle traite votre entrée et génère sa sortie token par token, si bien qu'un contexte plus long signifie des premières réponses plus lentes, et une sortie plus longue, des attentes plus longues. Un prompt deux fois plus long n'est pas simplement deux fois plus cher ; c'est deux fois plus de matière à lire pour le modèle avant de pouvoir commencer, et deux fois plus de matière qui se dispute son attention.

Alors, cette semaine, faites un petit audit. Prenez un prompt ou un message système dont vous vous servez souvent et comptez-le. Puis comptez-en les morceaux : les instructions, les exemples, le matériel de référence collé, le texte passe-partout que personne ne se souvient d'avoir ajouté. Vous trouverez presque à coup sûr une section qui coûte bien plus qu'elle ne rapporte. Cette section sera votre première coupe. Le but n'est pas la pingrerie pour elle-même. C'est de dépenser le budget à dessein, seule méthode qui ait jamais permis à quiconque de tenir un budget.

Tokens, pas mots Votre texte mots, code, tableaux Tokeniseur découpe en morceaux The ·refund _policy _v 2 ·applies . env. 3/4 de mot par token, en prose anglaise MÊME SENS, FACTURE PLUS LOURDE (ILLUSTRATIF) Prose anglaise la référence Code crochets, retraits noms snake_case plein de petits bouts Autres langues souvent plus Tableaux en texte barres et espaces JSON très imbriqué guillemets, niveaux Comptez dans l'unité de la machine, ou son arithmétique vous surprendra.
Fig. 3 · Les tokens, unité de toute chose. Un tokeniseur découpe le texte en morceaux ; code, tableaux et JSON coûtent plus pour un même sens.
Chapitre 4 · Partie I

La fenêtre a des bords

Chaque modèle possède un contexte maximal : le plus grand nombre de tokens qu'il peut absorber, réponse comprise, en un seul appel. Ces dernières années, ce plafond est passé de quelques pages à quelque chose comme une étagère de romans, et les plus grandes fenêtres contiennent désormais plus de texte que la plupart des gens n'en colleront jamais. On est tenté d'y voir la fin du problème. Si tout tient, pourquoi choisir ?

Parce que le bord s'est déplacé ; il n'a pas disparu. Il existe toujours une limite stricte, et les agents la trouvent plus vite qu'on ne le croirait. Une session de code qui lit quelques dizaines de fichiers, lance les tests une douzaine de fois et garde chaque résultat dans son historique peut remplir une très grande fenêtre en un après-midi. Un bot de support qui conserve des historiques de conversation entiers plus des documents de politique récupérés finira par heurter le mur avec ses clients les plus bavards et les plus furieux, c'est-à-dire précisément ceux face auxquels vous tenez le plus à ce qu'il se tienne bien. Quand la limite est atteinte, quelque chose doit céder : l'appel échoue, ou les éléments anciens sont abandonnés, ou le système les compacte en un résumé. Rien de tout cela n'arrive à un moment commode.

Il existe aussi un bord plus mou, qui compte davantage. Bien avant la limite stricte, la qualité commence à glisser. Un modèle à qui l'on demande d'exploiter un fait enfoui dans un contexte immense s'en sort moins bien que le même modèle à qui l'on donne ce fait dans un contexte court. Il est aussi plus lent et plus cher. La fenêtre pratique, celle où un modèle donne de façon fiable le meilleur de lui-même pour votre tâche, est donc plus petite que la fenêtre annoncée, parfois beaucoup plus. Vous ne trouverez pas ce chiffre sur une fiche technique. Vous le trouverez en testant.

La fenêtre annoncée est un plafond. La fenêtre utile est un plancher qu'il faut découvrir.

La bonne habitude consiste à traiter le maximum comme une réserve d'urgence, pas comme un objectif. Concevez votre système pour qu'une requête normale tienne confortablement dans une fraction de la fenêtre, en laissant de la place pour les longues conversations, les gros résultats d'outils et la réponse elle-même. Quand vous voyez des sessions approcher régulièrement du bord, prenez-le comme un signe de mauvaise conception plutôt que comme un problème de capacité. On garde quelque chose qu'on pourrait lâcher.

Et gardez un œil sur la jauge. La plupart des outils d'agents indiquent le remplissage de la fenêtre, en pourcentage ou sous forme de barre. Jetez-y un regard comme un conducteur regarde son niveau d'essence. Sans angoisse, sans obsession, mais assez souvent pour que le voyant ne soit jamais votre première alerte. Un plus grand réservoir, c'est charmant. Ce n'est pas une raison pour cesser de regarder la jauge.

Les deux bords de la fenêtre maximum annoncé : le plafond fenêtre utile : à tester une requête normale système historique sorties d'outils réponse marge bord souple : la qualité baisse bord dur AU BORD DUR, QUELQUE CHOSE CÈDE L'appel échoue erreur en cours Vieux tours retirés souvent en silence Compacté en un résumé Le maximum est une réserve, pas un objectif. Surveillez la jauge.
Fig. 4 · La fenêtre a des bords. La fenêtre utile se situe bien en deçà du maximum annoncé ; le bord dur casse tout.
Chapitre 5 · Partie I

Une conversation est un document

Un chat ressemble à une conversation : vous dites quelque chose, il dit quelque chose, chacun son tour. En dessous, c'est un document qui s'allonge d'une entrée à chaque tour et qui est relu en entier, depuis le début, chaque fois que le modèle répond. Le modèle ne poursuit pas une pensée qu'il avait il y a un instant. Il relit toute la transcription comme pour la première fois et rédige le paragraphe suivant.

Cela a des conséquences qui surprennent. La première est le coût. Le cinquantième tour ne coûte pas autant que le premier ; il coûte le prompt système, plus quarante-neuf tours d'historique, plus le nouveau message. Une longue conversation devient de plus en plus chère et de plus en plus lente, et rien dans l'interface ne vous le signale. La deuxième est la dérive. Tout ce que vous avez dit plus tôt figure toujours sur la page, y compris la consigne abandonnée, le brouillon rejeté et la digression sur le déjeuner. Le modèle n'a aucun moyen de savoir lesquels de ces éléments vous considérez comme clos, à moins que le document ne le dise.

La troisième conséquence est la plus utile. Puisque la transcription est un document, vous pouvez la modifier. Bien des outils vous permettent de changer un message antérieur et de régénérer à partir de là, ce qui efface la fausse route de l'historique au lieu d'empiler une correction par-dessus. Vous pouvez ouvrir une nouvelle conversation avec un résumé propre plutôt que de traîner derrière vous quarante tours d'exploration. Dans une application que vous construisez, c'est vous qui décidez exactement quel historique envoyer : tout, les quelques derniers tours, un résumé glissant, ou un résumé plus les derniers tours mot pour mot. Chacun de ces choix est un document différent, et le modèle se comportera différemment avec chacun.

Le modèle ne se souvient pas de la conversation. Il lit le procès-verbal.

Alors rédigez de bons procès-verbaux. Quand une conversation a erré et que vous avez enfin compris ce que vous voulez, dites-le clairement : ignore les brouillons précédents ; voici la commande. Mieux encore, ouvrez une session neuve et ne collez que cette commande. Quand vous corrigez le modèle, faites-le d'une manière qui aurait un sens pour quelqu'un lisant la transcription à froid, parce que c'est littéralement ce lecteur-là qui la lira. Et quand vous construisez un produit conversationnel, traitez l'historique comme quelque chose que vous assemblez à chaque tour, et non comme quelque chose qui s'accumule tout seul.

Il y a là une petite dignité comique. Le modèle est le lecteur de comptes rendus de réunion le plus consciencieux jamais construit. Il lit chaque ligne, à chaque fois, sans se plaindre. Il n'est simplement pas très doué pour deviner quels passages de la réunion comptaient. Cette partie-là, comme toujours, revient au président de séance.

La transcription, relue à chaque tour appel 1 système util. 1 lit 2 appel 2 système util. 1 réponse 1 util. 2 lit 4 appel 3 système util. 1 réponse 1 util. 2 réponse 2 util. 3 lit 6 coût, délai et dérive croissent à chaque tour CE QUE L'APPLI ENVOIE À CHAQUE TOUR Historique entier complet, cher, dérive Derniers tours bon marché, peut perdre le brief Résumé continu compact, perd du détail Résumé + tours récents un bon défaut Le modèle ne se souvient pas de la conversation. Il lit le compte rendu. pour corriger un faux pas : éditer et régénérer, ou repartir d'un brief propre
Fig. 5 · Une conversation est un document. Chaque appel relit toute la transcription, donc les applis choisissent quel historique envoyer.
Chapitre 6 · Partie I

Entrée et sortie partagent la pièce

La fenêtre de contexte ne sert pas qu'à ce que vous envoyez. La réponse du modèle doit y tenir, elle aussi. Si un modèle a un maximum donné et que votre prompt en occupe l'essentiel, il ne reste qu'une mince tranche pour la réponse, et celle-ci sera coupée, parfois au milieu d'une phrase, parfois au milieu d'une fonction. La fenêtre est une seule pièce, et la question comme la réponse doivent s'y tenir debout.

La plupart des API le rendent explicite avec une limite distincte sur la longueur de sortie, un nombre maximal de tokens que le modèle peut générer. Réglez-la trop bas et vous obtenez des réponses tronquées qui ont l'air complètes jusqu'au moment où, arrivé au bout, vous ne trouvez pas de fin. Réglez-la haut et vous laissez de la place, mais cette place est prise sur le même total. Dans les boucles d'agents, cela compte plus encore, parce que la sortie du modèle devient l'entrée du tour suivant. Un agent verbeux remplit sa propre fenêtre de ses propres commentaires, et dispose ensuite de moins d'espace pour lire les fichiers dont il a réellement besoin.

Il y a une subtilité de plus avec les modèles qui réfléchissent avant de répondre. Beaucoup de modèles actuels peuvent consacrer des tokens à une phase de raisonnement avant d'écrire la réponse visible, et cette réflexion est elle aussi du texte généré, avec un budget. Donnez trop peu de place à la réflexion sur un problème difficile et le modèle bâcle ; donnez-en trop sur un problème facile et vous payez une délibération dont personne n'avait besoin. Selon le système, la réflexion des tours précédents est conservée ou non dans les tours suivants. Dans les deux cas, elle fait partie du calcul, et vous devriez savoir comment vos outils la traitent.

Laissez de la place pour la réponse. C'est, après tout, pour elle que vous avez posé la question.

Les bonnes habitudes sont simples. Décidez à peu près quelle longueur devrait avoir une bonne réponse avant de demander, et réglez la limite de sortie avec de la marge au-dessus. Demandez la longueur voulue dans le prompt, car un modèle à qui l'on dit réponds en trois phrases s'y conformera en général, et vous épargnera du temps comme de la fenêtre. Quand il vous faut une sortie longue, un document complet ou un gros fichier, envisagez de la produire par sections, sur plusieurs appels, plutôt qu'en une génération héroïque qui risque de heurter le plafond. Et dans le travail d'agent, demandez des notes d'avancement laconiques plutôt qu'un commentaire continu ; l'agent n'a pas besoin de raconter ce qu'il ressent devant chaque fichier.

Guettez un symptôme en particulier : une réponse qui s'arrête net, ou une sortie structurée à laquelle manque son crochet fermant. Neuf fois sur dix, ce n'est pas le modèle qui perd ses moyens. C'est le modèle qui manque de place : un problème de configuration déguisé en problème de qualité.

Une pièce, deux locataires LE PROMPT REMPLIT LA PIÈCE système historique documents + prompt réponse réponse coupée en pleine phrase ; le JSON n'a jamais sa fermeture LAISSEZ DE LA PLACE À LA RÉPONSE système historique prompt réflexion réponse complète libre limite de sortie avec marge au-delà d'une bonne réponse EN BOUCLE D'AGENT, LA SORTIE DEVIENT ENTRÉE Sortie verbeuse commente chaque fichier Entrée du tour suivant la fenêtre se remplit Moins de place donc demandez du concis
Fig. 6 · Entrée et sortie partagent la pièce. Prompt, réflexion et réponse partagent une fenêtre ; gardez une marge ou la réponse est coupée.
Chapitre 7 · Partie I

Garbage in, toujours

La plus vieille règle de l'informatique veut qu'un programme nourri de déchets rende des déchets, avec efficacité. Les modèles de langage étaient censés faire exception. Ils pardonnent les fautes de frappe, se montrent généreux face aux demandes floues, savent tirer quelque chose de plausible de presque n'importe quoi. Et c'est bien le cas, ce qui explique précisément pourquoi la vieille règle se cache mieux aujourd'hui. Les déchets entrent toujours. Ils ressortent simplement présentables.

Voyez ce qui compte comme déchet dans une fenêtre de contexte. Des documents obsolètes, toujours rédigés avec assurance. Deux versions de la même politique, dont l'une a été remplacée. Un fil d'e-mails collé où la décision se trouve dans le onzième message, et où les messages un à dix plaident le contraire. Des passages récupérés qui partagent des mots-clés avec la question mais répondent à une autre. Une sortie d'outil pleine d'avertissements sans importance, avec au milieu la seule erreur qui compte. Rien de tout cela n'a l'air d'un déchet. Cela a l'air d'information. C'est ce qui le rend dangereux.

Un modèle à qui l'on remet ce matériau ne refusera pas, en général, et ne se plaindra pas. Il fera de son mieux, c'est-à-dire qu'il fondra ce qu'on lui a donné en une réponse fluide. Si l'ancienne et la nouvelle politique sont toutes deux présentes, vous aurez peut-être un élégant compromis qui ne correspond à aucune. Si la décision est enfouie sous la dispute, vous aurez peut-être la dispute. La sortie hérite de la qualité de ses entrées, puis y ajoute du vernis, si bien que les défauts arrivent bien habillés et qu'on les laisse passer sans y penser.

Un modèle ne nettoie pas vos entrées. Il les blanchit.

La défense n'a rien de glorieux : faites le tri avant d'envoyer. Retirez les documents remplacés au lieu d'espérer que le modèle remarquera la date. Quand vous collez un fil, ajoutez une ligne indiquant ce qui a finalement été décidé. Quand la récupération renvoie dix passages, vérifiez que les dix ont leur place. Préférez une source qui fait autorité à cinq sources qui se chevauchent. Quand quelque chose doit être inclus mais que sa qualité est douteuse, étiquetez-le comme tel : ceci est un brouillon de l'an dernier et peut être faux. Une étiquette ne coûte rien, et le modèle s'en servira.

Puis mettez l'affirmation à l'épreuve. Prenez une tâche qui produit des réponses moyennes et essayez-la deux fois : une fois avec tout ce que vous incluriez d'ordinaire, une fois avec uniquement ce qu'un expert soigneux vous remettrait. D'après mon expérience, la seconde version est souvent meilleure et presque jamais pire, et elle est toujours moins chère. La vieille règle n'a jamais été abrogée. Elle a seulement appris à bien parler.

Déchets en entrée, vernis en sortie TEL QU'ENVOYÉ Politique périmée Ancienne et nouvelle Décision enfouie (msg 11) Passages presque bons Modèle mélange tout Réponse soignée défauts bien habillés TRIÉ D'ABORD Politique actuelle seule Fil + décision prise Passages vérifiés Élément douteux, signalé Modèle utilise ce qui est là Réponse fondée moins cher, souvent mieux Un modèle ne nettoie pas vos entrées. Il les blanchit.
Fig. 7 · Garbage in, toujours. Des entrées non vérifiées donnent une réponse soignée ; des entrées triées, une réponse fondée.
Chapitre 8 · Partie I

Le prompt n'a jamais suffi

Pendant un temps, le métier s'est appelé « prompt engineering », l'ingénierie du prompt, et il se concentrait sur la formulation. Quels mots faisaient bien se tenir le modèle. S'il fallait dire s'il vous plaît. S'il fallait lui dire qu'il était un expert. Certaines de ces astuces ont marché le temps d'une saison et quelques-unes aident encore à la marge, mais le nom a toujours désigné la plus petite part du travail. Le prompt n'est qu'un paragraphe sur le bureau. Le bureau, c'est tout le travail.

Le glissement de vocabulaire de ces deux dernières années, de l'ingénierie du prompt à l'ingénierie du contexte, n'est pas un simple changement d'étiquette. Il reflète ce que les praticiens ont découvert dès que les modèles ont servi à du vrai travail. La différence entre un assistant médiocre et un excellent tient rarement à la formulation de la demande. Elle tient à ceci : les bons documents ont-ils été récupérés, l'historique de la conversation a-t-il été élagué intelligemment, les sorties d'outils étaient-elles lisibles, les instructions permanentes étaient-elles à jour, et l'un ou l'autre de ces éléments contredisait-il le reste ? Une question superbement tournée, posée sur un bureau en désordre, obtient tout de même une réponse en désordre.

L'ingénierie du contexte, c'est donc la pratique qui consiste à décider de ce que le modèle voit à chaque appel. Elle comprend le prompt, mais aussi tout ce qui s'assemble autour : instructions système, mémoire, matériel récupéré, définitions d'outils, résultats d'outils, exemples et historique. Chacun de ces éléments a ses propres modes de défaillance et ses propres techniques, et c'est pourquoi ce livre consacre une partie à la plupart d'entre eux. Ces compétences recoupent de vieux métiers. Une part relève de l'édition. Une part relève de l'architecture de l'information. Une part relève tout bonnement de la conception de systèmes, avec des tokens au lieu d'octets.

Le prompt, c'est ce que vous dites. Le contexte, c'est tout ce que le modèle entend.

Rien de tout cela ne signifie que la formulation est sans importance. Une demande claire vaut mieux qu'une demande confuse, et des chapitres ultérieurs expliquent comment rédiger des consignes qu'un modèle peut suivre. Mais la formulation, ce sont les dix derniers pour cent. Si vous vous surprenez à reformuler la même question pour la cinquième fois en espérant une meilleure réponse, arrêtez-vous et regardez plutôt le reste du bureau. Le problème ne se trouve généralement pas dans la phrase que vous ne cessez de changer. Il se trouve dans le matériau que vous n'avez jamais regardé.

Le test pratique consiste à se demander, devant toute interaction décevante : qu'est-ce que le modèle avait réellement ? Pas ce que vous vouliez dire, pas ce que vous supposiez qu'il savait, mais le contexte assemblé, littéralement. La plupart des outils vous le montreront si vous le demandez. La première fois que vous en lirez un attentivement, vous y trouverez probablement la réponse à votre problème, écrite là, sous la forme de quelque chose qui manque.

Le prompt n'est qu'un objet sur le bureau CONTEXTE : TOUT CE QUI EST ASSEMBLÉ POUR CET APPEL Règles système consignes permanentes Mémoire notes stockées Docs récupérés passages Définitions d'outils ce qu'il peut appeler Sorties d'outils ce qui est revenu Exemples à quoi ressemble le bon Historique tours passés Le prompt ce que vous dites D'OÙ VIENT LA QUALITÉ sélection, élagage, structure, fraîcheur mots Le prompt, c'est ce que vous dites. Le contexte, c'est tout ce que le modèle entend.
Fig. 8 · Le prompt n'a jamais suffi. Le prompt est l'une des huit choses assemblées en contexte ; la formulation est le moindre levier.
Chapitre 9 · Partie I

Contexte est un verbe

Il est naturel de parler du contexte comme d'une chose : le contexte, comme s'il s'agissait d'un paquet fixe qu'on joint à une requête. En pratique, il se comporte plutôt comme une activité. À chaque appel, quelque chose doit décider de ce qui entre et de ce qui reste dehors. Cette décision est prise soit par vous, délibérément, soit par des réglages par défaut que personne n'a choisis. Dans un cas comme dans l'autre, elle est prise, à chaque fois.

Regardez ce qui se passe dans une session d'agent typique. Au premier tour, le contexte se compose d'un prompt système, de quelques instructions et de votre demande. Au dixième tour, il comprend les fichiers que l'agent a lus, les commandes qu'il a lancées et leur sortie. Au trentième tour, il a peut-être compacté le début de l'historique en un résumé, laissé tomber certains résultats d'outils et intégré de nouveaux documents. Personne ne s'est assis pour concevoir le contexte du trentième tour. Il s'est assemblé tout seul, par une série de petites décisions prises par le code, par l'agent et par vous. La qualité de la session dépend fortement de ces décisions, et c'est pourquoi il est payant d'en prendre quelques-unes exprès.

Penser le contexte comme un verbe change les questions que vous posez. Au lieu de quel est le contexte de cet assistant ?, vous demandez que devrait voir cet assistant maintenant, face à cette demande ? Au lieu de charger un paquet fixe de documents au départ, vous allez chercher les documents pertinents au moment où ils le deviennent. Au lieu de tout garder indéfiniment, vous décidez à chaque étape de ce qui mérite de rester. C'est la posture de conception qui sous-tend la plupart des techniques de ce livre : récupération, compaction, sous-agents, chargement juste à temps. Chacune est une manière de contextualiser à neuf plutôt que d'accumuler à l'aveugle.

Le contexte n'est pas ce que vous avez. C'est ce que vous choisissez, encore, à chaque tour.

Pour ceux qui construisent des systèmes, la tâche consiste à repérer le code où le contexte est assemblé et à le rendre explicite. Quelque part, une fonction, un gabarit ou un réglage par défaut du framework décide de ce que contient chaque appel. Trouvez-le. Journalisez ce qu'il produit. Lisez quelques exemples. Bien des équipes découvrent que leur assemblage de contexte n'a jamais été relu par personne, parce qu'il a été écrit à la va-vite une fois puis laissé tourner. Il mérite le même soin que n'importe quel autre chemin critique du code.

Pour ceux qui se contentent d'utiliser des assistants, la tâche est plus modeste et tout aussi utile. Avant une longue session, demandez-vous de quoi le modèle a besoin pour l'étape suivante, et non pour tout le projet. Donnez-lui cela. Quand l'étape change, changez ce qu'il voit. C'est un peu plus d'effort par tour et beaucoup moins de confusion par heure. Le contexte, c'est quelque chose qu'on fait. Faites-le exprès.

Le contexte s'assemble seul, sauf si vous choisissez prompt système consignes votre demande prompt système consignes demande fichiers lus sortie de commande sortie de commande prompt système consignes résumé des tours nouveaux documents sorties d'outils dernière demande prompt système brief de l'étape les deux fichiers utiles demande tour 1 choisi par : défauts tour 10 choisi par : code + agent tour 30 choisi par : code + agent tour suivant choisi par : vous, exprès Le contexte n'est pas ce que vous avez. C'est ce que vous choisissez, à chaque tour.
Fig. 9 · Contexte est un verbe. Par défaut, le contexte dérive de tour en tour ; le tour suivant peut être assemblé exprès.
Chapitre 10 · Partie I

La première discipline

S'il fallait réduire ce livre à une seule compétence, ce serait la soustraction. Presque tous les réflexes du débutant face à une fenêtre de contexte sont additifs. La réponse était faible, alors on ajoute des instructions. Le modèle a raté quelque chose, alors on ajoute des documents. Il a oublié une règle, alors on la répète en majuscules. Chaque ajout donne le sentiment d'agir en responsable. Mis bout à bout, ils ensevelissent la demande sous une pile de matériaux bien intentionnés, et l'attention du modèle, qui n'est pas illimitée, s'étale un peu plus mince à chaque couche.

La soustraction pose une question plus difficile : qu'est-ce qui peut sortir ? Quelles instructions sont désormais hors sujet, redondantes ou contredites ailleurs ? Quels documents récupérés sont des quasi-réponses ? Quelles parties de l'historique sont des affaires classées ? Quelles sorties d'outils ont été utiles un jour et ne sont plus que du bruit ? Les retirer n'est pas de la paresse. C'est l'acte qui rend lisible le matériau restant, comme un bon éditeur renforce un essai en coupant son paragraphe le plus faible.

C'est aussi assez contre-intuitif pour que les équipes y résistent. Un long prompt système paraît rigoureux ; un court paraît négligent. Un système de récupération qui renvoie vingt passages paraît plus sûr qu'un système qui en renvoie quatre. Mais les modèles, comme les gens, travaillent mieux quand le signal est clair. Davantage de contexte aide quand le matériau supplémentaire est pertinent et bien organisé. Quand il est simplement disponible, il coûte surtout de l'argent, du temps et de la justesse.

Le meilleur contexte n'est pas le plus complet. C'est le plus choisi.

Faites de la soustraction une routine plutôt qu'une humeur. Quand vous révisez un prompt système, essayez de supprimer une section et lancez vos tests ; si rien ne se dégrade, laissez-la dehors. Quand vous mettez en place la récupération, commencez avec moins de résultats et n'en ajoutez que lorsque l'évaluation montre un gain. Dans les longues sessions d'agent, videz ou compactez quand l'historique cesse d'être utile, pas quand la fenêtre est pleine. Pour les fichiers d'instructions, prévoyez un élagage de temps en temps, parce qu'ils grossissent par sédimentation et que personne ne retire jamais la ligne sur la base de données que vous avez quittée il y a deux ans.

C'est le rez-de-chaussée sur lequel repose le reste du livre. Les parties suivantes expliqueront comment le modèle lit, comment rédiger des consignes permanentes, comment gérer la mémoire et la récupération, comment les outils et les agents remplissent la fenêtre, et ce qui tourne mal quand personne ne choisit. Sous tout cela, la même discipline. Mettez ce dont la tâche a besoin. Laissez dehors ce dont elle n'a pas besoin. Puis regardez de nouveau, car ce dont la tâche a besoin a probablement changé. La fenêtre est un cadeau. Le fouillis est la façon dont on le refuse.

La soustraction, première discipline Tout ce qu'on pourrait ajouter moins consignes hors sujet moins documents presque bons moins historique clos moins sorties d'outils périmées Ce dont la tâche a besoin EN FAIRE UNE ROUTINE Supprimer, puis tester pas pire ? laissez-le Moins de résultats n'ajoutez que sur preuve Compacter tôt quand l'historique n'aide plus Élaguer à date fixe les fichiers s'accumulent Le meilleur contexte n'est pas le plus complet. C'est le mieux choisi.
Fig. 10 · La première discipline. La soustraction retire le périmé, le dupliqué et le presque-bon jusqu'à ne garder que l'utile.
Extrait gratuit · Partie I

Continuer la lecture

Vous avez lu les 10 premiers chapitres sur 100 de La fenêtre de contexte. Le livre complet contient chaque chapitre et chaque planche, en PDF et EPUB, en anglais, français, polonais et espagnol.

Le livre complet arrive bientôt dans la boutique.

Déjà acheté ? Lire l’édition complète en ligne

La fenêtre de contexte · Première édition, octobre 2026
100 chapitres · 10 parties · cent schémas
par Mat Siems · MS Books, No. 14 · 2026