Définition & Concepts

Context Window (Fenêtre de contexte LLM)

Version Décideur

L'essentiel

Le context window c'est la 'mémoire de travail' d'une IA en une seule conversation. Plus elle est grande, plus l'IA peut prendre en compte de contexte d'un coup. En 2023 on était limités à ~4 000 mots (8k tokens), aujourd'hui on a 1 million de tokens (Claude Opus 4.7, Mistral 1M MoE). Concrètement : tu peux lui injecter un livre entier, un repository de code, ou tous les documents d'un dossier client en une seule fois.

Version Expert

Détails Techniques

Le context window (fenêtre de contexte) désigne le nombre maximum de tokens qu'un LLM peut traiter en une seule requête, en incluant l'input (prompt + données injectées RAG + historique conversation) ET l'output généré. Mesuré en tokens (~0,75 mot anglais ou ~0,5 mot français). Évolution 2023-2026 : GPT-3.5 (4k), GPT-4 (8k-32k), Claude 2 (100k), GPT-4 Turbo (128k), Claude 3.5 Sonnet (200k), Gemini 1.5 Pro (1M-2M), Claude 4.7 Opus (1M context window 2026), Mistral Large 2 (128k natif, 1M en MoE). Impact direct sur : RAG efficace, conversation longue, analyse documents volumineux, code review massif.

#Définition Context Window (Fenêtre de contexte LLM)

D'un point de vue métier, Évolution 2023-2026 : GPT-3.5 (4k), GPT-4 (8k-32k), Claude 2 (100k), GPT-4 Turbo (128k), Claude 3.5 Sonnet (200k), Gemini 1.5 Pro (1M-2M), Claude 4.7 Opus (1M context window 2026), Mistral Large 2 (128k natif, 1M en MoE). Impact direct sur : RAG efficace, conversation longue, analyse documents volumineux, code review massif.

On voit trop de projets échouer par méconnaissance de Context Window (Fenêtre de contexte LLM). La théorie compte — mais la mise en pratique encore plus.

#Context Window (Fenêtre de contexte LLM) expliqué simplement

Imaginez que vous dirigez une PME ou une scale-up. C'est exactement ce type de situation que Nehos rencontre chaque semaine chez ses clients.

#Cas d'usage concrets

Audit code legacy ERP 250 000 lignes — éditeur SaaS B2B — Audit de modernisation d'un ERP interne (250 000 lignes Java + 80 000 lignes SQL) injecté en un seul prompt Claude 4.7 Opus 1M tokens. Détection automatisée de 1 240 anti-patterns, 87 vulnérabilités de sécurité et 320 candidats au refactoring. Restitution en 1 conversation au lieu de 6 semaines d'audit manuel découpé module par module. Retrouvez le détail dans cas banque mutualiste — copilote IA 1 200 conseillers avec context window 128k et RAG OVH SecNumCloud.

Analyse contractuelle 800 documents juridiques — direction juridique groupe industriel — Mistral Large 2 architecture MoE 1M tokens utilisé pour ingérer 800 contrats fournisseurs (NDA, MSA, SLA, avenants) en une seule conversation. Extraction homogène des clauses critiques (limitation de responsabilité, propriété intellectuelle, sortie, exclusivité), comparaison croisée et identification de 47 contrats non conformes au nouveau standard groupe. Gain estimé : 9 ETP-mois sur l'audit complet.

Audit AI Act compliance — 50 documents PDF mission Nehos — Mission Nehos d'audit AI Act pour une compagnie d'assurance : 50 PDF de documentation produit, fiches de risque, journaux d'exploitation et politiques internes injectés en une seule requête Claude 4.7 Opus 1M. Cartographie complète des systèmes d'IA en exploitation, qualification du niveau de risque AI Act, identification des écarts de conformité documentaire à combler avant échéance 2027.

#Context Window (Fenêtre de contexte LLM) chez Nehos Groupe

Chez Nehos Groupe, on ne se contente pas de théoriser. Sur les 3 derniers projets impliquant Context Window (Fenêtre de contexte LLM), on a documenté les résultats avec des KPIs précis. Notre service IA générative et LLM souverain France (cadrage context window et RAG pour entreprise) couvre ce périmètre de A à Z.

La méthode Nehos est documentée sur méthode Stack Souveraine Nehos™ (RAG + Qdrant + LLM long context sur OVHcloud SecNumCloud). Chaque mission démarre par un cadrage structuré : objectifs chiffrés, périmètre technique, jalons à 30/60/90 jours. Les résultats mesurés sur nos clients : 6 semaines est un ordre de grandeur courant. On livre, on mesure, on itère. Pas de slides sans livrable. Voir aussi : service souveraineté numérique responsable Nehos (LLM, AI Act, hébergement souverain).

#Termes associés

Ce terme s'inscrit dans un écosystème plus large.

Chaque terme est défini dans notre glossaire avec la même approche : définition technique, vulgarisation, cas concrets et méthode Nehos.

Applications Concrètes

Contexte : Audit code legacy ERP 250 000 lignes — éditeur SaaS B2B

"Audit de modernisation d'un ERP interne (250 000 lignes Java + 80 000 lignes SQL) injecté en un seul prompt Claude 4.7 Opus 1M tokens. Détection automatisée de 1 240 anti-patterns, 87 vulnérabilités de sécurité et 320 candidats au refactoring. Restitution en 1 conversation au lieu de 6 semaines d'audit manuel découpé module par module."

Contexte : Analyse contractuelle 800 documents juridiques — direction juridique groupe industriel

"Mistral Large 2 architecture MoE 1M tokens utilisé pour ingérer 800 contrats fournisseurs (NDA, MSA, SLA, avenants) en une seule conversation. Extraction homogène des clauses critiques (limitation de responsabilité, propriété intellectuelle, sortie, exclusivité), comparaison croisée et identification de 47 contrats non conformes au nouveau standard groupe. Gain estimé : 9 ETP-mois sur l'audit complet."

Contexte : Audit AI Act compliance — 50 documents PDF mission Nehos

"Mission Nehos d'audit AI Act pour une compagnie d'assurance : 50 PDF de documentation produit, fiches de risque, journaux d'exploitation et politiques internes injectés en une seule requête Claude 4.7 Opus 1M. Cartographie complète des systèmes d'IA en exploitation, qualification du niveau de risque AI Act, identification des écarts de conformité documentaire à combler avant échéance 2027."

Questions & Réponses

Questions fréquentes sur le context window LLM

Le context window est une caractéristique du modèle : c'est sa capacité physique de traitement en une requête (4k, 128k, 1M tokens). Le RAG (Retrieval-Augmented Generation) est une architecture applicative qui sélectionne, à la volée, les passages les plus pertinents d'une base documentaire externe pour les injecter dans ce context window. En clair : le context window est le contenant ; le RAG est la logique qui décide quoi y mettre. Un grand context window ne remplace pas un RAG bien conçu, il en facilite l'implémentation (chunks plus grands, retrieval moins agressif, citations contextuelles plus riches), mais le RAG reste indispensable dès que la base documentaire dépasse la fenêtre, ou pour la traçabilité et la fraîcheur des sources.

Oui, sensiblement, dès qu'on injecte effectivement le volume. La tarification API des LLMs est proportionnelle aux tokens consommés (input + output). À titre indicatif fin 2025, sur les modèles frontaliers 1M tokens, une requête remplie à 80 % du contexte peut coûter plusieurs euros la requête, contre quelques centimes pour la même question résolue par un RAG sur les 10 chunks pertinents. Le grand context window devient économiquement intéressant pour les cas d'usage à faible fréquence et forte valeur (audit ponctuel d'un dépôt de code, analyse one-shot d'un corpus contractuel), beaucoup moins pour un copilote interne sollicité des milliers de fois par jour. L'arbitrage TCO se fait cas par cas.

Oui, c'est un phénomène documenté sous le nom de « lost in the middle ». Les modèles ont tendance à mieux exploiter les informations situées en début et en fin de contexte, et à sous-pondérer celles du milieu — d'où l'intérêt des benchmarks long context (HELM Long Context, Needle-in-a-Haystack, RULER) qui mesurent précisément la capacité de récupération sur l'ensemble de la fenêtre. Les modèles 2025-2026 (Claude 4.7 Opus, Gemini 1.5 Pro, Mistral Large 2 MoE) ont fortement réduit cet effet sur les premiers 100k-200k tokens, mais une dégradation reste mesurable à pleine charge 1M. Conclusion pratique : placer les éléments critiques en début et en fin, et garder le RAG ciblé comme architecture de référence pour les usages à fort enjeu de précision.

À mai 2026, le palier 1M+ tokens est atteint par : Claude 4.7 Opus (1M context window, Anthropic), Gemini 1.5 Pro (1M en GA, 2M en preview, Google), et Mistral Large 2 en architecture MoE (128k natif, 1M via configurations spécifiques). GPT-4 Turbo et GPT-4o restent à 128k, GPT-5 introduit des paliers étendus selon variantes. Côté open weights, Llama 3.1 (Meta) plafonne à 128k natif. Le choix ne se fait jamais sur le seul critère du context window : il faut croiser performance sur benchmarks long context (HELM, RULER), coût par token, latence, conformité (RGPD, AI Act, SecNumCloud) et souveraineté de l'hébergement. La méthode Nehos d'évaluation comparée LLM intègre ces six dimensions.

Trois règles de calcul à connaître. Un, un token vaut environ 0,75 mot anglais et 0,5 mot français — un texte de 1 000 mots français consomme donc grossièrement 2 000 tokens. Deux, dans une conversation multi-tours, l'historique complet est renvoyé à chaque requête : le coût croît quadratiquement avec la longueur, pas linéairement. Trois, l'output généré est généralement facturé 3 à 5 fois plus cher que l'input sur les API frontalières. Pour cadrer un budget : utiliser les tokenizers officiels (tiktoken pour OpenAI, l'API count_tokens d'Anthropic, le tokenizer Mistral) sur un échantillon représentatif, puis projeter sur le volume mensuel attendu. Les stratégies de mitigation efficaces sont le prompt caching, la compression d'historique, le summarization rolling et le routage modèle (petit modèle sur questions simples, grand modèle uniquement sur cas complexes).

Exploration associée

expertise LLM souverain et fine-tuning (Mistral Large 2 MoE 1M, Llama 3, Claude API)méthode Stack Souveraine Nehos™ (RAG + Qdrant + LLM long context sur OVHcloud SecNumCloud)agents IA et automatisation B2B (orchestration contexte long et RAG)service souveraineté numérique responsable Nehos (LLM, AI Act, hébergement souverain)définition RAG (Retrieval-Augmented Generation) — architecture complémentaire au context window Mistral Large 2 — 128k natif et 1M tokens en architecture MoE définition embedding (vectorisation au cœur du RAG)