Nehos Groupe

L'essentiel sur le RAG Entreprise souverain

Le RAG — Retrieval-Augmented Generation — est en 2026 l'approche dominante pour doter un LLM d'entreprise de connaissances internes actualisées, sans les effets de bord du fine-tuning ni les limites du prompt stuffing. Le fine-tuning modifie les poids du modèle pour intégrer de nouvelles connaissances : c'est coûteux (plusieurs dizaines de milliers d'euros par run sur un modèle 70B), lent (2 à 6 semaines entre préparation dataset, entraînement, évaluation), et peu adapté à des bases documentaires dynamiques qui évoluent quotidiennement — chaque mise à jour du document nécessite un nouveau run de fine-tuning. Le prompt stuffing (injecter des documents en contexte de la requête) atteint rapidement la limite de fenêtre de contexte du modèle, génère une latence élevée et des coûts de tokens prohibitifs sur des corpus de centaines de milliers de documents. Le RAG résout ces deux problèmes : les documents sont indexés une fois dans une base vectorielle, le LLM récupère dynamiquement les chunks les plus pertinents à chaque requête et génère une réponse fondée sur ces extraits. Résultat : une base de connaissances toujours à jour (re-indexation incrémentale dès qu'un document change), des réponses sourcées et traçables (citations de passages précis), un taux d'hallucination drastiquement inférieur à un LLM sans contexte, et un coût d'inférence maîtrisé.

Notre stack RAG souveraine repose sur trois composants auto-hébergés en France sur OVHcloud, sans aucun transfert de données hors Union Européenne. Le modèle de génération est Mistral Large 2 (123B paramètres), déployé sur GPU OVHcloud — il traite les requêtes utilisateurs et synthétise les passages récupérés en réponses structurées et citées. Le modèle d'embedding est Mistral Embed (production-ready sur le français, supérieur à ada-002 sur les textes juridiques, RH, techniques en français), qui transforme documents et requêtes en vecteurs denses. Le vector store est Qdrant, déployé on-premise sur OVHcloud : stockage et recherche vectorielle haute performance avec support natif du filtrage par métadonnées (auteur, date, périmètre d'accès, type de document, département). La recherche utilise un mode hybride sparse+dense — dense (vecteurs Mistral Embed) pour la sémantique et sparse (BM25) pour la recherche lexicale exacte — combiné à un reranking cross-encoder pour améliorer la précision des passages retenus. Ce choix technique est critique : sur un corpus de 120 000 documents contractuels, le mode hybride améliore le recall@5 de 23 points vs dense seul dans nos benchmarks internes.

Notre méthodologie de déploiement s'articule en deux grandes phases. Le POC (3 semaines,2 15 872 € HT) donne une première preuve fonctionnelle sur un périmètre documentaire limité : 5 000 à 20 000 documents représentatifs, un cas d'usage prioritaire (juridique, SAV, RH ou R&D), déployé en environnement interne de test avec un groupe pilote de 5 à 20 utilisateurs. Les métriques RAGAS (faithfulness, answer relevancy, context precision, context recall) sont mesurées dès le POC pour établir une baseline qualité. Le MVP (10 à 16 semaines selon volume documentaire et nombre d'intégrations sources) industrialise le système sur l'ensemble du corpus cible, intègre les connecteurs sources de données (SharePoint, Confluence, SAP, Cegid, Salesforce...), déploie le contrôle d'accès documentaire (authorization-aware retrieval — l'utilisateur ne voit que les documents auxquels il a accès dans le SI source), met en place le monitoring RAGAS continu, et forme les équipes métier. L'architecture est conçue pour passer de 10 à 500 utilisateurs simultanés sans refonte.

La fourchette de prix 111 k€ HT couvre des périmètres très différents. Un RAG sur corpus homogène de 10 000 à 50 000 documents avec un seul connecteur source et une interface conversationnelle simple se positionne autour de 111 k€ HT sur 12 à 16 semaines. Un RAG multi-sources (SharePoint + SAP + Salesforce + base SQL), corpus 100 000 à 500 000 documents, contrôle d'accès granulaire par rôle LDAP/AD, interface intégrée dans le portail métier existant et monitoring RAGAS automatisé se positionne entre 100 et à partir de 120 k€ HT sur 16 à 24 semaines. Le ROI est mesurable et rapide : dans notre cas client référence (cabinet juridique 80 avocats, 120 000 documents contractuels), le système RAG a été amorti en 8 mois grâce à une réduction du temps de recherche documentaire de 68 % — soit 2,3 heures récupérées par avocat et par semaine à un taux horaire facturable moyen de à partir de 745 € HT.

RAG Entreprise — Connecter votre LLM à votre base de connaissances interne

Nehos déploie des systèmes RAG (Retrieval-Augmented Generation) souverains pour ETI et scale-ups SaaS B2B. Mistral Large 2 auto-hébergé OVHcloud + Qdrant vector store + indexation documents internes (ERP, CRM, SharePoint, Confluence, contrats, manuels, procédures). Aucun transfert hors UE. POC 3 semaines. 111 k€ HT selon volume documentaire et complexité.

Adapté à toute taille de structure

Artisan
Startup
PME / TPE
ETI
Grand Groupe

#Pourquoi le RAG est l'approche standard pour les LLM d'entreprise en 2026

Trois approches coexistent pour doter un LLM de connaissances métier spécifiques à votre organisation : le prompt stuffing (injecter des documents directement dans le contexte de la requête), le fine-tuning (réentraîner le modèle sur vos données), et le RAG — RAG (Retrieval-Augmented Generation). Comprendre quand choisir laquelle change radicalement l'architecture et le budget.

Le prompt stuffing fonctionne bien sur des bases documentaires très réduites (quelques dizaines de pages) et des cas d'usage ponctuels. Dès que le corpus dépasse quelques milliers de documents, les limites deviennent structurelles : fenêtre de contexte saturée (même Mistral Large 2 plafonne à 128 000 tokens, soit environ 100 000 mots — soit peut-être 400 pages PDF), coût de tokens prohibitif (chaque requête ré-injecte l'ensemble du contexte), latence élevée, et impossibilité de maintenir la base à jour sans refactoriser l'ensemble de la logique de prompting.

Le fine-tuning ajuste les poids du modèle sur votre corpus pour que le LLM internalise des patterns de réponse propres à votre domaine. C'est le bon outil quand le problème est stylométrique (ton éditorial précis, jargon très technique, format de sortie structuré spécifique) ou quand les données d'entraînement sont stables dans le temps. C'est le mauvais outil pour les bases de connaissances documentaires dynamiques : chaque mise à jour significative du corpus exige un nouveau cycle de fine-tuning (préparation dataset, entraînement, évaluation, déploiement — 2 à 6 semaines, plusieurs dizaines de milliers d'euros par run sur un modèle 70B+). Personne ne re-fine-tune toutes les semaines parce qu'un avocat a mis à jour un contrat type.

Le RAG est l'approche de référence — validée par l'article fondateur RAG (Lewis et al. 2020, NeurIPS) et adoptée comme standard de fait par l'industrie depuis 2023 — précisément parce qu'il découple connaissance et modèle. Les documents sont indexés une fois (ou re-indexés incrémentalement dès qu'un document change), transformés en vecteurs et stockés dans une base vectorielle. À chaque requête utilisateur, le système récupère dynamiquement les chunks les plus pertinents, les injecte dans le prompt de génération, et le LLM synthétise une réponse fondée uniquement sur ces extraits — avec citations précises des passages sources. Résultats : réponses actualisées en temps réel, taux d'hallucination fortement réduit (les hallucinations IA sont la principale source de méfiance des directions juridiques et compliance), coût d'inférence maîtrisé, et traçabilité complète des sources citées.

Le RAG n'est pas non plus une solution universelle. Sur des problèmes de complétion de code (GitHub Copilot style), le fine-tuning reste souvent supérieur. Sur des tâches de raisonnement pur sans besoin d'accès documentaire, un LLM standard sans RAG suffit. Sur des cas où les documents sont très courts et peu nombreux (moins de 500 pages), le prompt stuffing est plus simple à déployer. Nehos qualifie systématiquement cette décision d'architecture en amont — pas de RAG par défaut, mais RAG quand c'est le bon outil.

#Architecture RAG souveraine Nehos — Composants et flux de données

Notre architecture RAG est conçue autour d'un principe fondateur : zéro transfert de données hors Union Européenne, à aucune étape du pipeline — ni à l'indexation, ni à l'inférence, ni au monitoring. Voici le détail des composants et des choix techniques.

Ingestion documentaire. Le pipeline d'ingestion commence par les connecteurs sources (SharePoint, Confluence, SAP, Cegid, Salesforce — détail dans la section Connecteurs). Les documents sont récupérés via API ou flux sécurisés, pré-traités (extraction du texte depuis PDF natif via PyMuPDF, depuis PDF scanné via OCR Tesseract/Surya, depuis DOCX/XLSX via python-docx/openpyxl), nettoyés (suppression des headers/footers répétitifs, normalisation des caractères) et enrichis en métadonnées (auteur, date de création, date de dernière modification, périmètre d'accès, type de document, département émetteur, langue). Ces métadonnées sont critiques pour le filtrage et le contrôle d'accès en phase de retrieval.

Stratégie de chunking. Le découpage des documents en chunks est l'une des décisions les plus impactantes sur la qualité du RAG — et l'une des moins bien traitées par les implémentations naïves. Nehos utilise trois stratégies selon le type de document. Chunking sémantique (late chunking via embeddings de phrases) pour les textes prose non structurés (notes internes, rapports, analyses) : les chunks correspondent à des unités de sens plutôt qu'à des tailles fixes. Chunking structurel pour les documents hiérarchisés (contrats, manuels, procédures, CGV) : chaque article, section ou clause devient un chunk indépendant, avec le titre de section préfixé pour conserver le contexte. Chunking à taille fixe avec overlap (512 tokens, overlap 64 tokens) comme fallback sur les documents mal structurés. Dans tous les cas, un chunk ne contient jamais de coupure de phrase — nous ne tronquons pas une phrase en deux chunks différents.

Embedding et indexation. Mistral Embed transforme chaque chunk en vecteur dense de 1 024 dimensions. Nous choisissons Mistral Embed par défaut sur les corpus francophones pour deux raisons : performance supérieure sur le français vs text-embedding-ada-002 d'OpenAI (validée sur les benchmarks MTEB français), et hébergement souverain (l'API Mistral Embed est disponible sur OVHcloud AI Deploy). Les vecteurs sont indexés dans Qdrant avec l'algorithme HNSW (Hierarchical Navigable Small World) qui permet une recherche approximative en temps sublinéaire sur des corpus de plusieurs millions de chunks. Nous configurons également un index BM25 sparse (via Qdrant native sparse vectors) pour la recherche lexicale exacte.

Retrieval hybride et reranking. À chaque requête utilisateur, le système exécute en parallèle une recherche dense (vecteur Mistral Embed de la requête, top-k=20 par similarité cosinus) et une recherche sparse (BM25, top-k=20). Les 40 candidats sont fusionnés via Reciprocal Rank Fusion (RRF), puis rerankés par un cross-encoder (Mistral ou modèle léger dédié au reranking) qui calcule une score de pertinence query-chunk en lisant les deux en parallèle — contrairement au bi-encoder de l'étape précédente. Les top-5 à top-10 chunks rerankés sont injectés dans le prompt de génération. Ce pipeline hybride améliore le recall@5 de 18 à 26 points selon nos benchmarks internes sur corpus juridiques et techniques francophones, vs recherche dense seule.

Génération et citation. Mistral Large 2 (123B paramètres, quantisé INT8 en production pour optimiser la VRAM) génère la réponse finale en se fondant exclusivement sur les chunks récupérés. Le prompt système impose trois règles : ne répondre que sur la base des documents fournis (pas de connaissance paramétrique injectée), citer systématiquement le document source et le numéro de chunk pour chaque affirmation facturée, et indiquer explicitement si la réponse ne se trouve pas dans les documents indexés plutôt que d'halluciner. Ce dernier point est critique : un RAG bien configuré doit savoir dire "je ne sais pas" plutôt que d'inventer.

Contrôle d'accès documentaire (authorization-aware retrieval). Le RAG ne doit restituer que les documents auxquels l'utilisateur a accès dans le SI source. Nous implémentons ce contrôle via des filtres de métadonnées Qdrant appliqués avant le retrieval : chaque chunk porte les ACLs du document source (rôles LDAP/AD autorisés, périmètre géographique, niveau de confidentialité). La requête de retrieval est toujours filtrée par l'identité et les rôles de l'utilisateur authentifié. Un utilisateur de la direction juridique ne voit jamais les chunks d'un document RH confidentiel, même si ce document est techniquement dans le même index.

#7 cas d'usage RAG majeurs en entreprise

#1. Base de connaissances juridique — Contrats, CGV, jurisprudence interne

Le cas d'usage le plus mature et le plus ROI-positif que Nehos déploie en 2026. Un corpus de contrats clients (MSA, SOW, NDA, SLA), CGV, CGU, jurisprudence interne (décisions de justice passées, mémos juridiques, avis d'avocats), réglementations sectorielles — indexé dans Qdrant — et accessible à l'ensemble des avocats, juristes et paralégaux via une interface conversationnelle. Questions typiques : "Quelle est notre clause de limitation de responsabilité standard dans les contrats SaaS B2B ?" / "Y a-t-il un précédent jurisprudentiel interne sur la résiliation anticipée pour ce type de clause ?" / "Quels contrats clients contiennent une clause de benchmarking ?" Le système répond en citant le document source, le numéro d'article et la date de version. Notre cas client référence (cabinet juridique parisien 80 avocats, 120 000 documents) a mesuré une réduction du temps de recherche documentaire de 68 % (de 47 min à 15 min en moyenne par requête documentaire), avec un taux de faithfulness RAGAS de 0,97 — soit moins de 0,3 % de réponses contenant une affirmation non sourcée.

#2. Assistant commercial RAG sur catalogues produits et ERP

Les équipes commerciales d'ETI industrielles ou de distributeurs passent en moyenne 35 à 50 minutes par jour à rechercher des informations produits dispersées entre le catalogue PDF, l'ERP (SAP, Cegid), le CRM (Salesforce, HubSpot), les fiches techniques et les tarifs. Un agent RAG connecté à ces sources permet de répondre en quelques secondes à des questions comme "Quel est le délai de livraison standard pour la référence XY-4521 depuis notre entrepôt Lyon ?", "Quelle est la compatibilité entre le composant A et le composant B d'après la fiche technique v3.2 ?", "Quelles sont les conditions tarifaires de ce client pour le volume commande 500+ unités ?". Les données ERP et CRM sont synchronisées quotidiennement (ou en quasi-temps réel via webhooks selon la criticité), ce qui garantit que le RAG répond sur la base des données à jour — pas sur un catalogue PDF imprimé il y a 18 mois.

#3. RAG conformité réglementaire — RGPD, AI Act, NIS2, sectoriels

Les directions compliance et juridique des ETI doivent naviguer dans un corpus réglementaire en expansion constante : RGPD et ses guidelines EDPB/CNIL, AI Act (Règlement UE 2024/1689) et ses actes délégués, NIS2 (Directive UE 2022/2555), réglementations sectorielles (DORA pour la finance, MDR pour le médical, DSA pour les plateformes...). Un RAG indexant ces textes officiels, les guidelines d'autorités de régulation, les positions internes du DPO, les politiques de conformité maison, et les registres de traitement permet aux équipes conformité de répondre en quelques secondes à des questions comme "Notre nouveau service de scoring crédit est-il soumis à l'article 22 du RGPD et/ou à l'Annexe III de l'AI Act ?" avec citation des passages réglementaires pertinents. La documentation Mistral API intègre ce type de cas d'usage dans ses exemples officiels.

#4. Support IT Helpdesk RAG sur documentation technique

Les équipes IT support Niveau 1 et Niveau 2 passent une part significative de leur temps à rechercher dans des documentations techniques volumineuses et mal organisées (runbooks, procédures d'incident, notes de release, configurations réseau, architecture SI, guides d'administration). Un RAG indexant l'ensemble de cette documentation (Confluence, Jira, fichiers Markdown, PDFs techniques, emails d'incident archivés) et accessible aux techniciens support via une interface conversationnelle réduit le MTTR (Mean Time To Resolution) de 25 à 40 % selon nos cas clients ETI industriels. Questions typiques : "Quelle est la procédure de basculement vers le DC secondaire en cas d'indisponibilité du VPN principal ?", "Comment reconfigurait-on le load balancer en 2024 lors de l'incident similaire ?". Le système cite les runbooks sources et les tickets d'incident archivés.

#5. RAG RH — Convention collective, accords d'entreprise, procédures internes

Les DRH et HRBP d'ETI reçoivent quotidiennement des questions sur l'interprétation de la convention collective applicable, des accords d'entreprise, des procédures internes (notes de service, charte télétravail, politique de mobilité, règlement intérieur). Un RAG indexant ce corpus RH interne — et accessible aux salariés et managers en libre-service — réduit le volume de tickets RH N1 de 40 à 65 % selon nos clients (voir cas agent IA d'assistance RH). Questions fréquentes : "Combien de jours de congé pour mariage selon notre convention ?", "Quelle est la procédure d'indemnisation des déplacements au-delà de 200 km ?", "La charte télétravail de 2025 autorise-t-elle le télétravail depuis l'étranger UE ?". Le RAG répond en citant l'article précis de la convention ou l'accord d'entreprise — pas une interprétation libre.

#6. RAG R&D sur publications scientifiques et brevets

Les équipes R&D d'ETI industrielles et de scale-ups deeptech gèrent des corpus de publications scientifiques (PubMed, arXiv, revues sectorielles), de brevets (WIPO, INPI, USPTO), de rapports d'études internes et de notes techniques. Un RAG sur ce corpus permet aux chercheurs et ingénieurs de R&D de faire de la veille documentaire accélérée, d'identifier des antériorités brevets avant un dépôt, ou de retrouver rapidement les paramètres d'une expérience menée il y a 3 ans. La clé sur ce cas d'usage est le traitement multilingue (publications en anglais, brevets en plusieurs langues) et la gestion des formules, tableaux et figures — Mistral Large 2 multimodal traite les images de figures scientifiques en mode vision.

#7. RAG multimodal — Documents scannés et PDF natifs mixtes

Les corpus documentaires réels des ETI sont rarement propres : un tiers des documents sont des PDFs scannés (contrats papier numérisés, factures, bons de commande, dossiers techniques anciens), un tiers sont des PDFs natifs (documents Word ou InDesign exportés), et un tiers sont des fichiers Office directement. Notre pipeline RAG traite les trois : OCR via Surya (modèle OCR open-source, supérieur à Tesseract sur le français et les tableaux) pour les scans, extraction directe PyMuPDF pour les PDFs natifs, python-docx/openpyxl pour les Office. Les tableaux sont extraits structurellement (pas comme du texte brut) pour permettre des requêtes sur les données tabulaires. La précision OCR est auditée sur un échantillon représentatif avant de lancer l'indexation full-corpus.

#Connecteurs sources de données — SharePoint, Confluence, ERP, CRM

La valeur d'un RAG d'entreprise dépend directement de l'exhaustivité et de la fraîcheur de l'indexation des sources documentaires. Nehos maintient des connecteurs natifs pour les principales plateformes documentaires et SI d'entreprise francophones.

Pour les plateformes de collaboration : SharePoint Online et SharePoint on-premise (via Graph API et CSOM), Microsoft Teams (fichiers de canaux), Confluence Cloud et Confluence Server/Data Center (via REST API Atlassian, avec respect des permissions Confluence space-by-space), Notion (via API officielle), Google Workspace (Drive, Docs, Sheets via Workspace API).

Pour les ERP et SIRH : SAP S/4HANA et SAP ECC (via RFC/BAPI ou OData selon version), Cegid XRP Flex et Cegid HR (API REST), Sage 100 et Sage X3, Sylob, Generix. L'indexation ERP cible principalement les modules documentation (fiches articles, nomenclatures, procédures de fabrication, fiches fournisseurs) — pas les données transactionnelles en temps réel, qui relèvent d'une architecture différente (data streaming).

Pour les CRM : Salesforce (via API REST et Bulk API 2.0), HubSpot (via API v3), Microsoft Dynamics 365 (via Web API OData). L'indexation CRM cible les objets documentaires : fiches produits, playbooks commerciaux, emails archivés, notes d'opportunités, FAQ clients.

Pour les ticketing et support : Jira Service Management, Zendesk, Freshdesk, Intercom. Indexation des tickets historiques résolus comme base de connaissances helpdesk — pattern très efficace sur les cas d'usage IT support et SAV.

Pour les sources fichiers : emails Exchange/Gmail (via Graph API / Gmail API — indexation sélective par folder ou label, jamais des boîtes complètes sans consentement explicite), fichiers PDF/DOCX/XLSX/PPTX via stockage objet (S3-compatible, OVHcloud Object Storage), bases SQL (PostgreSQL, MySQL, MariaDB, SQL Server — via des requêtes SQL pré-définies sur des vues dénormalisées, pas d'accès en lecture directe sur les tables de production sans validation DPO).

Le cycle de synchronisation est configurable par source : temps réel via webhooks (SharePoint, Confluence Cloud, Salesforce avec Change Data Capture), quotidien pour les ERP (fenêtre de nuit), sur demande pour les sources fichiers archivées. La re-indexation incrémentale ne reprocesse que les documents créés ou modifiés depuis la dernière synchronisation.

#Sécurité et conformité RGPD du système RAG

Un système RAG d'entreprise est, par nature, le point de convergence de l'ensemble des documents sensibles de l'organisation. La sécurité n'est pas une option : elle est intégrée dès la conception.

Résidence des données. L'ensemble du pipeline — ingestion, embedding, stockage Qdrant, inférence Mistral Large 2 — est hébergé sur OVHcloud France (régions GRA ou SBG selon la région du client). OVHcloud est qualifié SecNumCloud par l'ANSSI pour ses offres Hosted Private Cloud et remplit les exigences de résidence des données RGPD (article 46). Aucune donnée ne transite vers OpenAI, Anthropic, Google, AWS ou Azure US à aucune étape. La souveraineté numérique n'est pas un argument commercial chez Nehos — c'est une contrainte architecturale.

Authorization-aware retrieval. Le contrôle d'accès documentaire est le point de sécurité le plus souvent négligé dans les implémentations RAG naïves. Si un collaborateur de la direction financière peut interroger le RAG et obtenir des réponses issues de documents RH confidentiels ou de stratégies M&A non publiques, le système crée une faille de confidentialité majeure. Notre implémentation porte les ACLs (Access Control Lists) directement dans les métadonnées Qdrant de chaque chunk, synchronisées depuis le SI source à chaque re-indexation. Chaque requête RAG est filtrée en amont du retrieval par les rôles et périmètres de l'utilisateur authentifié (via LDAP/Active Directory, SSO SAML 2.0 ou OIDC). Un utilisateur ne peut jamais obtenir de chunk d'un document auquel il n'a pas accès dans le SI source.

Chunking sans fuite de PII. Sur les corpus contenant des données personnelles (contrats avec données de clients physiques, dossiers RH, emails clients), nous appliquons une pseudonymisation au niveau du chunk avant indexation sur les données particulièrement sensibles, tout en maintenant la traçabilité vers le document source dans un registre séparé. Sur les données moins sensibles, nous documentons la base légale RGPD du traitement (intérêt légitime de l'entreprise pour la gestion documentaire interne, avec analyse de proportionnalité) dans la DPIA réalisée avant déploiement.

Audit logs et traçabilité. Chaque requête RAG est loguée : identifiant utilisateur pseudonymisé, timestamp, requête (hashée si sensible), chunks récupérés (références document + chunk ID), réponse générée (hashée), score RAGAS post-évaluation. Ces logs sont stockés dans Postgres 16 avec extension pgaudit, immuables (append-only, chiffrement au repos). Conservation : 12 mois glissants par défaut, paramétrable selon politique de l'organisation. Ces logs permettent de répondre à un audit CNIL, à un contentieux interne ("quelle source a été utilisée pour cette réponse ?"), ou à une revue DSI trimestrielle.

DPIA. Une DPIA (analyse d'impact relative à la protection des données) est réalisée par Nehos en amont de tout déploiement RAG, validée avec le DPO du client. Les flux de données, les bases légales, les durées de conservation, les droits des personnes concernées (droit d'accès, rectification, suppression) et les mesures techniques sont documentés. La sécurité OWASP LLM est appliquée sur le périmètre applicatif du RAG (protection contre prompt injection, jailbreak, data poisoning sur le corpus source).

#Évaluation et monitoring RAG — RAGAS et métriques opérationnelles

Déployer un RAG sans framework d'évaluation, c'est piloter à l'aveugle. Nehos intègre le RAGAS framework évaluation RAG dès le POC, avec monitoring continu en production.

Les quatre métriques RAGAS fondamentales. Faithfulness (fidélité) : la réponse générée est-elle entièrement fondée sur les chunks récupérés, sans affirmation extérieure ? Cible Nehos : faithfulness ≥ 0,95 en production. En dessous de 0,90, c'est un signal de prompt system à ajuster ou de retrieval insuffisant. Answer Relevancy (pertinence de la réponse) : la réponse adresse-t-elle bien la question posée ? Cible : ≥ 0,90. Context Precision (précision du contexte) : les chunks récupérés sont-ils tous utiles à la réponse, sans bruit inutile ? Cible : ≥ 0,80. Context Recall (rappel du contexte) : tous les éléments nécessaires à la réponse étaient-ils présents dans les chunks récupérés ? Cible : ≥ 0,85. Un recall bas indique un problème de chunking (les informations pertinentes sont découpées entre trop de chunks) ou d'indexation (certains documents ne sont pas indexés ou mal tokenisés).

Métriques opérationnelles supplémentaires. Taux d'hallucination (= 1 - faithfulness en pratique) : notre objectif sur les cas d'usage à enjeux (juridique, compliance, médical) est inférieur à 2 %. Latence p50/p95/p99 : notre SLA standard est p50 < 2s, p95 < 5s, p99 < 10s pour une requête RAG complète (retrieval + génération) sur un corpus de 100 000 chunks. Au-delà de 3s en p50, l'adoption utilisateur chute significativement. Taux de "je ne sais pas" (no-answer rate) : un taux trop élevé (> 20 %) indique que le corpus n'est pas assez exhaustif ou que les requêtes utilisateurs sortent du périmètre documentaire couvert — signal pour élargir le scope d'indexation. Un taux trop bas (< 2 %) est suspect — le modèle répond peut-être quand il devrait s'abstenir. Taux de satisfaction utilisateur : mesuré via feedback inline (pouce haut/bas sur chaque réponse), agrégé par cas d'usage et par département.

Le dashboard monitoring est déployé sur Grafana (stack standard Nehos) avec alertes PagerDuty si faithfulness passe sous 0,90 ou si la latence p95 dépasse le SLA. Un rapport mensuel RAGAS est fourni au client avec évolution des métriques, top 10 des requêtes sans réponse satisfaisante (signal pour enrichir le corpus), et recommandations d'amélioration.

#Méthodologie de déploiement — POC 3 semaines, MVP 10-16 semaines

Phase 1 — Audit documentaire et cadrage (1 semaine, 5 000 à128 000 € HT). Cartographie de l'ensemble des sources documentaires disponibles (volumes, formats, langues, qualité, fréquence de mise à jour, périmètre d'accès actuel dans le SI), identification du ou des cas d'usage prioritaires (quel département a le plus à gagner, quels types de questions génèrent le plus de friction documentaire aujourd'hui), définition des critères d'acceptation du POC (métriques RAGAS cibles, latence acceptable, périmètre documentaire pilote). Livrable : rapport d'audit documentaire + architecture cible proposée + devis POC détaillé.

Phase 2 — POC (3 semaines, 12 000 à320 000 € HT). Déploiement du pipeline RAG complet sur un périmètre documentaire réduit (5 000 à 20 000 documents représentatifs du cas d'usage pilote), sur environnement OVHcloud dédié. Mise en place de l'interface conversationnelle pilote (web app légère ou intégration Slack/Teams selon préférence). Groupe pilote 5 à 20 utilisateurs. Mesure RAGAS après 1 000 requêtes pilotes minimum. Itération sur le chunking, le retrieval et le prompt système si les métriques sont sous cibles. Livrable : rapport RAGAS POC, retours utilisateurs pilotes qualifiés, recommandations architecture MVP.

Phase 3 — MVP en production (10 à 16 semaines, 30 000 à2 400 000 € HT selon scope). Indexation full-corpus (100 000 à 500 000+ documents selon projet), développement des connecteurs sources finaux, implémentation du contrôle d'accès documentaire complet (authorization-aware retrieval synchronisé avec LDAP/AD), intégration dans le portail métier existant (SSO SAML2/OIDC, interface UI/UX en accord avec la charte graphique client), déploiement du monitoring RAGAS continu sur Grafana, formation des équipes utilisateurs et des administrateurs, documentation technique et fonctionnelle complète. Mise en production progressive par département (cohortes de 20 à 100 utilisateurs par vague, avec validation métriques entre chaque vague).

Phase 4 — Exploitation et amélioration continue (forfait MCO mensuel 2 500 à144 000 € HT/mois). SLA 99,5 % uptime, rapport RAGAS mensuel, re-indexation incrémentale des nouvelles sources documentaires, fine-tuning du retrieval et du prompt système sur la base des retours utilisateurs, évolution des connecteurs sources (nouvelles intégrations, montées de version SI), veille sur les nouvelles versions Mistral (migration vers Mistral Large 3 ou successeur dès disponibilité en hébergement souverain OVHcloud), audit sécurité annuel (sécurité OWASP LLM).

#ROI mesurable — Cas ETI juridique 120 000 documents

Cas client référence : cabinet juridique parisien de 80 avocats (anonymisé NDA), spécialisé en droit des affaires et propriété intellectuelle. Corpus documentaire : 120 000 documents indexés (contrats clients MSA/SOW/NDA, avis juridiques internes, jurisprudence commerciale annotée, manuels de procédures internes, CGV et CGU types par secteur, mémos réglementaires). Problème initial : chaque avocat passait en moyenne 47 minutes par requête documentaire complexe (recherche dans les drives SharePoint, recherche dans la base de jurisprudence interne Notion, comparaison manuelle entre versions de contrats). Sur 80 avocats effectuant 4 à 6 requêtes documentaires complexes par jour, cela représentait 250 à 380 heures perdues quotidiennement sur de la recherche à faible valeur ajoutée.

Déploiement Nehos : POC 3 semaines (indexation de 30 000 documents pilote — contrats et jurisprudence uniquement), puis MVP 14 semaines (indexation full-corpus 120 000 documents, intégration SharePoint + Notion + base emails Exchange archivée, interface conversationnelle intégrée dans le portail interne du cabinet, contrôle d'accès par dossier client et par rôle). Investissement total : 2160 k€ HT (POC + MVP, hors MCO).

Résultats à 12 mois : temps moyen de recherche documentaire passé de 47 minutes à 15 minutes (-68 %), soit 32 minutes récupérées par requête documentaire. Sur 80 avocats x 5 requêtes/jour x 220 jours ouvrés/an x 32 minutes = 9 387 heures récupérées annuellement. À un taux horaire facturable moyen de4 7 680 € HT, cela représente 42,1 M€ HT de capacité facturable libérée — dont une partie est effectivement convertie en chiffre d'affaires additionnel, une partie est réinvestie dans la qualité des missions. Retour sur investissement net positif dès le 8e mois. Métriques RAGAS en production : faithfulness 0,97, answer relevancy 0,93, taux de "je ne sais pas" 7 % (signaux documentaires manquants traités mensuellement par enrichissement du corpus). Taux de satisfaction utilisateur : 89 % de retours positifs (pouce haut) sur les 18 derniers mois.

#Tarification — 45 à 2880 k€ HT

Trois niveaux selon le volume documentaire, la complexité des intégrations et le périmètre fonctionnel.

RAG Starter — 45 à 1120 k€ HT (12 à 16 semaines). Corpus 5 000 à 50 000 documents, 1 à 2 sources connectées (SharePoint + un ERP ou CRM), contrôle d'accès simple (par équipe/département, pas granulaire par document), interface web conversationnelle standard, monitoring RAGAS basique. Typiquement adapté aux PME de 50 à 250 collaborateurs avec un cas d'usage documentaire bien identifié (SAV, support IT, base de connaissances RH). MCO mensuel : 2 500 à64 000 € HT.

RAG Enterprise — 70 à 2080 k€ HT (14 à 20 semaines). Corpus 50 000 à 250 000 documents, 3 à 6 sources connectées (SharePoint + Confluence + ERP + CRM), contrôle d'accès granulaire par document (authorization-aware retrieval synchronisé LDAP/AD), intégration dans le portail métier existant (SSO SAML2/OIDC), monitoring RAGAS complet sur Grafana, formation équipes et documentation. Adapté aux ETI de 250 à 2 000 collaborateurs avec plusieurs cas d'usage ou plusieurs départements utilisateurs. MCO mensuel : 4 000 à112 000 € HT.

RAG Premium — 130 à 2880 k€ HT (16 à 28 semaines). Corpus 250 000 à 1 000 000+ documents, 6+ sources connectées, architecture multi-index (index séparés par domaine documentaire pour optimiser la précision), RAG multimodal (documents scannés OCR + PDF natifs + tableaux structurés), pipeline de validation humaine sur les réponses à enjeux critiques, SLA renforcé 99,8 %, audit sécurité OWASP LLM inclus en fin de déploiement. Adapté aux ETI 1 000 à 5 000 collaborateurs, cabinets juridiques ou d'audit, directions conformité secteurs réglementés. MCO mensuel : 7 000 à144 000 € HT.

Tous les niveaux incluent : hébergement OVHcloud France souverain, stack open-source (Mistral + Qdrant + LangGraph — pas de dépendance à des licences SaaS propriétaires), code source livré et documenté (pas de vendor lock-in Nehos), DPIA incluse, onboarding utilisateurs.

Questions & Réponses

Questions fréquentes sur le RAG Entreprise souverain

Les trois approches ne résolvent pas le même problème. Le prompt engineering (ou prompt stuffing) injecte des documents directement dans la fenêtre de contexte de chaque requête : simple à déployer, adapté à des corpus très restreints (quelques dizaines de pages), mais limité par la fenêtre de contexte du modèle (128 000 tokens pour Mistral Large 2, soit environ 100 000 mots — peut-être 400 pages PDF), coûteux en tokens à l'échelle, et impossible à maintenir à jour sur des bases documentaires dynamiques. Le fine-tuning réentraîne les poids du modèle sur votre corpus pour internaliser des patterns de réponse ou un style éditorial propre à votre domaine. C'est le bon outil quand le problème est stylistique ou comportemental (ton spécifique, format de sortie structuré, jargon très technique que le modèle de base ne maîtrise pas), ou quand les données d'entraînement sont stables dans le temps. C'est le mauvais outil pour les bases documentaires dynamiques : chaque mise à jour majeure exige un nouveau run de fine-tuning (2 à 6 semaines, plusieurs dizaines de milliers d'euros par run sur un modèle 70B+). Le [RAG (Retrieval-Augmented Generation)](/glossaire/rag) est l'approche standard pour les bases de connaissances documentaires dynamiques : les documents sont indexés en base vectorielle une fois (et re-indexés incrémentalement à chaque mise à jour), le modèle récupère dynamiquement les chunks pertinents à chaque requête et génère une réponse fondée et citée. Avantages : base toujours à jour, réponses sourcées et traçables, taux d'hallucination drastiquement réduit, coût d'inférence maîtrisé. Dans la plupart des projets documentaires ETI, le RAG est la bonne réponse. Le fine-tuning peut venir en complément (fine-tuner le modèle de génération sur le style et le jargon maison, puis déployer du RAG par-dessus), mais ce n'est pas systématiquement nécessaire. Voir [agents IA Nehos](/services/agents-ia) pour le contexte global.
La réponse dépend principalement de deux critères : la souveraineté des données et la performance à l'échelle. Pinecone est un SaaS américain (infrastructure AWS US) : incompatible avec les exigences de résidence des données RGPD pour des corpus d'entreprise contenant des données personnelles ou confidentielles, sauf à accepter des clauses contractuelles standard non négociables avec une entreprise hors UE. Nehos l'exclut par défaut sur tous les projets clients. pgvector est une extension PostgreSQL qui ajoute les capacités vectorielles à une base relationnelle existante : excellent choix pour des corpus petits à moyens (moins de 1 million de vecteurs) où la simplicité opérationnelle prime (une seule base de données à gérer, SQL standard pour les requêtes de filtrage). Limite : les performances de recherche approximate nearest neighbor (ANN) sont inférieures à Qdrant sur des corpus > 500 000 vecteurs, et le mode hybride sparse+dense n'est pas nativement supporté. Qdrant est notre choix par défaut sur les projets RAG Nehos : open-source (licence Apache 2.0), auto-hébergeable sur OVHcloud (zéro dépendance SaaS), architecture HNSW optimisée pour la recherche ANN haute performance sur plusieurs millions de vecteurs, support natif du mode hybride sparse+dense (critique pour la qualité du retrieval sur des corpus techniques francophones), filtrage par métadonnées directement dans le moteur (indispensable pour l'authorization-aware retrieval), et une API Rust avec client Python mature. Sur le [cloud souverain OVHcloud](/glossaire/cloud-souverain), Qdrant tourne sans licence additionnelle, contrairement à Pinecone. Pour les projets déjà sur PostgreSQL avec des corpus < 500 000 vecteurs, pgvector peut être un choix pertinent — nous l'évaluons cas par cas.
C'est le point de sécurité le plus souvent négligé dans les implémentations RAG naïves, et l'un des plus critiques en entreprise. Si un collaborateur de la direction commerciale peut obtenir via le RAG des réponses issues de documents juridiques confidentiels ou de rapports M&A non publics, le système crée une faille de confidentialité potentiellement plus grave que l'absence de RAG. Notre approche est le authorization-aware retrieval : les ACLs (Access Control Lists) du document source sont synchronisées dans les métadonnées Qdrant de chaque chunk à chaque cycle d'indexation. Concrètement, chaque chunk porte des champs de métadonnées du type : rôles_autorisés (liste des groupes AD/LDAP), périmètre_géographique, niveau_confidentialité (public/interne/confidentiel/secret). Chaque requête RAG est pré-filtrée par un middleware d'authentification qui récupère les rôles et périmètres de l'utilisateur authentifié (via SSO SAML2/OIDC, interrogeant l'Active Directory ou LDAP de l'entreprise), construit un filtre Qdrant correspondant, et n'exécute la recherche vectorielle que sur les chunks que l'utilisateur est autorisé à voir. Un utilisateur ne peut jamais obtenir, même indirectement via une synthèse, d'information issue d'un chunk auquel il n'a pas accès. La synchronisation des ACLs est automatisée : si les droits d'un document changent dans SharePoint ou Confluence, les métadonnées des chunks correspondants sont mis à jour dans Qdrant au prochain cycle d'indexation (délai maximum selon la fréquence de synchronisation configurée — temps réel ou quotidien). Voir [sécurité OWASP LLM](/services/agents-ia/securite-llm-owasp) pour le cadre sécurité global.
Un système RAG bien configuré réduit drastiquement les hallucinations par rapport à un [LLM d'entreprise](/glossaire/llm-large-language-model) sans contexte, mais ne les élimine pas à zéro — soyons précis sur ce point. La métrique de référence est le faithfulness RAGAS (proportion des affirmations de la réponse qui sont entièrement supportées par les chunks récupérés). Nos cibles de déploiement en production : faithfulness ≥ 0,95 (soit ≤ 5 % des affirmations potentiellement non supportées) sur les cas d'usage généraux, faithfulness ≥ 0,97 (≤ 3 %) sur les cas d'usage à enjeux critiques (juridique, compliance, médical). En pratique, nos déploiements en production sur des corpus bien structurés et bien indexés atteignent entre 0,93 et 0,97 de faithfulness RAGAS après stabilisation (4 à 8 semaines post-lancement). Les principales sources résiduelles d'[hallucination IA](/glossaire/hallucination-ia) dans un RAG : (1) retrieval insuffisant — les chunks pertinents ne sont pas récupérés (recall trop bas), le modèle tente alors de combler le vide avec sa connaissance paramétrique ; (2) prompt système mal configuré — le LLM n'est pas suffisamment contraint à ne répondre que sur la base des chunks fournis ; (3) qualité documentaire dégradée — documents OCR avec erreurs, PDFs mal structurés ou tableaux mal extraits. Ces trois causes sont traitées par notre pipeline (retrieval hybride, prompt système strict avec instruction "si la réponse n'est pas dans les documents, dire 'je ne sais pas'", et pipeline OCR qualifié). Sur le cas client cabinet juridique (120 000 documents), nous mesurons faithfulness 0,97 en production stable depuis 12 mois.
Oui, dans les deux cas, avec quelques précisions importantes sur la nature des données ERP indexables. SAP S/4HANA et SAP ECC sont intégrés via deux canaux selon la version et la configuration : OData V4/V2 pour les objets documentaires accessibles via l'API REST SAP (fiches articles, nomenclatures, fiches fournisseurs, textes de procédures de fabrication), ou RFC/BAPI pour les objets SAP non exposés en OData (exige un accès RFC et un compte technique SAP avec les autorisations correspondantes, à valider avec l'équipe Basis). Cegid XRP Flex expose une API REST documentée depuis la version 2024 — notre connecteur est opérationnel sur les modules Commerce (fiches articles, prix, stocks), Comptabilité (plans de comptes, paramétrage) et HR (procédures, référentiels). Cegid HR est intégré séparément (API dédiée). Ce qu'on n'indexe pas depuis un ERP, par principe : les tables transactionnelles (commandes, factures, mouvements de stock en temps réel) — ce n'est pas la vocation d'un RAG documentaire, et l'indexation de données transactionnelles dans Qdrant créerait des problèmes de cohérence et de conformité RGPD. Ces données relèvent d'une architecture data/BI différente. Ce qu'on indexe : les objets documentaires statiques ou quasi-statiques (fiches référentiels, nomenclatures, procédures, paramétrage, documentation fonctionnelle) et les exports structurés de données agrégées validés avec le DPO. Pour un ERP non listé (Sylob, Sage X3, Generix, CEGID Yourcegid...), nous développons un connecteur custom en 2 à 4 semaines selon la qualité de la documentation API — délai et coût inclus dans le devis MVP. Voir [agents IA Nehos](/services/agents-ia) pour le catalogue complet des intégrations.
La réponse honnête est : ça dépend du volume documentaire, du nombre de sources à connecter, et du niveau de complexité du contrôle d'accès. Pour un premier POC fonctionnel sur un périmètre documentaire limité (5 000 à 20 000 documents, 1 à 2 sources) : 3 semaines,2 15 872 € HT. Ce POC donne une preuve concrète de valeur, avec métriques RAGAS mesurées et retours utilisateurs pilotes qualifiés — c'est la base qui permet de décider sereinement de l'investissement MVP. Pour un MVP en production sur corpus complet : 10 à 16 semaines additionnelles,1 13 952 € HT selon le scope (voir section Tarification pour le détail des trois niveaux). Le planning complet POC + MVP va donc de 4 mois (corpus homogène, 1-2 sources, RAG Starter) à 7 mois (corpus multi-source 250 000+ documents, RAG Premium). Ce qui allonge le plus les délais dans nos expériences : la qualité et la documentation des API ERP (un ERP mal documenté peut ajouter 3 à 6 semaines), la complexité du contrôle d'accès documentaire (si les ACLs ne sont pas exposées par le SI source, il faut construire un référentiel de droits en parallèle), et la qualité du corpus source (30 % de documents scannés avec OCR à qualifier ajoute 2 à 4 semaines de pipeline d'ingestion). Pour estimer précisément votre projet en 30 minutes, [réservez un RDV RAG/LLM](https://calendly.com/raphael-poirier_/decouverte15min-nehos-groupe avec un ingénieur Nehos — on qualifie vos sources, on estime le volume, on chiffre le POC et le MVP.
Réserver un audit