Edge AI
#Définition Edge AI
L'Edge AI (intelligence artificielle embarquée en périphérie) désigne l'inférence de modèles ML/DL directement sur des dispositifs edge — sans communication vers un backend cloud pour chaque requête d'inférence. Le paradigme s'oppose au cloud AI (envoi de la donnée brute vers un serveur distant, traitement centralisé, retour du résultat) et au fog AI (nœud intermédiaire dans le réseau). Pour approfondir, consultez la page service Agents IA Nehos.
Concrètement, Architecture typique : capteur → microcontrôleur ou SoC IA → inférence locale → action ou agrégation légère → (optionnel) transmission résultat vers cloud. Hardware dédié 2026 : NVIDIA Jetson Orin NX (70 TOPS, 15W, Linux, CUDA), Google Coral Edge TPU (4 TOPS, USB ou M.2, TensorFlow Lite exclusif), Apple Neural Engine dans les SoC A-series/M-series (38 TOPS sur A18 Pro), Qualcomm AI Engine 100 (Snapdragon série 8).
Frameworks d'inférence optimisés : TensorFlow Lite (quantization int8/int4, support mobile + microcontrôleurs), ONNX Runtime (cross-platform, accélération GPU/NPU native), OpenVINO Intel (optimisé Core Ultra / Arc GPU), ExecuTorch Meta (mobile PyTorch). Tendance 2025-2026 : SLM (Small Language Models, <7B paramètres) quantisés en GGUF Q4_K_M ou Q8_0 deployables sur Jetson Orin — Mistral 7B Instruct, Phi-3 Mini, Llama 3.2 3B atteignent des performances conversationnelles acceptables sur Jetson.
Contraintes : mémoire RAM limitée (4-64 GB sur edge), gestion thermique (fanless industriel 0-55°C), cycle de mise à jour modèle (OTA sécurisé indispensable), monitoring drift via métriques locales.
Maîtriser Edge AI permet aux équipes techniques et métier de parler le même langage — et d'arbitrer plus vite.
#Edge AI expliqué simplement
Prenez une caméra sur une ligne de production pharmaceutique. Elle doit détecter si un bouchon de flacon est mal sertni — à 300 flacons par minute. Solution cloud : la caméra envoie chaque image vers un serveur à Paris, le serveur analyse, répond 'défaut détecté', et la caméra rejette le flacon.
Temps total : 200 à 500 ms. À 300 flacons par minute, c'est 5 flacons produits pendant le trajet aller-retour. Inutilisable. Solution Edge AI : le modèle de vision tourne directement dans la caméra (ou dans un mini-PC NVIDIA Jetson collé à la ligne). L'image ne quitte jamais le réseau local.
Réponse en 8 ms. Chaque flacon défectueux est rejeté immédiatement. En bonus : les images de production ne partent jamais dans le cloud — zéro risque RGPD, zéro dépendance réseau. C'est la logique de l'Edge AI : déplacer l'intelligence là où la donnée naît, plutôt que de transporter la donnée là où vit l'intelligence.
Visualisez le quotidien d'un directeur technique ou d'un CMO en scale-up. La différence entre théorie et terrain ? Les chiffres. Et les chiffres, on les a.
#Cas d'usage concrets
Exemple de situation : contrôle qualité par vision industrielle (ligne de production agroalimentaire) — Exemple de situation : un module NVIDIA Jetson Orin NX est déployé sur une ligne d'emballage, avec un modèle YOLOv9 fine-tuné sur des images de défauts produit. L'inférence tient la cadence de la ligne. On compare le taux de détection avec le contrôle visuel humain. Aucune image n'est transmise hors du site industriel, ce qui simplifie la conformité RGPD.
Exemple de situation : caméra intelligente de surveillance d'entrepôt (détection d'anomalies comportementales) — Exemple de situation : une caméra edge à capteur CMOS industriel et NPU intégré exécute un modèle d'estimation de pose MoveNet quantisé. Elle détecte en temps réel des chutes, des intrusions en zone interdite et l'absence d'EPI (casque, gilet).
L'alerte part en local vers le smartphone du superviseur via le Wi-Fi du site. Les données vidéo brutes ne quittent jamais le site.
Exemple de situation : assistant vocal hors ligne sur terminal industriel (opérateur en zone ATEX) — Exemple de situation : un terminal durci embarque un modèle Whisper Tiny quantisé (reconnaissance vocale) et un petit LLM local (Phi-3 Mini en Q4). L'opérateur interroge les procédures de maintenance en langage naturel, sans connexion réseau, dans une zone ATEX sans Wi-Fi déployé. L'autonomie sur une journée de poste est un critère de choix du matériel.
Exemple de situation : maintenance prédictive par capteur de vibrations (ETI industrielle) — Exemple de situation : un microcontrôleur STM32H7 exécute un modèle TensorFlow Lite int8 entraîné sur des signatures vibratoires de défauts de roulements. L'inférence se fait sur des fenêtres de signal FFT à intervalle régulier, avec une très faible consommation et une longue autonomie sur batterie.
Une alarme MQTT part si la probabilité de défaut dépasse un seuil. Aucune donnée brute ne remonte : seulement le label et le score de confiance.
#Edge AI chez Nehos Groupe
L'équipe Nehos travaille avec cette technologie. Notre service Agents IA Nehos couvre ce périmètre de A à Z.
Chaque mission démarre par un cadrage structuré : objectifs chiffrés, périmètre technique, jalons à 30/60/90 jours. On livre, on mesure, on itère. Pas de slides sans livrable.
#Termes associés
Pour aller plus loin, explorez les termes connexes.
- IoT Industriel (IIoT)
- Computer Vision
- Edge Computing
- Jumeau Numérique
- OPC-UA
- Maintenance Prédictive
- LLM Souverain
Tous ces termes sont interconnectés. Maîtriser l'un sans comprendre les autres, c'est voir le puzzle sans toutes les pièces.
Applications Concrètes
« Exemple de situation : un module NVIDIA Jetson Orin NX est déployé sur une ligne d'emballage, avec un modèle YOLOv9 fine-tuné sur des images de défauts produit. L'inférence tient la cadence de la ligne. On compare le taux de détection avec le contrôle visuel humain. Aucune image n'est transmise hors du site industriel, ce qui simplifie la conformité RGPD. »
« Exemple de situation : une caméra edge à capteur CMOS industriel et NPU intégré exécute un modèle d'estimation de pose MoveNet quantisé. Elle détecte en temps réel des chutes, des intrusions en zone interdite et l'absence d'EPI (casque, gilet). L'alerte part en local vers le smartphone du superviseur via le Wi-Fi du site. Les données vidéo brutes ne quittent jamais le site. »
« Exemple de situation : un terminal durci embarque un modèle Whisper Tiny quantisé (reconnaissance vocale) et un petit LLM local (Phi-3 Mini en Q4). L'opérateur interroge les procédures de maintenance en langage naturel, sans connexion réseau, dans une zone ATEX sans Wi-Fi déployé. L'autonomie sur une journée de poste est un critère de choix du matériel. »
« Exemple de situation : un microcontrôleur STM32H7 exécute un modèle TensorFlow Lite int8 entraîné sur des signatures vibratoires de défauts de roulements. L'inférence se fait sur des fenêtres de signal FFT à intervalle régulier, avec une très faible consommation et une longue autonomie sur batterie. Une alarme MQTT part si la probabilité de défaut dépasse un seuil. Aucune donnée brute ne remonte : seulement le label et le score de confiance. »
Questions & réponses
Questions fréquentes sur l'Edge AI
Trois paradigmes de localisation de l'inférence. Cloud AI : la donnée brute part vers un datacenter distant, le modèle tourne sur GPU cloud (H100, A100), résultat retourné via réseau. Latence : 100-500 ms selon débit et géographie. Avantage : modèles de grande taille illimités. Inconvénient : dépendance réseau, coût bande passante, données exposées hors site. Fog AI (ou Fog Computing) : nœud intermédiaire dans le réseau local de l'usine ou du bâtiment — serveur rack local. Latence : 20-80 ms. Équilibre entre puissance et proximité. Edge AI : inférence dans le dispositif lui-même (caméra, capteur, terminal). Latence : 2-30 ms. Contrainte : taille du modèle limitée par RAM et puissance de calcul embarquée.
Quatre familles selon le contexte. (1) Vision industrielle haute cadence : NVIDIA Jetson Orin NX (70 TOPS, CUDA, idéal YOLOv8/v9, deepstream). (2) Classification image faible consommation (<5W) : Google Coral Edge TPU (USB ou M.2, TF Lite exclusif, 4 TOPS). (3) Audio / NLP embarqué sur terminaux mobiles : Qualcomm AI Engine (Snapdragon 8 Elite, 73 TOPS) ou Apple Neural Engine (A18 Pro, 38 TOPS). (4) Microcontrôleur très faible consommation (batterie 18 mois) : STM32H7 + TF Lite Micro, Arm Cortex-M85 (MCU IA). Critères de décision : puissance requise (TOPS), budget thermique (fanless ?), framework IA supporté, contrainte de certification (ATEX, IP67, IEC 61508).
Oui, sous conditions. Les SLM (Small Language Models, <7B paramètres) quantisés en Q4 ou Q8 (format GGUF via llama.cpp) sont deployables sur Jetson Orin (16-64 GB RAM). Les performances varient fortement selon le modèle, la quantisation et la mémoire disponible : plus le modèle est petit, plus la vitesse de génération est élevée. Limites : pas de contexte long (16k max confortable), pas de RAG avec base documentaire lourde, mise à jour modèle nécessite OTA sécurisé. Usage recommandé Nehos : assistant procédure maintenance, Q&A documentation technique, classification intent — pas de génération de rapport longue.
Problème souvent sous-estimé en phase projet. Solution industrielle standard : OTA (Over-The-Air update) sécurisé via un MDM (Mobile Device Management) ou une plateforme MLOps edge — AWS IoT Greengrass, Azure IoT Edge, ou Balena.io pour Linux embarqué. Workflow recommandé : (1) nouveau modèle validé en staging sur un device jumeau, (2) A/B test sur 5-10 % du parc edge, (3) métriques de performance (précision, latence, taux de faux positifs) comparées pendant 48h, (4) rollout progressif ou rollback automatique si dégradation >2 %. Jamais de mise à jour directe en production sans staging préalable sur device physique identique.
Pas par défaut, mais il simplifie substantiellement la conformité. Si les données brutes (images, voix, données biométriques) ne quittent jamais le dispositif edge — seuls les résultats d'inférence (label, score, alerte) transitent — la surface d'exposition RGPD est réduite au minimum. Points à documenter : base légale du traitement (article 6 RGPD), nature des données inférées (article 9 si biométrique), durée de rétention locale, accès physique au dispositif. Recommandation Nehos : faire valider l'architecture edge AI par le DPO avant déploiement, avec cartographie précise de ce qui quitte (ou ne quitte pas) le dispositif.
Six secteurs où l'approche est particulièrement pertinente. (1) Manufacturing / industrie : contrôle qualité vision, maintenance prédictive vibrations, détection EPI. (2) Santé : diagnostic embarqué sur équipements médicaux, monitoring patient offline. (3) Retail : analyse comportement client sur caméra in-store, sans transmissions images. (4) Logistique / entrepôts : tri automatique colis, détection anomalies manutention. (5) Énergie : inspection drone + analyse embarquée lignes HT, éoliennes. (6) Automobile : ADAS (Advanced Driver Assistance Systems), perception LiDAR/caméra embarquée. Critère commun : contrainte de latence réelle (<50 ms) ou impossibilité de transmettre les données brutes (réseau absent, RGPD, débit limité).