Comprendre les Réseaux de Neurones & LeNet-5
Un guide visuel, progressif et adapté pour comprendre pas à pas le fonctionnement d'un réseau de neurones artificiels et l'architecture historique LeNet-5.
0. Sommaire & Guide de Lecture
📌 Comment lire ce dossier (3 conseils simples)
- Lisez dans l'ordre : Chaque section s'appuie sur la précédente pour une assimilation sans effort.
- Suivez le fil rouge : Un chiffre « 7 » manuscrit sur un chèque traverse toutes les étapes, de la photo à la décision.
- Testez à votre rythme : Utilisez les animations et le quiz interactif sans limite de temps.
📑 Sommaire du dossier
- 1. Le problème concret du chiffre manuscrit
- 2. Le neurone artificiel (mini-décision)
- 3. Le réseau (travail en équipe)
- 4. L'apprentissage (essai-erreur)
- 5. La convolution (fenêtre glissante)
- 6. Le pooling (garder l'essentiel)
- 7. LeNet-5 couche par couche
- 8. Résultats concrets & Histoire vraie
- 9. À quoi ça sert aujourd'hui (4 cas)
- 10. Glossaire & 10 points à retenir
- 11. Quiz d'auto-évaluation (10 questions)
- 🚀 Démonstration Google Colab (PyTorch) ↗
1. Le problème concret : comment une machine lit-elle un chiffre manuscrit ?
D'abord, observons comment un être humain lit un chèque bancaire. Nos yeux reconnaissent instantanément le chiffre « 7 », même s'il est tracé de travers, plus ou moins incliné, avec une barre ou sans barre.
Imaginons qu'une machine regarde ce même chèque.
En réalité, la machine ne voit pas une forme globale. Elle reçoit uniquement une grille de cases appelées pixels. Chaque case contient un simple nombre qui indique le niveau de luminosité : 0 pour une case blanche et 255 pour une case noire avec de l'encre.
Le défi informatique est alors le suivant : comment enseigner à un programme informatique à reconnaître avec certitude qu'une grille de nombres représente un « 7 », sans écrire des millions de règles manuelles ? C'est la mission exacte d'un réseau de neurones.
💡 À retenir
- Une image est une grille de pixels contenant des nombres de luminosité entre 0 et 255.
- Le réseau doit reconnaître la forme du chiffre malgré toutes les variations d'écriture.
2. Le neurone artificiel : une mini-décision élémentaire
Imaginons qu'un neurone artificiel soit un juge qui écoute trois témoins. Chaque témoin apporte un indice (une valeur d'entrée). Le juge accorde plus ou moins d'importance à chaque témoin (les poids).
En réalité, la machine effectue deux opérations mathématiques très simples :
- La somme pondérée : D'abord, le neurone multiplie chaque entrée par son poids et additionne le tout.
- Le test de seuil (fonction d'activation) : Ensuite, si le total dépasse un seuil fixé, le neurone s'allume et envoie un signal (1) ; sinon, il reste éteint (0).
⚡ Démonstration Interactive : Le Neurone s'active (Entrées → Somme → Seuil → Sortie)
Activez ou désactivez les 3 entrées pour observer le calcul de la somme pondérée et le franchissement du seuil (Seuil fixé à 2.00).
💡 À retenir
- Un neurone calcule une somme pondérée de ses entrées (Entrée × Poids).
- Si la somme franchit le seuil d'activation, le neurone émet un signal de sortie.
3. Le réseau : des couches de neurones qui travaillent en équipe
Imaginons un grand immeuble de bureaux à trois étages. Au rez-de-chaussée, les employés de l'accueil reçoivent le courrier brut. Au premier étage, les gestionnaires trient les dossiers par catégories. Au dernier étage, la direction prend la décision finale.
En réalité, la machine empile des couches de neurones successives :
- D'abord, la couche d'entrée (Étage 1) reçoit les pixels bruts de l'image.
- Ensuite, la couche cachée (Étage 2) assemble ces points en segments et traits géométriques.
- Enfin, la couche de sortie (Étage 3) combine les traits pour décider quel chiffre a été tracé parmi les dix classes (0 à 9).
💡 À retenir
- Les neurones sont organisés en couches : couche d'entrée, couches cachées et couche de sortie.
- Chaque couche apprend des motifs de plus en plus complexes et abstraits.
4. L'apprentissage : essai-erreur et correction automatique
Imaginons un archer débutant qui tire sa première flèche vers une cible. Son premier tir atterrit loin du centre. Il observe l'écart, corrige la position de son bras et recommence.
En réalité, la machine commence avec des poids aléatoires. L'apprentissage se déroule en trois temps répétés des milliers de fois :
- D'abord, la prédiction : L'image traverse le réseau vers la sortie.
- Ensuite, le calcul de l'erreur : On mesure l'écart entre la réponse fournie et le vrai chiffre « 7 ».
- Enfin, la rétropropagation : L'erreur remonte en sens inverse pour ajuster légèrement chaque poids dans la bonne direction.
🏹 La Passerelle Code : De l'Archer au Code PyTorch (Les 5 Verbes Clés)
Pour un débutant, la boucle d'apprentissage d'un réseau de neurones en Python ressemble souvent à une suite d'instructions magiques. En réalité, elle traduit mot pour mot le geste physique d'un archer face à sa cible :
optimizer.zero_grad()
Remet les compteurs de correction (gradients) à zéro avant chaque tir pour ne pas cumuler les erreurs du tour précédent.
outputs = model(images)
L'image de 32×32 pixels traverse tous les étages de l'immeuble (C1 à Sortie) jusqu'au bureau de direction pour émettre une prédiction.
loss = criterion(outputs, labels)
On calcule l'écart mathématique exact entre le chiffre proposé par le réseau et la cible réelle (l'étiquette du chiffre « 7 »).
loss.backward()
L'erreur remonte de la sortie vers l'entrée par dérivation en chaîne, calculant le réglage exact nécessaire pour chacun des 61 706 poids.
optimizer.step()
Tous les poids du réseau sont modifiés d'une infime fraction vers une position plus précise : l'archer est prêt pour un tir plus ajusté au tour suivant !
📉 Démonstration Interactive : L'erreur descend au fil de l'apprentissage
Cliquez sur le bouton « Entraîner encore » pour lancer des cycles d'apprentissage, ajuster les poids par rétropropagation et observer la chute de l'erreur.
💡 À retenir
- L'apprentissage fonctionne par essai, mesure de l'erreur et correction des poids.
- La rétropropagation est le mécanisme mathématique qui ajuste les paramètres pour minimiser l'erreur.
5. La convolution : la petite fenêtre qui balaye l'image
Imaginons une petite loupe carrée transparente (un filtre de 3×3 ou 5×5 pixels) qui glisse pas à pas sur toute la surface de l'image.
En réalité, la machine calcule un produit local entre les pixels sous la loupe et les coefficients du filtre :
- D'abord, le filtre se positionne sur le coin supérieur gauche de l'image.
- Ensuite, il glisse case par case vers la droite, puis descend ligne par ligne.
- Enfin, chaque calcul local s'inscrit dans une nouvelle grille appelée carte de caractéristiques (feature map).
🔍 Démonstration Interactive : « La fenêtre qui balaye » (Grille 6×6)
Observez le filtre 3×3 glisser pas à pas sur l'image 6×6 pour produire la carte de caractéristiques 4×4. Utilisez les boutons ou la lecture lente.
💡 À retenir
- Un filtre de convolution glisse sur toute l'image pour repérer des formes locales partout où elles apparaissent.
- Ce procédé réduit le nombre de paramètres nécessaires par rapport à un réseau traditionnel.
6. Le pooling : condenser et ne garder que l'essentiel
Imaginons un résumé de réunion qui ne retient que la décision principale de chaque dossier au lieu de toutes les discussions.
En réalité, après avoir détecté les traits avec la convolution, l'image contient encore beaucoup de pixels. Pour rendre le système plus rapide et tolérant aux légers déplacements du dessin, on applique une étape de pooling (ou sous-échantillonnage) :
- D'abord, la méthode Max-Pooling découpe l'image en blocs de 2×2 cases.
- Ensuite, elle conserve uniquement la valeur la plus forte de chaque bloc.
- Enfin, la taille de l'image est divisée par deux tout en conservant le signal déterminant.
💡 À retenir
- Le pooling compresse les dimensions de l'image en sélectionnant les signaux dominants.
- Il permet au réseau de reconnaître un chiffre même s'il est légèrement déplacé ou déformé.
7. LeNet-5 couche par couche : la structure historique complète
Conçu en 1998 par l'équipe de Yann LeCun aux laboratoires AT&T Bell, LeNet-5 est le premier réseau convolutif à avoir été déployé à grande échelle industrielle. Le pipeline complet traite une image de 32×32 pixels jusqu'aux 10 sorties de classification (0 à 9).
Au total, LeNet-5 ne compte qu'environ 60 000 paramètres entraînables [LeCun et al., 1998, Sect. II-A « only 60 000 trainable free parameters »]. C'est un cahier de réglages très compact, équivalent à la taille d'un petit livre, là où les modèles d'intelligence artificielle modernes mobilisent des centaines de millions ou des milliards de paramètres.
🏛️ Le Pont 1998 → Moderne : Les Deux Verrous Historiques qui ont Sauté
Si l'architecture de Yann LeCun en 1998 contenait déjà tous les principes fondamentaux du Deep Learning (convolutions, pooling, rétropropagation), pourquoi a-t-il fallu attendre 14 ans (l'avènement d'AlexNet en 2012) pour déclencher la révolution mondiale de l'IA ? Deux verrous majeurs bloquaient le passage à l'échelle :
En 1998 (Tangente Hyperbolique $\tanh$) : Les neurones utilisaient la fonction $\tanh(z) = \frac{e^z - e^{-z}}{e^z + e^{-z}}$. Dès que l'entrée dépasse $+2$ ou $-2$, la courbe devient quasi horizontale et sa dérivée s'effondre vers zéro ($1 - \tanh^2 \approx 0$). Lors de la rétropropagation, multiplier ces petites dérivées d'étage en étage fait disparaître le gradient ($0.25^N \to 0$, le phénomène du Vanishing Gradient). Les premières couches ne recevaient plus aucun signal d'apprentissage, interdisant d'empiler plus de 5 couches.
En 1998 (CPU x86 & DSP AT&T) : Les processeurs Pentium II (300 MHz) traitaient les millions d'opérations de convolution de façon essentiellement séquentielle (un pixel à la fois). Entraîner LeNet-5 nécessitait plusieurs jours de calcul sur stations de travail spécialisées.
nn.Tanh() et le sous-échantillonnage nn.AvgPool2d() de Yann LeCun (1998), garantissant le décompte historique exact de 61 706 paramètres entraînables.
💡 À retenir
- LeNet-5 alterne Convolution (extraction) et Sous-échantillonnage (compression) avant la décision finale.
- Le réseau ne compte que 60 000 paramètres, ce qui lui permettait de tourner rapidement sur les processeurs de 1998.
8. Résultats concrets et histoire vraie : le tri des chèques NCR
LeNet-5 n'est pas resté confiné dans un laboratoire de recherche théorique. Dès la fin des années 1990, le constructeur bancaire NCR a intégré LeNet-5 dans ses trieuses automatiques de chèques.
Les chiffres clés vérifiés de ce déploiement historique sont les suivants :
- Taux d'erreur record : Sur la base de test MNIST (10 000 chiffres manuscrits), l'erreur s'établit à 0,95 % sans distorsion [LeCun et al., 1998, sec. III « stabilizes … at 0.95% »] et descend à 0,8 % avec distorsions [LeCun et al., 1998, sec. III « dropped to 0.8% »].
- Volume industriel : Les machines NCR traitaient plusieurs millions de chèques par mois (source primaire) [LeCun et al., 1998, sec. I « reading millions of checks per month »].
- Part de marché : Ce volume est estimé à environ 10 % de l'ensemble des chèques bancaires américains [Wikipédia, LeNet (source secondaire - À RECOUPER)].
- Compacité : L'ensemble de l'architecture repose sur seulement 60 000 paramètres entraînables [LeCun et al., 1998, Sect. II-A « only 60 000 trainable free parameters »].
💡 À retenir
- LeNet-5 a prouvé la viabilité industrielle des réseaux convolutifs dès 1998 en traitant ~20 millions de chèques par jour (~10 % du volume US).
- Son taux d'erreur inférieur à 1% sur MNIST a posé le standard mondial pour la vision par ordinateur.
9. À quoi ça sert aujourd'hui : 4 applications du quotidien
Les mécanismes inventés avec LeNet-5 (convolution, pooling, couches denses) sont le moteur des systèmes de vision par ordinateur d'aujourd'hui :
Des réseaux de neurones convolutifs analysent la forme géométrique du visage captée en infrarouge. La machine déverrouille l'appareil instantanément en vérifiant les points clés du visage.
Les filtres convolutifs repèrent des micro-lésions et anomalies sur les radiographies pulmonaires ou les IRM. Le modèle assiste les médecins en localisant les zones nécessitant un examen approfondi.
Des caméras embarquées détectent en temps réel les panneaux de signalisation, les piétons et les marquages au sol. Le système ajuste la vitesse et la trajectoire du véhicule pour assurer la sécurité.
Les algorithmes classent automatiquement vos albums selon les scènes visibles (plage, montagne, animaux). Vous retrouvez n'importe quelle photo en tapant un simple mot-clé sans indexation manuelle.
💡 À retenir
- Toutes les technologies de vision moderne (téléphones, hôpitaux, transports) reposent sur les bases posées par LeNet-5.
- La combinaison convolution et classification permet d'automatiser des décisions visuelles complexes.
10. Glossaire illustré & 10 points clés à retenir
📖 Glossaire (15 termes indispensables)
| Terme technique | Définition simple et concrète |
|---|---|
| Pixel | Plus petite unité d'une image numérique, représentée par une valeur de luminosité (0 à 255). |
| Neurone artificiel | Élément de calcul effectuant une somme pondérée de ses entrées suivie d'un test de seuil. |
| Poids synaptique (w) | Coefficient numérique ajustable déterminant l'importance accordée à une connexion. |
| Biais (b) | Valeur seuil ajoutée à la somme pondérée pour décaler l'activation d'un neurone. |
| Fonction d'activation | Règle mathématique décidant si le neurone transmet son signal à la couche suivante. |
| Couche cachée | Couche de neurones intermédiaire située entre la couche d'entrée et la couche de sortie. |
| Convolution | Opération de filtrage glissant extrayant des motifs visuels locaux sur une image. |
| Filtre / Noyau | Petite grille de nombres (ex. 3×3 ou 5×5) chargée de détecter un trait spécifique. |
| Carte de caractéristiques | Grille intermédiaire résultant de l'application d'un filtre de convolution. |
| Pooling (Sous-échantillonnage) | Compression spatiale réduisant la taille de la carte en conservant le signal fort. |
| Rétropropagation | Algorithme qui calcule l'erreur et ajuste chaque poids d'arrière en avant. |
| Époque (Epoch) | Un cycle complet d'entraînement au cours duquel le réseau a vu la totalité des exemples. |
| Fonction de coût (Loss) | Mesure numérique de l'écart d'erreur entre la prédiction et le vrai résultat. |
| MNIST | Base de données de référence historique comportant 70 000 chiffres manuscrits (0 à 9). |
| Invariance spatiale | Capacité d'un réseau à reconnaître un chiffre quel que soit son emplacement dans l'image. |
⭐ Les 10 points clés à retenir absolument
- Une image est une grille de pixels contenant des valeurs de luminosité de 0 à 255.
- Un neurone effectue une somme pondérée de ses entrées et la compare à un seuil d'activation.
- Un réseau empile des couches successives pour construire des représentations hiérarchisées.
- L'entraînement ajuste automatiquement les poids pour réduire l'erreur par rétropropagation.
- La convolution utilise une fenêtre glissante pour repérer les contours et les formes locales.
- Le pooling compresse les dimensions et tolère les légères déformations de l'écriture.
- LeNet-5 alterne deux blocs Convolution-Pooling avant ses couches denses de décision.
- LeNet-5 compte environ 60 000 paramètres entraînables pour classer les chiffres 0 à 9.
- LeNet-5 a été validé sur le terrain en traitant des millions de chèques bancaires par mois chez NCR.
- Ces principes historiques constituent le socle de toute la vision par ordinateur contemporaine.
11. Quiz d'auto-évaluation interactif (10 questions)
Sélectionnez une réponse pour chaque question. La correction s'affiche immédiatement avec une explication claire.
Question 1 : Comment une machine perçoit-elle une image numérique ?
Question 2 : Quelles sont les deux opérations de base effectuées par un neurone artificiel ?
Question 3 : Dans un réseau de neurones, à quoi servent les « poids » ?
Question 4 : Quel est le rôle principal de l'opération de convolution ?
Question 5 : À quoi sert l'étape de Pooling (Max-Pooling) ?
Question 6 : Combien de paramètres entraînables possède approximativement LeNet-5 (1998) ?
Question 7 : Quelle était l'application commerciale industrielle majeure de LeNet-5 en 1998 ?
Question 8 : Quel taux d'erreur remarquable LeNet-5 a-t-il obtenu sur la base de données MNIST ?
Question 9 : Comment appelle-t-on le mécanisme qui propage l'erreur en arrière pour ajuster les poids ?
Question 10 : Pourquoi les réseaux convolutifs (CNN) sont-ils si performants en vision par ordinateur ?