Tomaso Poggio – 1947 à nos jours

Biography

L’histoire des neurosciences computationnelles et de l’intelligence artificielle contemporaine est jalonnée de trajectoires intellectuelles singulières, mais peu d’entre elles incarnent avec autant de rigueur, de profondeur théorique et d’élégance méthodologique le dialogue entre physique, mathématiques pures et biologie du système nerveux que celle de Tomaso Poggio. Né en Italie au sortir de la Seconde Guerre mondiale, ce chercheur d’exception a transformé de manière radicale la façon dont la communauté scientifique appréhende le problème de la perception visuelle, la théorie de l’apprentissage statistique et, plus largement, les principes fondamentaux qui gouvernent le fonctionnement des systèmes intelligents, qu’ils soient faits de chair ou de silicium.

Figure tutélaire du Massachusetts Institute of Technology (MIT) depuis le début des années 1980, titulaire de la chaire Eugene McDermott et cofondateur du prestigieux Center for Brains, Minds and Machines (CBMM), Tomaso Poggio a été le pionnier de l’analogie structurante entre les problèmes inverses mal posés de la physique mathématique et les énigmes computationnelles posées par le décodage sensoriel biologique. Collaborateur intime du visionnaire David Marr à la fin des années 1970, il a largement contribué à jeter les bases conceptuelles de la célèbre triade computationnelle, tout en développant une œuvre personnelle monumentale qui va de l’analyse cybernétique du système visuel des invertébrés aux modèles hiérarchiques du cortex ventral des primates, jusqu’aux fondements mathématiques les plus récents de l’apprentissage profond.

Cet article propose une exploration intégrale et exhaustive de l’œuvre, de la vie et des théories de Tomaso Poggio, depuis ses racines génoises jusqu’à ses travaux contemporains sur la démystification de la sur-paramétrisation dans les réseaux de neurones artificiels. À travers l’étude minutieuse de son itinéraire intellectuel, nous retracerons l’évolution d’une discipline devenue centrale pour les sciences cognitives et l’ingénierie moderne : la conviction inébranlable que comprendre le cerveau et bâtir des machines intelligentes représentent deux faces inséparables d’un même problème mathématique et naturel universel.

1. Introduction biographique et genèse d’un pionnier des sciences cognitives computationnelles

1.1 Origines italiennes et formation initiale en physique théorique

Tomaso Poggio est né à Gênes en 1947, au sein d’une Italie en pleine reconstruction matérielle et culturelle d’après-guerre. Grandissant dans un environnement intellectuel stimulant, caractérisé par un humanisme exigeant et une vive curiosité pour les lois régissant le monde matériel, le jeune Poggio manifeste très tôt une inclination marquée pour les abstractions quantitatives. Son parcours universitaire s’articule naturellement autour de la physique théorique à l’Université de Gênes, une institution réputée pour sa tradition d’excellence analytique. En 1970, il y obtient son doctorat sous la direction de professeurs profondément versés dans la mécanique statistique et la théorie quantique des champs. Cette formation initiale marque à tout jamais son épistémologie : la physique théorique ne se contente pas de décrire les phénomènes de manière phénoménologique ou narrative ; elle s’efforce d’isoler des lois universelles invariantes, formulables dans un langage mathématique rigoureux et parcimonieux.

Au tournant des années 1970, alors que la physique des particules attire l’essentiel des jeunes diplômés, Poggio opère une réorientation conceptuelle audacieuse. Intrigué par la complexité émergente de la matière vivante, il perçoit les prémisses d’une révolution intellectuelle : le transfert des outils de la physique statistique et de la thermodynamique hors équilibre vers les mystères du traitement de l’information biologique. Les premiers modèles biophysiques du potentiel d’action formulés par Alan Hodgkin et Andrew Huxley, tout comme les réflexions fondatrices d’Erwin Schrödinger dans What is Life?, agissent comme de puissants catalyseurs. Poggio comprend que le système nerveux n’est pas simplement un agrégat de cellules régies par la biochimie, mais un dispositif physique sophistiqué conçu pour exécuter des calculs complexes à partir de signaux hautement bruités et ambigus. Dès ses premières recherches de post-doctorat, il s’emploie à transposer les méthodes d’analyse des systèmes non linéaires et de la propagation des champs vers l’étude des potentiels synaptiques et de la connectivité neurale.

1.2 L’ancrage institutionnel au Massachusetts Institute of Technology

Après une période formatrice particulièrement féconde en Allemagne, Tomaso Poggio traverse l’Atlantique en 1981 pour s’installer définitivement à Cambridge, Massachusetts. Invité par les directeurs du légendaire Laboratoire d’intelligence artificielle du MIT, alors codirigé par Marvin Minsky et Patrick Winston, il intègre simultanément le département des sciences du cerveau et des sciences cognitives (qui deviendra plus tard le Department of Brain and Cognitive Sciences). Cette double affiliation est emblématique de sa posture intellectuelle : refuser catégoriquement le schisme académique artificiel qui sépare l’ingénierie logicielle de la biologie neuronale empirique. Au MIT, Poggio fonde et dirige le Computational Vision and Biological Learning Laboratory, un creuset expérimental et théorique où des générations d’étudiants brillants se consacrent à l’élucidation mathématique de la vision et de l’apprentissage.

Au fil des décennies, son ancrage institutionnel se consolide de manière spectaculaire. Nommé titulaire de la chaire Eugene McDermott au MIT, Poggio s’impose comme l’architecte discret mais fondamental de la politique scientifique reliant le laboratoire d’informatique et d’intelligence artificielle (CSAIL) et l’Institut McGovern pour la recherche sur le cerveau. Par son entregent scientifique et son autorité morale, il parvient à institutionnaliser une interface interdisciplinaire durable entre les neurosciences cellulaires, la psychologie cognitive expérimentale et la modélisation informatique avancée. Sous son impulsion, la recherche au MIT cesse de considérer le cerveau comme une métaphore vague pour l’informatique, pour en faire au contraire le sujet premier et l’arbitre suprême de toute théorie valide du traitement intelligent de l’information.

1.3 Objectifs épistémologiques : Décrypter l’esprit par le prisme computationnel

L’ambition intellectuelle qui sous-tend l’ensemble de l’œuvre de Tomaso Poggio repose sur une clarification conceptuelle majeure : la perception visuelle est fondamentalement un problème inverse mal posé au sens mathématique. Lorsque le système visuel d’un être humain ou d’un animal observe le monde, il reçoit sur sa rétine une projection bidimensionnelle continue, bruitée et sous-déterminée d’un environnement tridimensionnel complexe, changeant et discontinu. Comment le cerveau réussit-il, en quelques fractions de seconde, à déduire avec une certitude quasi absolue la géométrie, la matière, la vitesse et l’identité des objets observés ? Pour Poggio, la réponse ne réside ni dans une taxonomie descriptive des comportements, ni dans une simple énumération des connexions anatomiques, mais dans la découverte des principes computationnels abstraits qui permettent de régulariser ce problème inverse.

Son objectif épistémologique s’articule ainsi autour d’une théorie unifiée capable de lier organiquement les théorèmes mathématiques les plus exigeants — tels que l’analyse fonctionnelle, la théorie de l’approximation et la géométrie différentielle — à l’architecture biophysique des membranes neuronales, des canaux ioniques et des circuits corticaux. Poggio adopte une position philosophique originale vis-à-vis du réductionnisme biologique et du fonctionnalisme computationnel. Rejetant le réductionnisme naïf qui prétend tout expliquer par la pure biochimie sans égard pour le niveau de calcul, il récuse tout autant le fonctionnalisme computationnel radical qui postule que le support matériel est indifférent à la nature de la pensée. Pour Poggio, les contraintes physiques imposées par les circuits de matière organique ont façonné les algorithmes mêmes de l’esprit ; l’étude mathématique des algorithmes doit constamment s’inspirer des compromis d’ingénierie trouvés par la sélection naturelle.

2. Les fondements interdisciplinaires : Physique théorique et cybernétique à Tübingen

2.1 Le passage à l’Institut Max Planck de cybernétique biologique

Avant d’occuper les chaires prestigieuses du MIT, c’est en Allemagne, au cœur de l’illustre Institut Max Planck de cybernétique biologique à Tübingen, que Tomaso Poggio forge son outillage conceptuel durant les années 1970. Fondé par Hans Wenking, Martin Reichardt et Bernhard Hassenstein, cet institut représentait alors l’épicentre mondial de l’approche cybernétique appliquée aux organismes vivants. Poggio y entame une collaboration séminale avec le physicien et biologiste Werner Reichardt. Ensemble, ils s’attaquent à un organisme modèle d’une simplicité trompeuse : le système visuel et le comportement de vol de la mouche domestique (Musca domestica). Pour la première fois, le comportement d’un animal intact traquant une cible visuelle est quantifié avec la précision métrologique d’une expérience de mécanique quantique, dans des dispositifs expérimentaux de vol stationnaire asservi.

L’apport novateur de Poggio consiste à introduire l’arsenal formel des séries fonctionnelles de Volterra pour modéliser le traitement non linéaire de l’information visuelle chez l’invertébré. Plutôt que de traiter le système nerveux de la mouche comme une boîte noire impénétrable ou comme un agencement purement linéaire de filtres, Poggio démontre que la réponse optomotrice et le comportement d’orientation peuvent être décomposés en une somme rigoureuse d’opérateurs non linéaires d’ordres croissants :

• Des noyaux linéaires d’ordre 1 décrivant la réponse globale à l’intensité lumineuse moyenne et au contraste ambiant.
• Des noyaux multiplicatifs non linéaires d’ordre 2 formalisant le principe de corrélation croisée bilatérale entre signaux captés par des ommatidies adjacentes.
• Des interactions d’ordres supérieurs (ordres 3 et 4) capturant les effets de saturation, d’adaptation spatiotemporelle et de modulation contextuelle complexe.

Cette formalisation mathématique donne une assise analytique définitive au célèbre « détecteur de Reichardt » (ou détecteur de mouvement élémentaire), prouvant qu’une opération de corrélation temporelle non linéaire entre deux entrées spatialement décalées suffit à extraire la direction et la vitesse du mouvement visuel sans nécessiter d’horloge centrale ou de calcul symbolique conscient.

2.2 Du système nerveux des invertébrés aux fonctions cognitives supérieures

L’impact des travaux menés à Tübingen dépasse très rapidement le cadre de l’entomologie cybernétique. Poggio démontre que les algorithmes de corrélation non linéaire découverts chez la mouche constituent en réalité une solution universelle adoptée par les systèmes visuels biologiques pour résoudre la tâche primordiale de la détection de mouvement. Avec Reichardt, il établit des ponts méthodologiques audacieux entre l’éthologie quantitative et les équations différentielles stochastiques, reliant directement les fluctuations browniennes de la trajectoire de vol d’un insecte aux signaux d’erreur calculés par les interneurones lobulaires de son cerveau miniature.

Progressivement, Poggio entrevoit la possibilité de transposer cette logique modulaire et hiérarchique au système nerveux des vertébrés supérieurs, y compris l’être humain. Si un réseau microscopique de quelques milliers de neurones peut implémenter une convolution spatio-temporelle complexe par de simples décalages dendritiques et des multiplications synaptiques locales, alors les fonctions cognitives complexes du cortex cérébral pourraient bien reposer sur l’empilement hiérarchique de modules opérationnels similaires. Cette intuition fondatrice marque l’abandon définitif des explications vitalistes ou holistiques floues au profit d’un programme de recherche résolument computationnel : isoler les opérateurs élémentaires de traitement du signal dans les tissus nerveux pour reconstruire, brique par brique, l’architecture globale de la cognition visuelle.

3. La collaboration déterminante avec David Marr et la triade computationnelle

3.1 La rencontre intellectuelle et la synergie Marr-Poggio

À la fin des années 1970, l’une des rencontres les plus décisives de l’histoire moderne des sciences de l’esprit s’opère entre Tomaso Poggio et le mathématicien et neurobiologiste britannique David Marr. Tous deux partagent le sentiment aigu que l’intelligence artificielle classique — focalisée sur la manipulation de symboles logiques et les micro-mondes abstraits — s’est fourvoyée en négligeant les mécanismes physiques de la perception. Parallèlement, la neurophysiologie descriptive, bien qu’accumulant des volumes massifs de données électrophysiologiques grâce aux enregistrements pionniers de David Hubel et Torsten Wiesel dans l’aire visuelle primaire (V1), souffre d’un déficit théorique criant : elle observe les décharges de potentiels d’action sans comprendre la tâche que ces décharges accomplissent.

La synergie entre les deux savants est immédiate et extraordinairement productive. Marr apporte une audace visionnaire, une capacité phénoménale à conceptualiser les flux d’information à grande échelle et un style rédactionnel incisif ; Poggio fournit la rigueur mathématique inflexible de la physique théorique, sa maîtrise approfondie des équations différentielles, du filtrage linéaire et non linéaire, et une connaissance intime de la biophysique synaptique. Ensemble, durant les séjours réguliers de Poggio au MIT et les visites de Marr à Tübingen, ils rédigent une série d’articles historiques qui vont redéfinir le paradigme de l’étude de la vision, couronnés par les travaux fondateurs sur la stéréopsie computationnelle et la formulation canonique des niveaux d’analyse des systèmes cognitifs.

3.2 Les trois niveaux d’analyse des systèmes cognitifs complexes

L’apport le plus universellement célèbre issu de cette collaboration — exposé magistralement dans l’ouvrage posthume de David Marr, Vision (1982), mais co-élaboré avec Poggio dans leurs articles conjoints — est le cadre méthodologique dit des « trois niveaux d’analyse ». Ce cadre épistémologique stipule que tout système effectuant un traitement complexe d’information ne peut être véritablement compris qu’à travers trois strates analytiques distinctes mais mutuellement contraintes :

• Le niveau computationnel (ou téléologique) : Il définit la nature exacte du problème traité. Quelle est la tâche ? Pourquoi cette opération est-elle effectuée ? Quelle est la logique mathématique fondamentale qui lie les entrées du système à ses sorties optimales ?
• Le niveau algorithmique et représentationnel : Il spécifie les représentations de données choisies pour encoder les états d’entrée et de sortie (par exemple, des matrices de luminance, des listes de segments vectoriels ou des cartes de disparité) et l’algorithme étape par étape qui transforme ces représentations pour satisfaire les contraintes du niveau computationnel.
• Le niveau de l’implémentation matérielle (ou physique) : Il décrit la manière dont ces algorithmes et représentations sont concrètement incarnés dans la physique du substrat, qu’il s’agisse de l’agencement de circuits intégrés en silicium ou de la cinétique des neurotransmetteurs au sein des synapses dendritiques.

Cette distinction a sauvé la psychologie cognitive et les neurosciences d’une impasse conceptuelle majeure. Elle a démontré qu’étudier un cerveau uniquement au niveau de ses canaux ioniques revenait à vouloir comprendre l’aérodynamique d’un oiseau en décortiquant la structure chimique de ses plumes, sans formuler la théorie générale du vol. Réciproquement, concevoir des algorithmes hors-sol sans vérifier leur implémentabilité dans un substrat physique risquait de mener à des abstractions computationalistes stériles.

3.3 Théorie de la vision stéréoscopique computationnelle

Pour mettre à l’épreuve ce cadre à trois niveaux, Marr et Poggio s’attaquent à l’un des problèmes les plus fascinants de la psychophysique : la stéréopsie binoculaire. Quelques années plus tôt, le psychologue Bela Julesz avait inventé les célèbres stéréogrammes à points aléatoires (RDS), apportant la preuve indiscutable que le système visuel humain est capable d’extraire la profondeur tridimensionnelle à partir de deux images planes dépourvues de tout repère sémantique, de tout contour familier ou de tout indice de perspective monoculaire. La vision stéréoscopique ne dépend donc pas d’une reconnaissance préalable des objets, mais d’un processus purement computationnel précoce de mise en correspondance point à point entre les rétines gauche et droite.

Marr et Poggio formulent deux algorithmes successifs d’une importance historique considérable pour résoudre ce problème d’appariement binoculaire :

1. L’algorithme coopératif de 1976 : Conçu sous la forme d’un réseau récurrent hautement parallèle, il implémente deux contraintes physiques fondamentales du monde réel : la contrainte d’unicité (un point physique dans l’espace ne peut occuper qu’une seule position rétinienne à la fois) et la contrainte de continuité (la matière étant généralement cohésive, les objets présentent des variations de profondeur lisses et continues). Ces contraintes sont traduites sous forme d’interactions synaptiques : une inhibition locale le long de la ligne de visée et une excitation coopérative dans le plan de profondeur voisin. Le modèle converge spontanément vers la solution physique correcte, mimant fidèlement la cinétique perceptive observée chez l’être humain confronté aux figures de Julesz.
2. L’algorithme multi-résolution de 1979 : Remplaçant les itérations récurrentes lentes par une architecture purement hiérarchique et ascendante, cet algorithme exploite le filtrage multi-échelle de l’image. En appariant d’abord les passages par zéro (zero-crossings) à basse fréquence spatiale pour guider les mouvements oculaires de vergence, le système affine progressivement l’appariement aux hautes fréquences spatiales, réduisant drastiquement l’espace combinatoire de recherche.

4. Théorie de la vision computationnelle : Modélisation des processus perceptifs précoces

4.1 La détection des contours et le filtrage multi-échelle

Au cœur de la vision précoce réside une exigence impérieuse : transformer une grille continue de photons incidents en une structure symbolique primitive isolant les discontinuités physiques pertinentes du monde extérieur. En collaboration avec David Marr et plus tard avec Vincent Torre, Tomaso Poggio formule une théorie rigoureuse de la détection des contours qui va révolutionner tant le traitement d’images sur ordinateur que la neurophysiologie de la vision primaire. Les variations d’intensité lumineuse captées par les photorécepteurs sont le fruit combiné de l’illumination, des ombres portées, de la texture des matériaux et de la géométrie des arêtes. Pour isoler les contours physiques réels tout en éliminant le bruit stochastique inhérent à la transduction photonique, le système doit impérativement lisser l’image avant d’en calculer les dérivées spatiales.

Poggio et Marr démontrent sur le plan analytique que le filtre idéal d’adoucissement — celui qui minimise de manière optimale l’incertitude conjointe dans le domaine spatial et dans le domaine fréquentiel, en vertu du principe d’indétermination de Fourier — est la fonction gaussienne bidimensionnelle. L’opérateur complet de détection de contour s’exprime alors par le Laplacien de la Gaussienne (souvent noté $\nabla^2 G$, ou opérateur de Marr-Hildreth) :

$$\nabla^2 G(x, y) = \left( \frac{\partial^2}{\partial x^2} + \frac{\partial^2}{\partial y^2} \right) \frac{1}{2\pi\sigma^2} \exp\left(-\frac{x^2+y^2}{2\sigma^2}\right)$$

Les contours physiques correspondent précisément aux « passages par zéro » (zero-crossings) de la convoluée de l’image brute avec ce filtre différentiel. Poggio démontre la corrélation stupéfiante entre cette formulation mathématique et la morphologie des champs récepteurs des cellules ganglionnaires de la rétine et des cellules simples du cortex visuel strié (aire V1). Les cellules à centre ON et périphérie OFF (ou inversement) implémentent très exactement des filtres de type « chapeau mexicain », qui constituent l’approximation biologique directe de l’opérateur Laplacien-Gaussien. En faisant varier le paramètre d’échelle spatiale $\sigma$, le cortex strié extrait une décomposition pyramidale multi-échelle, jetant les bases du « croquis primaire » (primal sketch) marrien.

4.2 Le calcul du flux optique et du mouvement visuel

Le passage de l’image statique à l’analyse du flux temporel représente une autre étape charnière des travaux de Poggio au MIT. Tout observateur biologique en mouvement projette sur sa rétine un champ de vecteurs de vélocité apparente appelé flux optique. La détermination de ce flux pose une difficulté conceptuelle célèbre : l’équation de conservation de la luminance ne fournit qu’une seule contrainte scalaire locale pour deux composantes inconnues du vecteur vitesse $(u, v)$ en chaque point $(x, y)$. Il s’agit du fameux « problème de l’ouverture » : à travers un champ récepteur restreint, seule la composante de vitesse perpendiculaire à l’orientation du contour peut être mesurée directement, tandis que la composante tangentielle demeure indéterminée.

En étroite interaction avec les travaux de Berthold Horn et Michael Schunck, Tomaso Poggio et son équipe démontrent comment ce problème d’indétermination locale est résolu par l’imposition de principes variationnels globaux. En formulant une fonctionnelle d’énergie qui pénalise à la fois l’écart à l’équation de constance de brillance et la non-continuité spatiale du champ vectoriel résultant, ils montrent que le cerveau intègre les signaux locaux le long de vastes étendues corticales. Poggio modélise l’architecture des voies magnocellulaires allant de V1 vers l’aire temporale médiane (MT/V5), révélant comment les neurones de MT intègrent les réponses dépendantes de l’ouverture des cellules de V1 pour extraire le mouvement global d’un objet rigide ou le flux d’auto-mouvement (ego-motion) nécessaire à la navigation spatiale autonome.

4.3 L’intégration des indices visuels primaires

La perception humaine ne s’appuie jamais sur une source d’information isolée. Notre système cognitif intègre de manière transparente la disparité binoculaire, les gradients de texture, le mouvement relatif, la forme issue de l’ombrage (shape-from-shading) et la perspective géométrique. Dans une série d’articles novateurs au milieu des années 1980, Poggio formalise cette intégration sous la forme d’un problème variationnel unifié. Chaque indice sensoriel apporte une contrainte différentielle locale ou globale sur l’orientation et la distance des surfaces observées.

Pour fusionner ces indices hétérogènes sans produire d’incohérences contradictoires, Poggio développe des modèles basés sur des champs aléatoires de Markov et des réseaux récurrents d’optimisation. Il montre comment des « variables de ligne » (line processes) non linéaires peuvent être introduites dans le formalisme mathématique pour désactiver localement le lissage spatial aux frontières réelles des objets, évitant ainsi le floutage artificiel de la profondeur entre un objet d’avant-plan et l’arrière-plan. Ce formalisme rigoureux permet de comprendre comment le système visuel réalise la transition cruciale entre le croquis primaire multi-échelle et le croquis 2,5D, cette représentation intermédiaire centrée sur le point de vue qui quantifie la topographie tridimensionnelle des surfaces visibles avant toute reconnaissance sémantique catégorielle.

5. L’émergence des théories de l’apprentissage statistique et de la régularisation

5.1 Problèmes mal posés et théorie de la régularisation de Tikhonov

L’une des contributions épistémologiques et mathématiques les plus pérennes de Tomaso Poggio est d’avoir importé et raffiné la théorie mathématique des problèmes inverses mal posés, formalisée à l’origine en Union Soviétique par Andreï Tikhonov, pour l’appliquer à l’ensemble des sciences de la perception et de l’intelligence. Selon la définition canonique formulée par Jacques Hadamard, un problème mathématique est dit « bien posé » s’il remplit trois conditions simultanées :

• Une solution existe pour toute condition d’entrée admissible.
• Cette solution est unique.
• La solution dépend de manière continue des données d’entrée (stabilité numérique vis-à-vis des perturbations et du bruit).

Dans un article séminal publié en 1985 dans Science (« Computational vision and regularization theory », coécrit avec Vincent Torre et Christof Koch), Poggio assène une démonstration éclatante : la quasi-totalité des tâches visuelles fondamentales — stéréopsie, flux optique, reconstruction de surfaces, différentiation de contour — sont structurellement des problèmes mal posés. Les données rétiniennes sont infiniment trop pauvres pour déterminer de manière univoque la structure de la scène 3D sans postulats a priori. Poggio démontre que le système nerveux biologique compense ce déficit d’information en introduisant des contraintes de régularisation implicites, fondées sur les propriétés statistiques et physiques les plus régulières du monde matériel (continuité, lissage, compacité, rigidité piecewise). En minimisant une fonctionnelle de Tikhonov combinant un terme d’erreur aux données et un terme pénalisant la non-régularité géométrique via un opérateur différentiel stabilisateur, le cerveau résout de manière stable et instantanée des calculs mathématiquement insolubles dans l’absolu.

5.2 Réseaux à fonctions à base radiale (RBF) et interpolation

À partir de la fin des années 1980, Poggio franchit une étape théorique majeure en établissant que l’apprentissage perceptif et conceptuel n’est lui-même rien d’autre qu’un problème d’approximation et d’interpolation de surfaces de régularisation dans des espaces de très haute dimension. Avec son collaborateur Federico Girosi, il publie en 1989 et 1990 des textes fondateurs démontrant que les réseaux de neurones ne doivent pas être conçus comme des assemblages arbitraires de portes logiques ou de sigmoïdes, mais comme des approximations rigoureuses de fonctionnelles issues de la théorie de la régularisation dans des espaces de Hilbert à noyau reproduisant (RKHS).

C’est dans ce cadre conceptuel rigoureux qu’émergent les réseaux à fonctions à base radiale (Radial Basis Functions ou RBF). Contrairement aux perceptrons multicouches classiques qui découpent l’espace d’entrée par des hyperplans semi-infinis, les réseaux RBF synthétisent une hypersurface continue en positionnant des fonctions locales isotropes — le plus souvent des gaussiennes multidimensionnelles — autour d’exemples canoniques stockés en mémoire :

$$f(\mathbf{x}) = \sum_{i=1}^N c_i \exp\left( -\frac{|\mathbf{x} – \mathbf{t}_i|^2}{2\sigma_i^2} \right)$$

Chaque neurone caché calcule la distance euclidienne entre le vecteur de stimulation sensorielle $\mathbf{x}$ et un vecteur prototype $\mathbf{t}_i$. Ce modèle mathématique offre pour la première fois une explication élégante et quantitative de la mémoire associative humaine et du phénomène de généralisation perceptive. Reconnaître un objet sous un angle inédit ne nécessite pas de posséder une description géométrique 3D exhaustive de cet objet : il suffit au système visuel d’interpoler continûment, via une somme pondérée de fonctions RBF, entre un nombre restreint de vues bidimensionnelles mémorisées lors de l’apprentissage initial.

5.3 Poggio et les fondements de la théorie de l’apprentissage statistique

L’inscription de Tomaso Poggio dans l’histoire des mathématiques appliquées est également scellée par son dialogue intellectuel étroit avec le père fondateur de la théorie statistique de l’apprentissage, Vladimir Vapnik. Poggio comprend immédiatement que le cœur du problème de l’intelligence artificielle n’est pas l’optimisation pure (la capacité à mémoriser des exemples d’entraînement jusqu’à atteindre une erreur nulle), mais la généralisation : la faculté mathématiquement garantie d’un algorithme à se comporter correctement sur des données futures et jamais rencontrées lors de la phase d’apprentissage.

Avec Vapnik, Steve Smale et plus tard Lorenzo Rosasco, Poggio explore les bornes théoriques de l’erreur de généralisation. Il étudie la relation intime reliant la stabilité algorithmique, la dimension de Vapnik-Chervonenkis (dimension VC) et la compacité des opérateurs de régularisation. Ses publications fournissent des démonstrations rigoureuses établissant qu’un algorithme ne peut garantir sa capacité de généralisation que s’il est « bien posé » au sens où une faible variation du jeu de données d’apprentissage n’entraîne qu’une perturbation infinitésimale de la fonction hypothèse produite. Ces recherches fournissent un socle théorique indestructible aux machines à vecteurs de support (SVM) et éclairent d’un jour nouveau les mécanismes psychologiques du transfert cognitif et de l’induction chez l’être humain.

6. Le modèle HMAX : Architecture hiérarchique de la reconnaissance visuelle ventrale

6.1 Architecture et principes bio-inspirés du modèle HMAX

Au tournant du XXIe siècle, Tomaso Poggio et son doctorant Maximilian Riesenhuber accomplissent une synthèse magistrale de quarante années de neurophysiologie et de modélisation mathématique en concevant le modèle HMAX (Hierarchical Model and X). Inspiré par les découvertes anatomiques du double flux cortical de David Milner et Melvyn Goodale, HMAX ambitionne de répliquer informatiquement l’ensemble de la voie ventrale du système visuel des primates (dite voie du « Quoi ? »), qui s’étend séquentiellement du cortex strié primaire (V1) vers V2, V4, et culmine dans le cortex inférotemporal (IT).

Le génie structurel de HMAX repose sur l’alternance méthodique et hiérarchique de deux types distincts d’opérations cellulaires, directement inspirées des cellules simples et complexes découvertes par Hubel et Wiesel :

• Les couches S (Simple) : Ces couches effectuent un filtrage d’ajustement sélectif (template matching). Elles augmentent la sélectivité pour des motifs de formes de plus en plus complexes par le biais d’opérations linéaires de type produit scalaire pondéré ou fonctions de base radiale.
• Les couches C (Complex) : Ces couches effectuent un regroupement spatial non linéaire (pooling). Elles construisent une tolérance progressive et robuste aux translations spatiales, aux variations d’échelle et aux déformations élastiques mineures.

Dans la cascade HMAX canonique ($S_1 \rightarrow C_1 \rightarrow S_2 \rightarrow C_2$), les cellules $S_1$ appliquent des filtres de Gabor multi-échelles pour détecter des orientations locales. Les cellules $C_1$ regroupent les réponses de $S_1$ via une fonction non linéaire de maximisation sur un voisinage spatial restreint. Ensuite, les cellules $S_2$ combinent les activations de configurations spécifiques de cellules $C_1$ pour former des récepteurs sélectifs à des arrangements de traits élémentaires (par exemple des angles, des courbures ou des intersections en T). Enfin, les unités $C_2$ regroupent ces détections complexes sur l’ensemble du champ visuel, générant un vecteur d’activation global invariant qui alimente directement les circuits de catégorisation du cortex inférotemporal.

6.2 L’opération MAX et le dilemme invariance-spécificité

L’innovation mathématique critique introduite par Riesenhuber et Poggio réside dans le choix de l’opérateur de regroupement utilisé dans les couches complexes : l’opération non linéaire MAX. Jusqu’alors, la plupart des tentatives de réseaux hiérarchiques (comme le Néocognitron de Kunihiko Fukushima) utilisaient des moyennes pondérées ou des sommations linéaires saturantes pour agréger l’information spatiale. Poggio démontre que la sommation linéaire souffre d’un défaut rédhibitoire : elle mélange de manière irréversible la sélectivité pour la forme et la force de l’illumination ou du contraste, introduisant une perte d’information préjudiciable à la discrimination fine des contours.

L’opération MAX, définie formellement par :

$$y = \max_{j in \mathcal{N}} x_j$$

sélectionne exclusivement l’afférence neuronale la plus fortement activée au sein du voisinage spatial récepteur $\mathcal{N}$. Poggio prouve mathématiquement que cette non-linéarité fondamentale résout le compromis agonistique historique de la perception visuelle : le dilemme invariance versus spécificité. En ne conservant que le signal maximal, le réseau devient rigoureusement invariant aux petits déplacements et changements de taille de la caractéristique reconnue, tout en préservant intacte la sélectivité d’accord pour la nature intrinsèque de cette caractéristique. L’opération MAX préfigure avec plus d’une décennie d’avance le mécanisme de max-pooling qui deviendra l’épine dorsale des réseaux convolutifs modernes (CNN) déployés massivement lors de l’avènement du deep learning.

6.3 Validation expérimentale et corrélations électrophysiologiques

La force épistémologique du modèle HMAX tient au fait qu’il n’a pas été conçu comme un simple exploit d’ingénierie algorithmique, mais comme une théorie prédictive falsifiable de la biologie corticale. Confronté aux données électrophysiologiques recueillies par des laboratoires de premier plan mondial, HMAX reproduit fidèlement la dynamique de réponse des neurones de l’aire V4 et du cortex inférotemporal chez le macaque éveillé effectuant des tâches de reconnaissance de formes naturelles et de morphing géométrique.

Le succès le plus spectaculaire du modèle réside dans sa capacité à prédire les performances humaines en vision ultrarapide. Dans des paradigmes psychophysiques d’avant-garde initiés par Simon Thorpe, où des images de scènes naturelles complexes sont projetées pendant moins de vingt millisecondes, le système visuel humain est capable de catégoriser la présence d’un animal ou d’un véhicule en moins de 150 millisecondes au niveau des potentiels évoqués corticaux (onde frontale négative N150). Un tel laps de temps interdit formellement tout aller-retour itératif par boucles de rétroaction corticocorticales complexes : le calcul doit nécessairement s’effectuer en mode purement ascendant (feedforward). HMAX apporte la preuve formelle qu’une cascade hiérarchique strictement feedforward, alternant sélectivité linéaire et maximisation non linéaire, suffit arithmétiquement à extraire des signatures visuelles invariantes hautement catégorisables dans ce délai temporel ultra-court.

7. Implications psychologiques et cognitives : De la perception à la catégorisation conceptuelle

7.1 Psychophysique de la reconnaissance d’objets et des formes complexes

La publication des travaux de Tomaso Poggio sur les architectures hiérarchiques et les réseaux d’interpolation a profondément reconfiguré l’un des débats les plus passionnés de la psychologie cognitive contemporaine : la controverse opposant les théories de la reconnaissance visuelle fondées sur les vues bidimensionnelles (view-based theories) aux théories structurales volumétriques fondées sur des géons invariants (structural-description models), portées notamment par Irving Biederman.

Pour les tenants des théories structurales, le cerveau extrait instantanément des primitives géométriques 3D décontextualisées. Poggio, appuyé par les expériences électrophysiologiques d’envergure menées avec Nikos Logothetis et Charles Pauls, réfute empiriquement et théoriquement cette vision. En enregistrant les cellules du cortex inférotemporal de singes entraînés à reconnaître des objets synthétiques complexes (les célèbres stimuli en fil de fer ou en trombones déformés, ainsi que des surfaces lisses inconnues), ils découvrent une classe fondamentale de neurones : les cellules accordées au point de vue (view-tuned cells). Ces neurones déchargent de manière maximale pour une perspective spécifique de l’objet et voient leur réponse décroître de façon gaussienne à mesure que l’objet pivote dans l’espace tridimensionnel :

$$R(\theta) = R_0 \exp\left( -\frac{(\theta – \theta_{\text{pref}})^2}{2\sigma^2} \right)$$

Poggio démontre que la reconnaissance invariante à 360 degrés n’est pas le résultat d’une reconstruction 3D explicite, mais l’aboutissement d’une interpolation effectuée par une couche de cellules supérieures regroupant l’activité d’une constellation restreinte de ces unités accordées à des vues privilégiées. Cette découverte ancre solidement la psychologie cognitive dans un paradigme computationnel d’apprentissage par l’exemple plutôt que de raisonnement géométrique déductif abstrait.

7.2 Mécanismes computationnels de l’attention visuelle sélective

La reconnaissance d’objets dans le monde réel ne s’effectue presque jamais sur des stimuli isolés sur fond blanc neutre, mais dans des environnements saturés d’interférences visuelles (clutter). Cette réalité physique pose la question des mécanismes de sélection spatiale et d’allocation des ressources computationnelles. Dès le milieu des années 1980, Tomaso Poggio collabore avec Christof Koch pour formaliser le premier modèle computationnel complet de l’attention visuelle sélective guidée par la saillance (saliency-based visual attention).

Leur modèle articule une interaction dynamique entre deux flux d’information distincts :

• Un traitement purement ascendant (bottom-up) pré-attentionnel et massivement parallèle, calculant des cartes topographiques élémentaires de contraste d’intensité, de couleur, d’orientation et de direction de mouvement sur l’ensemble de la scène.
• L’intégration de ces cartes élémentaires au sein d’une « carte de saillance unique », où un réseau neuronal récurrent de type Winner-Take-All (WTA) isole le point de saillance maximale pour y diriger le focus attentionnel séquentiel.
• Une modulation descendante (top-down) qui calibre les filtres récepteurs en fonction des objectifs cognitifs explicites de la tâche recherchée.

Ce formalisme pionnier a jeté les bases algorithmiques permettant d’expliquer les phénomènes classiques de la psychologie cognitive expérimentale, tels que la cécité attentionnelle (inattentional blindness), la cécité au changement, et le passage dynamique entre la recherche visuelle parallèle (effet de surgissement ou pop-out) et la recherche visuelle sérielle contraignante.

7.3 Apprentissage perceptif et plasticité synaptique

L’un des apports majeurs de Poggio à la neuropsychologie réside dans son étude systématique de l’apprentissage perceptif : la capacité remarquable du système nerveux adulte à améliorer ses performances sensorielles fines — telles que l’acuité de vernier, la discrimination d’orientation ou la perception du relief — à la suite d’un entraînement prolongé. Dans une série de recherches conduites avec Manfred Fahle au tournant du millénaire, Poggio démontre que cette amélioration n’est pas confinée à des strates associatives supérieures tardives, mais s’enracine directement dans la modification plastique des connexions synaptiques des premières aires visuelles primaires (V1 et V2).

Poggio modélise mathématiquement ce phénomène en intégrant des règles de plasticité hebbienne modifiées au sein de ses architectures d’hyperfaciès RBF. L’apprentissage perceptif y est formalisé comme l’optimisation locale de la population de filtres récepteurs : sous la contrainte du renforcement sensoriel, les centres des fonctions gaussiennes migrent dynamiquement dans l’espace des caractéristiques pour densifier leur échantillonnage autour des singularités diagnostiques de la tâche discriminative. Cette approche théorique unifiée a permis de rapprocher définitivement la psychologie de l’expertise visuelle (par exemple la reconnaissance d’empreintes digitales, l’interprétation radiologique ou la classification d’espèces biologiques) des principes biophysiques de la potentialisation à long terme (LTP) et de la dépression à long terme (LTD) des synapses corticales.

8. Le Centre pour les cerveaux, les esprits et les machines (CBMM) : Synthèse moderne de l’intelligence

8.1 Fondation, mission et méthodologie interdisciplinaire du CBMM

En 2013, à l’apogée d’une carrière académique déjà monumentale, Tomaso Poggio franchit une étape institutionnelle majeure en recevant un financement décisif de la National Science Foundation (NSF) pour créer le prestigieux Center for Brains, Minds and Machines (CBMM), hébergé au MIT en partenariat étroit avec l’Université Harvard. La création du CBMM procède d’un diagnostic lucide et sans complaisance posé par Poggio sur l’évolution de la technologie contemporaine : alors que l’intelligence artificielle appliquée s’enferme de plus en plus dans une logique d’ingénierie brute, caractérisée par l’accumulation de gigawatts de calcul et de pétaoctets de données statistiques opaques, la science fondamentale de l’intelligence véritable stagne.

La mission assignée au CBMM par Poggio est ambitieuse : forger une convergence interdisciplinaire tripartite sans précédent historique :

• L’informatique théorique et l’apprentissage automatique (conception d’algorithmes mathématiquement fondés).
• La neurobiologie cognitive et moléculaire (déchiffrement empirique des circuits cérébraux vivants).
• La psychologie expérimentale du développement (compréhension de l’émergence des capacités cognitives chez le nourrisson).

Le postulat méthodologique de Poggio est catégorique : il est impossible de concevoir une intelligence artificielle véritablement robuste, adaptative, parcimonieuse en données et capable de sens commun sans décoder simultanément les algorithmes exécutés par le cerveau biologique. Le CBMM redéfinit ainsi la recherche sur l’intelligence non comme une simple discipline technologique lucrative, mais comme l’une des plus grandes quêtes intellectuelles de l’histoire de la science.

8.2 Le développement de l’intelligence chez l’enfant comme modèle computationnel

L’une des orientations les plus audacieuses insufflées par Poggio au sein du CBMM a été le rapprochement stratégique entre théoriciens de la vision computationnelle et figures de proue de la psychologie cognitive du développement, au premier rang desquelles figurent Elizabeth Spelke et Laura Schulz. Pour Poggio, l’intelligence humaine adulte n’est pas une page blanche statistique (tabula rasa) façonnée par des milliards d’exemples annotés, car un jeune enfant apprend à reconnaître le monde, à prédire des lois physiques et à interagir avec autrui à partir d’un volume de données visuelles extraordinairement restreint et sans supervision explicite.

Ces collaborations ont permis de formaliser sous forme de modèles computationnels explicites ce que Spelke nomme le « noyau de connaissances » (core knowledge) du nourrisson :

1. La physique intuitive : la compréhension innée ou très précocement acquise de la cohésion spatiale, de la continuité temporelle et de la solidité des corps matériels.
2. La psychologie naïve : la détection immédiate d’agents intentionnels dotés de buts, de désirs et d’angles de vision propres.
3. La géométrie spatiale fondamentale : l’orientation topologique dans l’environnement navigable.

En traduisant ces invariants cognitifs sous forme de réseaux probabilistes génératifs et d’architectures d’apprentissage contrastif auto-supervisé, Poggio et ses collègues démontrent comment des structures a priori minimales permettent à l’esprit émergent de contraindre puissamment ses espaces d’hypothèses, réduisant drastiquement le coût computationnel nécessaire à l’acquisition de nouveaux concepts.

8.3 L’intégration des représentations symboliques et sous-symboliques

L’histoire de l’intelligence artificielle a été déchirée pendant des décennies par une guerre de tranchées épistémologique entre le paradigme symbolique (l’IA classique ou Good Old-Fashioned AI, fondée sur la manipulation déterministe de règles logiques discrètes) et le paradigme connexionniste (les réseaux de neurones, fondés sur des représentations distribuées sous-symboliques et continues). Au sein du CBMM, Tomaso Poggio s’associe à des théoriciens tels que Josh Tenenbaum pour dépasser définitivement cette dichotomie stérile et bâtir une architecture cognitive hybride unifiée.

Poggio défend la nécessité d’une intégration computationnelle verticale où les réseaux neuronaux profonds et bio-inspirés assument le traitement sensoriel ascendant, extrayant de la scène visuelle brute des « scènes graphiques » ou des primitives structurales, tandis que des programmes probabilistes synthétiques (méthodes bayésiennes non paramétriques et inférence causale) manipulent ces primitives pour opérer des raisonnements contre-factuels, de la déduction logique et de la planification d’actions complexes. Ce nouveau paradigme neuro-symbolique incarne la vision ultime de Poggio : une science computationnelle de l’esprit capable de combler sans discontinuité le fossé théorique séparant la décharge d’un photon sur un bâtonnet rétinien de l’élaboration d’un théorème abstrait dans la conscience humaine.

9. Neurobiologie computationnelle de l’invariance et de la reconnaissance des visages

9.1 Le système de reconnaissance des visages : Un paradigme d’expertise biologique

Pour tout primate social, et singulièrement pour l’être humain, la reconnaissance des visages de conspécifiques représente un impératif biologique critique pour la survie et l’organisation du groupe. D’un point de vue mathématique et computationnel, la tâche est d’une difficulté vertigineuse : tous les visages partagent exactement la même configuration spatiale de base (deux yeux au-dessus d’un nez, surplombant une bouche), ce qui induit une similarité inter-classe colossale. Simultanément, un même visage individuel subit des distorsions intra-classe considérables sous l’effet des variations d’éclairage, des changements d’expression faciale, des rotations 3D de la tête et du vieillissement morphologique.

Les découvertes neurobiologiques fondamentales réalisées par Doris Tsao et Winrich Freiwald, confirmant l’existence chez le macaque d’un réseau dédié de zones spécialisées interconnectées (les face patches de la voie temporale), ont offert à Tomaso Poggio un terrain d’investigation privilégié. Poggio analyse les calculs séquentiels exécutés à travers ces noyaux corticaux — des aires postérieures (ML/MF) jusqu’aux aires antérieures (AL et AM) — comme la concrétisation vivante de ses théories sur la résolution progressive des problèmes inverses. En lien étroit avec les observations psychologiques relatives à l’aire fusiforme des visages (FFA) chez l’humain étudiée par Nancy Kanwisher, il formalise les algorithmes d’apprentissage statistique spécialisés qui permettent au cortex d’ajuster des filtres différentiels fins capables d’extraire des identités individuelles stables à partir de distributions spectrales quasi identiques.

9.2 Théories mathématiques de l’invariance aux transformations de groupe

Pour expliquer comment le cortex temporal accomplit la prouesse d’identifier un visage indépendamment de sa pose ou de sa taille, Poggio développe une élégante théorie mathématique de l’invariance fondée sur la théorie des groupes de Lie et l’analyse harmonique non commutative. En collaboration avec Fabio Anselmi et Lorenzo Rosasco, il modélise la façon dont les transformations continues affines du plan image — translations spatiales, rotations planes et dilatations d’échelle — forment des groupes mathématiques stricts $G$ agissant sur les fonctions de luminance rétinienne.

La théorie démontre que pour rendre la signature d’un objet invariante à l’action d’un groupe de transformation, un circuit cortical n’a pas besoin de calculer explicitement des invariants analytiques complexes. Il lui suffit de calculer la distribution de probabilité unidimensionnelle (l’empreinte énergétique) des projections du motif sensoriel sur une orbite complète générée par l’action du groupe appliqué à un prototype stocké en mémoire :

$$\mu_{I, t} = \frac{1}{|G|} \int_{g in G} \langle I, g \cdot t \rangle , dg$$

Cette formulation possède une portée biologique considérable. Elle démontre que les cellules des zones de visages peuvent acquérir passivement l’invariance perceptive universelle sans aucune supervision conceptuelle, simplement en observant dans leur petite enfance la trajectoire continue d’objets ou de visages pivotant naturellement dans leur champ de vision. Cette mémoire sensorielle des orbites de transformation génère un dictionnaire universel d’invariance qui peut être appliqué instantanément à n’importe quel visage ou objet totalement inédit, réduisant d’un facteur mille la quantité d’exemples requis pour l’apprentissage discriminatif.

9.3 L’effet d’inversion des visages et les pathologies de la reconnaissance

La robustesse de la théorie computationnelle de Poggio se mesure à sa capacité à expliquer non seulement les succès du système perceptif humain, mais également ses défaillances systématiques et ses pathologies cliniques. En psychologie cognitive expérimentale, l’« effet d’inversion des visages » (face inversion effect) documente le fait troublant que la reconnaissance d’un visage est considérablement plus dégradée par un retournement spatial à 180 degrés que celle de tout autre objet manufacturé rigide (comme une voiture ou une maison). Ce phénomène trahit la rupture d’un mode de traitement holistique hautement spécialisé.

Poggio modélise cet effet au niveau algorithmique : le mécanisme d’invariance et de mise en correspondance par agrégation des sous-caractéristiques faciales dans HMAX et les modèles de groupes de Lie repose sur l’hypothèse canonique que les orbites de transformation observées durant l’ontogenèse respectent la verticalité gravitationnelle normale du monde réel. Lorsqu’un visage est présenté tête en bas :

• Les filtres spécialisés des aires temporales ne peuvent plus faire correspondre les configurations de traits locaux aux orbites de transformation acquises statistiquement.
• Le système cérébral est contraint de basculer vers un mode de traitement analytique pièce par pièce, lent et sensible au bruit, typique de la reconnaissance générique des objets non experts.

De surcroît, cette modélisation offre un éclairage direct sur les mécanismes sous-jacents aux pathologies neuropsychologiques de la vision, au premier rang desquelles figure la prosopagnosie congénitale ou acquise consécutive à des lésions de la région occipito-temporale ventrale. En simulant des destructions sélectives de la couche de calcul d’invariance de groupe ou des projections vers les représentations prototypes dans ses réseaux de régularisation, Poggio reproduit quantitativement les profils de déficits perceptifs observés chez les patients cliniques, établissant un lien formel entre équations différentielles et neuropsychiatrie cognitive.

10. Théorie de l’apprentissage profond : Démystification mathématique et cognition

10.1 Pourquoi le deep learning fonctionne-t-il ? Les réponses de Poggio

L’explosion planétaire de l’apprentissage profond (deep learning) au cours de la décennie 2010 a suscité un paradoxe scientifique inédit : une technologie industrielle aux performances empiriques époustouflantes a proliféré en l’absence quasi totale d’une théorie mathématique explicative de ses succès. De nombreux ingénieurs considéraient les réseaux de neurones profonds comme des « boîtes noires » magiques dont le succès défiait les lois traditionnelles de la statistique mathématique, et notamment la malédiction de la dimensionnalité (curse of dimensionality), formulée par Richard Bellman, selon laquelle le nombre de données nécessaires pour approximer une fonction multivariée croît exponentiellement avec la dimension de son espace d’entrée.

Dès 2016, Tomaso Poggio, en collaboration avec Hrushikesh Mhaskar, Qianli Liao et Kenji Kawaguchi, publie une série de théorèmes décisifs qui percent le mystère mathématique du deep learning. Poggio démontre que la supériorité des réseaux de neurones profonds sur les réseaux peu profonds (shallow networks à une seule couche cachée, tels que les RBF classiques) ne tient pas au hasard, mais à la structure algébrique intrinsèque des fonctions physiques qu’ils sont chargés d’approximer :

$$\text{Si } f(x_1, dots, x_d) = h_k( dots h_2(h_1(x_1, x_2), h_1(x_3, x_4)) dots )$$

Lorsque la fonction cible possède une structure de compositionnalité hiérarchique locale — c’est-à-dire lorsqu’elle peut être décomposée en un graphe acyclique dirigé (DAG) de sous-fonctions n’impliquant à chaque nœud qu’un nombre restreint de variables d’entrée locales (typiquement deux ou trois) —, les réseaux profonds dont l’architecture reproduit ce graphe échappent complètement à la malédiction de la dimensionnalité. Poggio prouve mathématiquement que pour atteindre une précision d’approximation fixée $epsilon$, un réseau peu profond exige un nombre de paramètres d’ajustement qui explose exponentiellement avec la dimension globale $d$ de l’image : $\mathcal{O}(\epsilon^{-d})$, rendant le calcul impossible. En revanche, un réseau profond respectant la composition hiérarchique n’exige qu’un nombre de paramètres polynomial à croissance linéaire : $\mathcal{O}(d \cdot \epsilon^{-2})$.

Cette découverte théorique majeure fournit l’explication fondamentale de la supériorité structurelle du cortex cérébral : si le système visuel des mammifères s’est structuré au cours de millions d’années d’évolution en une succession de strates corticales hiérarchiques (V1, V2, V4, IT), c’est précisément parce que le monde physique réel est lui-même hiérarchiquement compositionnel (les atomes forment des molécules, qui forment des textures, qui forment des contours, qui s’assemblent en pièces élémentaires pour constituer des objets complets).

10.2 La dynamique d’optimisation et le phénomène de sur-paramétrisation

L’autre énigme fondamentale résolue par les récents travaux de Tomaso Poggio concerne le comportement d’optimisation des architectures neuronales modernes dites « sur-paramétrées » (overparametrized regimes), où le nombre de paramètres libres (poids synaptiques) dépasse de plusieurs ordres de grandeur le nombre d’exemples d’apprentissage disponibles. Selon les canons de la théorie statistique classique de l’apprentissage (le compromis biais-variance standard), de tels modèles devraient souffrir d’un surapprentissage catastrophique (overfitting) et se révéler totalement incapables de généralisation sur de nouvelles données. Or, dans la pratique empirique, ces réseaux sur-paramétrés généralisent souvent remarquablement bien, affichant la célèbre courbe de « double descente » (double descent risk curve).

Poggio et son équipe élucident ce mystère en étudiant la dynamique continue de la descente de gradient stochastique (SGD) sous l’angle des systèmes dynamiques non linéaires et de la géométrie différentielle. Ils démontrent l’existence d’une régularisation implicite fondamentale :

• Lorsque l’on entraîne un réseau de neurones profond avec une fonction de perte exponentielle ou logistique (comme la cross-entropy), les poids du réseau divergent en norme vers l’infini, mais la direction normalisée de ces vecteurs de poids converge de manière asymptotique vers une solution mathématique rigoureuse : la solution de marge maximale (maximum margin solution).
• Même en l’absence de tout terme explicite de pénalisation de Tikhonov ($L_2$ regularization ou weight decay), la dynamique intrinsèque de la descente de gradient sélectionne préférentiellement, parmi la multiplicité infinie d’interpolateurs parfaits minimisant la perte d’entraînement à zéro, la solution dotée de la plus faible complexité géométrique possible.

Cette découverte démystifie le fonctionnement des réseaux profonds en montrant qu’ils obéissent en réalité strictement aux principes de régularisation que Poggio avait formalisés trente ans plus tôt dans un cadre linéaire : la sur-paramétrisation ne nuit pas à la généralisation, elle crée au contraire les degrés de liberté nécessaires pour que l’algorithme d’optimisation contourne les minima locaux dégénérés et converge vers des séparateurs spatiaux lisses et robustes.

10.3 Comparaison critique : Réseaux artificiels vs Cerveaux biologiques

Bien qu’il soit l’un des théoriciens les plus réputés du deep learning, Tomaso Poggio refuse catégoriquement l’amalgame simpliste qui consisterait à identifier purement et simplement les réseaux de neurones profonds artificiels à des cerveaux vivants. Avec une rigueur épistémologique constante, il multiplie les interventions critiques mettant en garde contre les dérives dogmatiques de l’ingénierie contemporaine, pointant trois fractures fondamentales séparant l’IA actuelle de la neurobiologie réelle :

1. L’implausibilité biologique de la rétropropagation du gradient : L’algorithme standard d’ajustement des poids neuronaux en IA (backpropagation) exige la transmission inverse d’un signal d’erreur infinitésimal à travers l’ensemble des couches synaptiques, imposant une symétrie parfaite des poids synaptiques directs et rétrogrades. Une telle architecture viole les contraintes biophysiques élémentaires des synapses chimiques réelles, régies par le principe de Dale et caractérisées par une asymétrie anatomique stricte.
2. La vulnérabilité aberrante aux attaques contradictoires (adversarial attacks) : Les réseaux de neurones convolutifs modernes les plus sophistiqués peuvent être totalement trompés par l’ajout à une image d’un bruit stochastique infinitésimal et invisible à l’œil humain, classant soudainement un panda comme un gibbon avec une confiance de 99 %. Le système visuel biologique des primates, protégé par des rétroactions récurrentes massives, des normalisations par division synaptique et un codage temporel continu, ne manifeste aucune vulnérabilité de cette nature.
3. L’efficacité thermodynamique et l’économie d’échantillonnage de données : Alors que les grands modèles de fondation contemporains requièrent des mégawatts d’électricité et des milliards de paramètres ajustés sur l’ensemble des données textuelles et visuelles produites par l’humanité pour converger, le cerveau humain opère des calculs perceptifs et cognitifs infiniment plus subtils avec une consommation métabolique stationnaire d’environ vingt watts, en s’appuyant sur un apprentissage auto-supervisé frugal à partir de stimuli spatio-temporels continus non étiquetés.

11. Controverses scientifiques, débats épistémologiques et limites computationnelles

11.1 Le débat entre modèles purement ascendants et circuits récurrents

L’une des controverses scientifiques les plus vives suscitées par les modèles visuels de Tomaso Poggio — et tout particulièrement par l’architecture canonique de HMAX — a trait à l’hégémonie accordée au traitement ascendant (feedforward). Dès la publication des travaux de Riesenhuber et Poggio, de nombreux neuroanatomistes et psychologues cognitivistes ont souligné que l’anatomie corticale réelle contredit formellement l’idée d’un pipeline unidirectionnel : dans le cerveau des mammifères, le nombre de projections axonales descendantes (rétroactions corticocorticales allant des aires supérieures vers les aires primaires) dépasse largement le nombre de connexions ascendantes.

Ce constat a nourri l’émergence de paradigmes concurrents, au premier rang desquels figure le modèle du « codage prédictif » (predictive coding), formalisé par Rajesh Rao, Dana Ballard et développé par Karl Friston. Selon cette approche alternative, le cerveau ne fonctionne pas comme un classificateur passif de caractéristiques ascendantes, mais comme une machine à inférence active qui projette continuellement vers le bas des prédictions descendantes sur la scène visuelle, le signal ascendant se réduisant à la transmission de l’erreur de prédiction résiduelle :

$$\mathbf{e}_l = \mathbf{r}_l – g(\mathbf{r}_{l+1})$$

Poggio a pris part de manière constructive à ce débat en clarifiant le rôle temporel des différents régimes de calcul. Il concède volontiers que si le premier flux d’information ultra-rapide (les premières 100 à 150 millisecondes) est mathématiquement contraint d’être purement feedforward pour des raisons de vitesse de conduction axonale, toute perception soutenue, toute résolution d’ambiguïté dans des scènes dégradées et toute ségrégation figure-fond sous occlusion complexe requièrent impérativement l’engagement des boucles de récurrence et de rétroaction modulatrice. Ses travaux ultérieurs au CBMM intègrent d’ailleurs explicitement ces dynamiques récurrentes pour stabiliser l’apprentissage des représentations invariantes.

11.2 L’explicabilité et la boîte noire de l’intelligence computationnelle

Sur le plan épistémologique, Tomaso Poggio s’est toujours dressé avec une remarquable constance contre la dérive instrumentaliste qui s’est emparée d’une large frange de l’intelligence artificielle contemporaine. Pour Poggio, la performance prédictive brute d’un algorithme ne saurait être confondue avec sa valeur explicative scientifique. Si un modèle mathématique à cent milliards de paramètres parvient à classer des images avec une précision chirurgicale sans que l’expérimentateur ne puisse comprendre les principes formels, les théorèmes d’approximation ou les régularités invariantes qui sous-tendent ce résultat, ce modèle relève de l’ingénierie heuristique aveugle, non de la science.

Poggio défend farouchement le statut épistémologique des simulations informatiques en psychologie et en neurosciences : une simulation computationnelle n’a de légitimité scientifique que si elle agit comme la concrétisation transparente d’une théorie mathématique fondamentale rigoureusement démontrable. Cette posture fait écho à son attachement viscéral aux « trois niveaux d’analyse » de Marr : l’ingénierie moderne s’est enivrée du niveau algorithmique et de la puissance d’implémentation matérielle brute des puces GPU, en abandonnant tragiquement le niveau computationnel — celui où l’on s’interroge sur les raisons premières pour lesquelles une fonction d’approximation est mathématiquement optimale pour résoudre une tâche perceptive donnée.

11.3 Limites de la vision computationnelle classique face à la sémantique incarnée

Une autre controverse intellectuelle majeure dans laquelle l’héritage de Poggio est fréquemment interrogé concerne le clivage historique entre la vision computationnelle classique — centrée sur l’extraction géométrique passive et désincarnée de représentations internes du monde — et les théories de la cognition incarnée (embodied cognition) et énactive, issues notamment de la pensée de Francisco Varela et de la psychologie écologique de James J. Gibson.

Les tenants de l’approche gibsonienne ont longtemps reproché au paradigme de Marr et Poggio de concevoir la vision comme un processus purement spectatoriel et représentatif, visant à reconstruire une copie interne fidèle du monde extérieur, alors que pour Gibson, la vision a pour fonction primordiale de détecter immédiatement des « affordances » — des opportunités motrices directes pour l’action (saisir, fuir, s’asseoir, franchir) — sans nécessiter la médiation de représentations symboliques 3D complexes. Poggio a répondu à ces critiques en démontrant que la détection d’affordances motrices ne dispense en aucun cas le système nerveux de résoudre les problèmes inverses de la propagation lumineuse : l’organisme doit inévitablement calculer des invariants physiques à partir d’entrées optiques bruitées, quelle que soit la finalité motrice finale. Néanmoins, il a reconnu la pertinence du problème de l’ancrage des symboles (symbol grounding problem), soulignant dans ses travaux récents que la vision purement visuelle trouve ses limites ultimes si elle n’est pas connectée à la boucle sensori-motrice d’un agent physique interagissant physiquement avec son environnement.

12. L’héritage intellectuel de Tomaso Poggio et l’avenir des neurosciences computationnelles

12.1 L’arbre généalogique académique et l’influence industrielle

L’ampleur de l’impact exercé par Tomaso Poggio sur la science moderne ne se mesure pas seulement au nombre impressionnant de ses publications fondamentales ou à son indice bibliométrique, mais à l’extraordinaire fécondité de sa descendance académique. Tout au long de son demi-siècle d’enseignement et de mentorat au MIT, Poggio a formé, guidé et inspiré une pléiade de chercheurs qui sont devenus à leur tour les figures de proue internationales de l’intelligence artificielle, des neurosciences computationnelles et de l’industrie technologique de pointe :

• Christof Koch : Ancien étudiant de doctorat à Tübingen puis collaborateur au MIT, devenu le directeur scientifique du Allen Institute for Brain Science et l’un des théoriciens les plus célèbres de la conscience biologique.
• Maximilian Riesenhuber : Co-architecte du modèle HMAX, professeur de neurosciences à l’Université de Georgetown, pionnier de l’imagerie fonctionnelle de la catégorisation cérébrale.
• Thomas Serre : Professeur à l’Université Brown, qui a étendu les modèles hiérarchiques bio-inspirés à la vidéo et à l’action motrice, établissant des ponts directs avec la vision par ordinateur industrielle.
• Amnon Shashua : Ancien doctorant de Poggio au MIT, qui a cofondé Mobileye, leader mondial absolu de la vision par ordinateur appliquée aux véhicules autonomes et à la sécurité automobile, matérialisant les équations de régularisation et de flux optique de Poggio dans des centaines de millions d’automobiles à travers le monde.
• Demetri Psaltis : Pionnier des calculateurs optiques et de la photonique neuronale à Caltech et à l’EPFL.

Cette dissémination massive d’anciens élèves au sein des facultés de psychologie cognitive, des départements d’informatique et des laboratoires industriels mondiaux a durablement imposé la méthodologie interdisciplinaire du MIT comme le standard épistémologique de référence pour l’étude des systèmes intelligents.

12.2 Les frontières actuelles de la recherche menée par Poggio

Loin de se reposer sur ses lauriers académiques, Tomaso Poggio continue d’animer avec une énergie intellectuelle intacte les frontières les plus avancées de la recherche contemporaine. Ses travaux actuels au sein du MIT et du CBMM s’articulent autour de trois axes de recherche hautement spéculatifs et stimulants :

1. L’élaboration d’une théorie unifiée du cortex cérébral : Poggio s’efforce de dépasser la seule modalité visuelle pour concevoir un formalisme mathématique unifié capable d’expliquer comment les six couches cellulaires du néocortex mammalien implémentent un algorithme universel d’apprentissage et de compression prédictive, commun à la perception visuelle, à l’audition, au traitement du langage naturel et à la planification décisionnelle.
2. L’ingénierie d’une Intelligence Générale Artificielle (AGI) bio-inspirée : Rejetant la fuite en avant énergétique des modèles de langage géants actuels, Poggio explore les conditions computationnelles nécessaires pour doter les machines de l’intelligence sensori-motrice élémentaire d’un enfant de deux ans, en fusionnant des mécanismes d’attention dynamique, des invariances de groupe et des programmes de physique intuitive probabiliste.
3. La thermodynamique du calcul neuronal : S’interrogeant sur les limites physiques ultimes du traitement de l’information, Poggio réinvestit ses racines de physicien théoricien pour analyser le cerveau comme une machine thermodynamique hors équilibre, cherchant à quantifier les contraintes minimales de dissipation d’entropie requises pour maintenir une représentation cognitive invariante face aux fluctuations thermiques cellulaires.

12.3 Synthèse : Tomaso Poggio et la transformation de la science de l’esprit

Lorsque Tomaso Poggio a amorcé sa trajectoire scientifique au début des années 1970, la compréhension du cerveau oscillait de manière inconfortable entre une biochimie réductionniste fascinée par les détails moléculaires microscopiques et une psychologie phénoménologique descriptive incapable d’ancrer ses concepts dans des lois universelles prédictives. En l’espace de cinq décennies de recherche ininterrompue, Poggio a joué un rôle déterminant dans l’avènement d’une troisième voie épistémologique : la consolidation définitive des sciences cognitives computationnelles comme une science exacte, mathématiquement formalisable et empiriquement vérifiable.

En démontrant que la vision est un problème inverse mal posé résolu par des fonctionnelles de régularisation, en prouvant que l’apprentissage est une interpolation d’hyperfaciès dans des espaces fonctionnels, en fournissant l’architecture canonique HMAX de la voie ventrale et en démystifiant la dynamique d’optimisation des architectures profondes sur-paramétrées, Tomaso Poggio a gravé son nom au panthéon des plus grands théoriciens de l’esprit du siècle écoulé. Son œuvre immense nous lègue une leçon intellectuelle fondamentale qui résonnera tout au long du XXIe siècle : la machine intelligente et l’esprit biologique ne s’opposent pas ; ils s’éclairent mutuellement à la lumière des mêmes vérités mathématiques éternelles.

Références

Anselmi, F., Leibo, J. Z., Rosasco, L., Mutch, J., Tacchetti, A., & Poggio, T. (2016). Unsupervised learning of invariant representations. Theoretical Computer Science, 633, 112–121. https://doi.org/10.1016/j.tcs.2015.06.048

Biederman, I. (1987). Recognition-by-components: A theory of human image understanding. Psychological Review, 94(2), 115–147. https://doi.org/10.1037/0033-295X.94.2.115

Fahle, M., & Poggio, T. (Eds.). (2002). Perceptual learning. MIT Press. https://mitpress.mit.edu/9780262062213/perceptual-learning/

Horn, B. K. P., & Schunck, B. G. (1981). Determining optical flow. Artificial Intelligence, 17(1-3), 185–203. https://doi.org/10.1016/0004-3702(81)90024-2

Koch, C., & Ullman, S. (1985). Shifts in selective visual attention: towards the underlying neural circuitry. Human Neurobiology, 4(4), 219–227. https://pubmed.ncbi.nlm.nih.gov/3836989/

Logothetis, N. K., Pauls, J., Poggio, T. (1995). Shape representation in the inferior temporal cortex of monkeys. Current Biology, 5(5), 552–563. https://doi.org/10.1016/S0960-9822(95)00108-4

Marr, D. (1982). Vision: A computational investigation into the human representation and processing of visual information. W. H. Freeman and Company. https://mitpress.mit.edu/9780262514620/vision/

Marr, D., & Hildreth, E. (1980). Theory of edge detection. Proceedings of the Royal Society of London. Series B. Biological Sciences, 207(1167), 187–217. https://doi.org/10.1098/rspb.1980.0020

Marr, D., & Poggio, T. (1976). Cooperative computation of stereo disparity. Science, 194(4262), 283–287. https://doi.org/10.1126/science.968482

Marr, D., & Poggio, T. (1979). A computational theory of human stereo vision. Proceedings of the Royal Society of London. Series B. Biological Sciences, 204(1156), 301–328. https://doi.org/10.1098/rspb.1979.0029

Mhaskar, H., Liao, Q., & Poggio, T. (2017). When and why are deep networks better than shallow ones? Proceedings of the AAAI Conference on Human Computation and Crowdsourcing, 31(1), 2343–2349. https://doi.org/10.1609/aaai.v31i1.10913

Poggio, T., & Girosi, F. (1990). Networks for approximation and learning. Proceedings of the IEEE, 78(9), 1481–1497. https://doi.org/10.1109/5.58326

Poggio, T., & Reichardt, W. (1973). Considerations on models of movement detection. Kybernetik, 13(4), 223–227. https://doi.org/10.1007/BF00282496

Poggio, T., Torre, V., & Koch, C. (1985). Computational vision and regularization theory. Nature, 317(6035), 314–319. https://doi.org/10.1038/317314a0

Riesenhuber, M., & Poggio, T. (1999). Hierarchical models of object recognition in cortex. Nature Neuroscience, 2(11), 1019–1025. https://doi.org/10.1038/14819

Spelke, E. S., & Kinzler, K. D. (2007). Core knowledge. Developmental Science, 10(1), 89–96. https://doi.org/10.1111/j.1467-7687.2007.00569.x

Tsao, D. Y., Freiwald, W. A., Tootell, R. B., & Livingstone, M. S. (2006). A cortical region consisting entirely of face-selective cells. Science, 311(5761), 670–674. https://doi.org/10.1126/science.1119983

Vapnik, V. N. (1998). Statistical learning theory. Wiley-Interscience. https://www.wiley.com/en-us/Statistical+Learning+Theory-p-9780471030034