L’expérience du masquage – Ivan Pavlov

L’histoire de la psychologie scientifique et des neurosciences comportementales est jalonnée de découvertes fondamentales qui ont profondément modifié notre compréhension de l’architecture cognitive et cérébrale des organismes vivants. Parmi ces jalons épistémologiques majeurs figurent les travaux pionniers du physiologiste russe Ivan Petrovitch Pavlov. Si la postérité a largement retenu le paradigme classique du conditionnement salivaire par association simple entre un stimulus neutre et un stimulus inconditionnel, les explorations pavloviennes ont rapidement dépassé ce cadre élémentaire pour se confronter à la complexité intrinsèque de l’environnement sensoriel. Dans la nature, un organisme n’est que très rarement exposé à des stimuli isolés ; il évolue au sein d’un flux continu de signaux polysensoriels concurrents qui sollicitent simultanément son appareil perceptif et son système nerveux central.

C’est précisément dans cette perspective écologique et analytique qu’émerge le phénomène fascinant du « masquage » (connu dans la littérature scientifique internationale sous le terme d’overshadowing). Découvert lors d’expérimentations rigoureuses portant sur des stimuli composés, ce phénomène met en lumière une règle fondamentale du traitement de l’information biologique : lorsque deux stimuli conditionnels de saillances physiques distinctes sont présentés de manière conjointe et simultanée en association avec un renforçateur inconditionnel, le stimulus le plus intense ou le plus prégnant s’approprie la quasi-totalité de la force associative disponible. En corollaire, le stimulus de plus faible intensité se trouve « masqué », de sorte qu’il n’évoque, lors d’un test ultérieur isolé, qu’une réponse conditionnée marginale, voire totalement indétectable, bien qu’il ait bénéficié d’une contiguïté temporelle parfaite avec l’événement renforçateur.

Cette observation empirique fondamentale a bouleversé les conceptions associationnistes classiques héritées de la philosophie empiriste britannique, qui postulaient que la simple contiguïté spatiotemporelle constituait une condition nécessaire et suffisante pour l’ancrage mnésique et la formation d’habitudes. En démontrant expérimentalement l’existence d’une compétition interne entre plusieurs afférences sensorielles pour l’accès aux représentations centrales, Pavlov a ouvert la voie aux théories modernes de l’attention sélective, à la modélisation mathématique de l’apprentissage associatif et à l’analyse neurobiologique des réseaux synaptiques. Cet article propose une analyse exhaustive de l’expérience du masquage : depuis ses fondements historiques dans les laboratoires pétersbourgeois jusqu’à ses prolongements les plus contemporains en intelligence artificielle, en neurobiologie moléculaire et en psychopathologie clinique.

1. Contexte historique et genèse des recherches d’Ivan Pavlov

1.1 La transition de la physiologie digestive aux réflexes conditionnels

La trajectoire scientifique d’Ivan Pavlov ne s’inscrivait pas initialement dans le champ de la psychologie, discipline qu’il considérait avec une profonde méfiance épistémologique en raison de son recours persistant à l’introspection subjective. Physiologiste dévoué à l’étude fonctionnelle des organes, Pavlov consacra les premières décennies de sa carrière à décrypter les régulations neurales et glandulaires de l’appareil digestif. Ses travaux méthodologiques révolutionnaires sur la transplantation d’organes, l’isolation de poches gastriques innervées (la célèbre poche de Pavlov) et l’analyse biochimique des sucs digestifs in vivo lui valurent la consécration internationale avec l’attribution du prix Nobel de physiologie ou médecine en 1904. C’est au cours de ces minutieuses dissections fonctionnelles de la digestion que survint une observation perturbatrice qui allait réorienter le destin des sciences du comportement.

Alors qu’ils mesuraient avec une précision chirurgicale les volumes de salive sécrétés par des canidés en réponse à l’introduction directe de substances sapides ou irritantes dans la cavité buccale, Pavlov et ses collaborateurs remarquèrent que les animaux commençaient à saliver abondamment bien avant le contact physique effectif avec la nourriture. La simple vue de l’écuelle, les bruits de pas de l’assistant de laboratoire s’approchant de la pièce ou la perception visuelle de la blouse blanche du préparateur suffisaient à déclencher un flux liquidien identique à celui provoqué par l’ingestion d’aliments. Qualifiées dans un premier temps de « sécrétions psychiques » par les chercheurs de l’Institut de médecine expérimentale, ces manifestations furent rapidement perçues non comme de simples artefacts expérimentaux perturbateurs, mais comme la manifestation somatique directe d’une activité nerveuse supérieure régie par des lois physiologiques rigoureuses.

Refusant résolument de recourir à un vocabulaire mentaliste ou anthropomorphique pour expliquer ces réactions – interdisant formellement à ses étudiants de conjecturer sur ce que le chien « ressentait » ou « désirait » –, Pavlov entreprit d’objectiver totalement ces processus internes. Il élabora une nomenclature scientifique stricte et opérationnelle : le stimulus déclencheur biologique direct devint le « stimulus inconditionnel » (US, pour Unconditioned Stimulus), la réponse physiologique innée et automatique fut qualifiée de « réflexe inconditionnel » ou « réponse inconditionnelle » (UR, pour Unconditioned Response), tandis que l’événement environnemental initialement neutre qui acquérait le pouvoir d’évoquer la réponse fut baptisé « stimulus conditionnel » (CS, pour Conditioned Stimulus), produisant une « réponse conditionnée » (CR, pour Conditioned Response). Cette révolution conceptuelle permit de transformer des intuitions subjectives en un programme expérimental matérialiste et déterministe sans précédent.

1.2 Le laboratoire de Saint-Pétersbourg et la Tour du Silence

Pour mettre en œuvre ce programme expérimental rigoureux et éliminer toute interférence susceptible d’altérer la dynamique des réflexes conditionnels, Pavlov comprit rapidement que les laboratoires conventionnels étaient inadaptés. L’hypersensibilité sensorielle des canidés transformait le moindre stimulus aléatoire en un signal potentiel, polluant les observations par des réflexes d’orientation inattendus. Grâce au mécénat de philanthropes et au soutien institutionnel de l’Empire russe, Pavlov fit concevoir un édifice architectural sur mesure au sein de l’Institut de médecine expérimentale de Saint-Pétersbourg : un bâtiment spécialement isolé acoustiquement et vibratoirement, universellement connu sous le nom de « Tour du Silence » (Bashnya Molchaniya).

Cette installation représentait l’apogée technologique de l’époque en matière d’isolation expérimentale. Les murs d’une épaisseur prodigieuse étaient bâtis en double cloison avec des matériaux absorbants tels que le liège et la tourbe compactée, reposant sur des fondations désolidarisées pour neutraliser les vibrations terrestres provoquées par la circulation urbaine environnante. Les salles d’expérimentation étaient dépourvues de fenêtres directes, éclairées de manière artificielle et ventilées par des conduits équipés de chicanes antibruit. À l’intérieur, l’animal était placé sur une table équipée d’un harnais de contention lâche, conçu pour limiter les déplacements excessifs sans provoquer de détresse motrice susceptible d’altérer son homéostasie physiologique ou son niveau de vigilance.

Le contrôle des variables était poussé jusqu’à l’extrême : l’expérimentateur n’interagissait jamais directement avec le sujet pendant la session d’enregistrement. Il se tenait à l’extérieur de la chambre hermétique, observant l’animal à travers un système d’œilletons à prismes et manipulant à distance, au moyen de circuits pneumatiques, de câbles de traction et de commutateurs électriques, l’apparition des stimuli visuels, auditifs, tactiles ou olfactifs, ainsi que la délivrance automatisée de l’assiette de nourriture. La salive sécrétée était drainée via une fistule chirurgicale pratiquée sur le canal de Sténon ou les glandes sous-maxillaires, puis guidée vers un tube gradué ou un manomètre sensible permettant d’enregistrer le volume et la cinétique exacte de la réponse au quart de goutte près. Cette standardisation méthodologique draconienne permit une réplicabilité sans faille, condition sine qua non de la découverte des interactions fines entre stimuli concurrents.

1.3 L’émergence de la question des stimuli composés

Durant les premières phases de son grand programme de recherche, Pavlov et son équipe s’attachèrent à cartographier les propriétés associatives de stimuli élémentaires isolés : le battement régulier d’un métronome à une fréquence précise, l’allumage d’une ampoule incandescente, la diffusion d’un son pur généré par un sifflet de Galton ou l’application d’un stimulateur tactile mécanique sur une région délimitée de la peau du chien. Chacun de ces signaux élémentaires démontrait sa capacité à acquérir, après un certain nombre de répétitions contiguës avec la nourriture, la propriété d’activer puissamment la sécrétion salivaire. Cependant, Pavlov réalisa rapidement que cette simplification méthodologique, bien qu’indispensable pour poser les bases du conditionnement, créait une vision tronquée du fonctionnement cérébral naturel.

Dans l’écologie réelle d’un animal, les signaux précurseurs d’événements vitaux – qu’il s’agisse de l’approche d’un prédateur, de la découverte d’une proie ou de l’alternance des cycles saisonniers – ne se manifestent quasiment jamais sous la forme de stimuli purs et isolés. Ils se présentent sous la forme de configurations polysensorielles complexes, d’agrégats de stimulations visuelles, sonores, thermiques et olfactives qui frappent simultanément les récepteurs sensoriels périphériques. Pavlov commença donc à s’interroger sur la manière dont les hémisphères cérébraux traitaient ces flux complexes : le système nerveux central procède-t-il à une simple sommation arithmétique linéaire de chaque composante individuelle, ou existe-t-il des règles d’intégration qualitativement différentes régissant les stimuli composés ?

Ces interrogations menèrent à des expériences où deux signaux de natures distinctes étaient présentés de manière rigoureusement synchronisée avant l’administration du stimulus inconditionnel. Pavlov émit l’hypothèse d’une compétition corticale dynamique, postulant que les signaux afférents ne cheminaient pas dans des canaux isolés et étanches, mais convergeaient vers le néocortex où ils devaient nécessairement interagir. C’est au cours de ces investigations systématiques sur les complexes de stimuli que les chercheurs constatèrent une anomalie frappante : lorsqu’un stimulus composé était constitué de deux éléments de forces physiques manifestement disparates, l’apprentissage ne se distribuait pas équitablement entre eux. Le problème théorique du masquage associatif venait d’émerger sur la scène scientifique.

2. Définition théorique et conceptuelle du phénomène de masquage

2.1 Définition opérationnelle du masquage (overshadowing)

Sur le plan opérationnel, le masquage désigne la réduction systématique du niveau de conditionnement acquis par un stimulus conditionnel lorsque celui-ci est présenté en composé synchrone avec un second stimulus conditionnel lors des essais d’apprentissage, en comparaison avec le niveau de conditionnement qu’il aurait acquis s’il avait été apparié seul au stimulus inconditionnel. Si l’on formalise le paradigme expérimental standard, il se décompose en une phase d’acquisition et une phase d’évaluation critique. Durant la phase d’entraînement, un groupe expérimental se voit administrer de façon répétée un stimulus composé de deux éléments, notés $CS_1$ et $CS_2$, immédiatement suivis par le stimulus inconditionnel ($US$), soit le schéma : $[CS_1 + CS_2] \rightarrow US$. En parallèle, un groupe contrôle reçoit un entraînement identique pour le stimulus discret seul : $CS_2 \rightarrow US$.

La mise en évidence formelle du masquage intervient lors de la phase de test, au cours de laquelle les deux stimuli sont présentés séparément, sans délivrance de l’US, afin de mesurer la magnitude de la réponse conditionnée ($CR$) suscitée individuellement par chaque élément. Chez les sujets du groupe expérimental, on observe que le stimulus le plus saillant ($CS_1$) engendre une réponse conditionnée robuste, souvent équivalente à celle provoquée par le composé complet $[CS_1 + CS_2]$. En revanche, le stimulus discret ou de faible intensité ($CS_2$) ne déclenche qu’une réponse conditionnée extrêmement faible, voire totalement indétectable. Lorsque cette performance est confrontée à celle du groupe contrôle – chez lequel le même stimulus $CS_2$ a acquis une capacité prédictive élevée et déclenche une salivation vigoureuse –, le déficit associatif devient évident : la présence conjointe de $CS_1$ a « masqué » le potentiel d’apprentissage de $CS_2$.

Sur le plan théorique, les chercheurs ont rapidement dû établir une distinction fondamentale entre un véritable échec d’acquisition et un simple déficit d’expression de la trace mnésique. Dans le premier cas, l’organisme n’encode pas le lien reliant le stimulus masqué à la conséquence biologique, les ressources de traitement ayant été totalement accaparées par le stimulus dominant. Dans le second cas, l’association entre $CS_2$ et l’US est bel et bien encodée dans les circuits neuronaux sous une forme latente, mais des processus compétitifs au moment du test inhibent la traduction de cette mémoire sous forme de comportement moteur ou sécrétoire observable. Cette dichotomie conceptuelle a alimenté des décennies de controverses scientifiques passionnantes au sein de la psychologie de l’apprentissage.

2.2 La notion fondamentale de saillance perceptive

L’élément moteur déterminant l’asymétrie observée lors du masquage réside dans la notion de saillance perceptive (perceptual salience). Dans le cadre épistémologique du conditionnement, la saillance n’est pas une simple propriété subjective arbitraire, mais une grandeur psychophysique objective qui reflète la capacité intrinsèque d’un stimulus à capter l’attention d’un organisme et à mobiliser ses ressources sensorielles et neurales. À son niveau le plus fondamental, la saillance physique est directement corrélée à des variables physiques quantifiables : l’intensité acoustique mesurée en décibels (dB), l’intensité lumineuse exprimée en lumens ou en candelas, la concentration chimique d’un soluté sapide ou encore la force mécanique appliquée sur l’épiderme.

Cependant, la saillance ne saurait être réduite à la seule énergie physique délivrée par le stimulus. Elle intègre également une dimension de contraste environnemental : un son d’intensité moyenne présente une saillance considérablement plus élevée s’il retentit dans une chambre anéchoïque silencieuse que s’il est diffusé au milieu d’un bruit de fond permanent. De plus, il existe une saillance biologique ou écologique intrinsèque, façonnée par l’histoire évolutive et phylogénétique de l’espèce étudiée. Chez le rat ou le canidé, les afférences olfactives et auditives bénéficient d’une priorité de traitement neurobiologique naturelle qui leur confère un avantage compétitif marqué sur les afférences visuelles de faible contraste, tandis que chez les primates supérieurs ou les oiseaux, le système visuel prédomine largement dans la hiérarchie sensorielle.

Cette asymétrie de captation attentionnelle entraîne une dynamique asymétrique immédiate dès lors que deux modalités sensorielles distinctes entrent en compétition. Lorsque la lumière et le son sont combinés, la vitesse de transduction périphérique, la rapidité de transmission synaptique le long des voies lemniscales et l’étendue de l’arborisation corticale activée créent un déséquilibre structurel en faveur de la modalité la plus prégnante. La quantification empirique de cette valeur relative de saillance a constitué l’un des plus grands défis de la psychophysique pavlovienne, exigeant des protocoles de calibrage croisé pour égaliser ou, au contraire, faire varier méthodiquement les écarts perceptifs entre les stimuli présentés en concurrence.

2.3 Le masquage comme indice des contraintes associatives

La découverte du masquage a porté un coup fatal à la vision mécaniste simpliste héritée du béhaviorisme radical naissant et de l’empirisme classique, selon laquelle la simple contiguïté temporelle entre deux événements suffisait à forger automatiquement une association dans le tissu nerveux. Dans le protocole de masquage, le stimulus discret $CS_2$ bénéficie exactement de la même contiguïté temporelle avec l’arrivée de la nourriture que le stimulus saillant $CS_1$ : les deux signaux débutent au même instant, persistent pendant la même durée et se terminent conjointement au moment précis où le stimulus inconditionnel est administré. Si la contiguïté était le facteur explicatif unique et tout-puissant de l’apprentissage, les deux composantes du signal composé devraient acquérir des forces associatives rigoureusement identiques.

Or, les données expérimentales démontrent sans équivoque qu’il n’en est rien. Le masquage apporte la preuve irréfutable que le système nerveux central n’enregistre pas passivement l’environnement à la manière d’une plaque photographique vierge, mais opère une sélection active, sélective et concurrentielle parmi les flux d’informations qui lui parviennent. L’organisme apparaît désormais comme un processeur actif d’informations, doué d’une capacité de traitement intrinsèquement limitée. L’appareil cérébral est contraint d’allouer préférentiellement ses ressources computationnelles aux signaux les plus informatifs, les plus intenses ou les plus susceptibles de garantir l’adaptation biologique de l’individu.

En mettant en évidence ces contraintes associatives internes, le masquage a constitué la première brèche majeure dans le modèle du réflexe purement linéaire de type stimulus-réponse ($S-R$). Il a contraint les physiologistes et les psychologues à postuler l’existence de mécanismes centraux d’arbitrage, de filtrage d’entrées et de partage capacitaire. Ce phénomène a posé les jalons théoriques indispensables sur lesquels allaient s’édifier, plusieurs décennies plus tard, les modèles cognitivistes de l’attention sélective développés par des chercheurs éminents tels que Donald Broadbent, ainsi que les théories modernes du traitement de l’information.

3. Le protocole expérimental pavlovien du masquage

3.1 Sélection et étalonnage des stimuli sensoriels

La mise en œuvre expérimentale du masquage au sein du laboratoire de Saint-Pétersbourg exigeait un protocole méticuleux débutant par une sélection et un étalonnage rigoureux des stimuli physiques. Pavlov et ses assistants, à l’instar de Leon Orbeli et de Boris Babkin, choisirent délibérément de confronter des modalités sensorielles hétérogènes afin d’exacerber la compétition centrale. L’un des arrangements expérimentaux canoniques consistait à apparier un stimulus auditif particulièrement intense – tel que le son strident d’une sonnerie électrique ou le martèlement précipité d’un métronome réglé sur un tempo rapide de 144 battements par minute – avec un stimulus visuel délibérément discret, comme la faible luminescence d’un voyant électrique tamisé par un verre dépoli ou le déplacement silencieux d’une silhouette géométrique sombre sur un panneau blanc.

Dans d’autres séries expérimentales, les chercheurs mirent en compétition des stimulations somatosensorielles tactiles et des stimuli auditifs. Un appareil tactile pneumatique, muni de petites pointes émoussées frappant doucement la peau de la patte ou du flanc du chien, était activé au moment précis où un accord musical puissant était émis dans la pièce. L’étalonnage de ces signaux ne laissait aucune place à l’approximation : l’intensité acoustique était ajustée en régulant la tension électrique fournie aux avertisseurs sonores ou la force de frappe des marteaux mécaniques, tandis que l’intensité lumineuse était minutieusement étalonnée en mesurant le courant alimentant les filaments incandescents afin de garantir une constance absolue d’un essai à l’autre.

Une étape méthodologique fondamentale précédait impérativement le début de tout conditionnement : l’élimination systématique des réactions inconditionnelles d’orientation (le fameux réflexe « qu’est-ce que c’est ? » décrit par Pavlov). Lors de leurs premières apparitions dans l’environnement, un son soudain ou un flash lumineux provoquent chez l’animal un ensemble complexe de mouvements exploratoires – sursaut, rotation de la tête, orientation du pavillon des oreilles, dilatation pupillaire et inhibition motrice passagère. Les animaux étaient donc soumis à une phase préalable d’habituation au cours de laquelle chaque stimulus était présenté de manière répétée et isolée, sans délivrance de nourriture, jusqu’à l’extinction complète de ces réactions d’orientation initiales, s’assurant ainsi que les réponses mesurées ultérieurement refléteraient exclusivement un apprentissage associatif nouvellement acquis.

3.2 Phase d’acquisition du stimulus composé

Une fois les stimuli calibrés et l’animal habitué au dispositif de contention de la Tour du Silence, débutait la phase d’acquisition proprement dite. Le protocole reposait sur une synchronisation temporelle millimétrée : les deux stimuli, l’élément saillant ($CS_1$, par exemple le son puissant) et l’élément discret ($CS_2$, la faible lumière), étaient enclenchés au même centième de seconde par un relais électromécanique commandé depuis la pièce de contrôle extérieure. Ce composé bimodal était maintenu actif de manière ininterrompue pendant une durée standardisée, généralement fixée entre 10 et 30 secondes selon les séries d’expériences.

À l’instant précis où cessait le stimulus composé – ou au cours des dernières secondes de son émission dans les protocoles de conditionnement de délai –, le mécanisme d’alimentation à distance basculait automatiquement une coupelle contenant une quantité invariante de stimulus inconditionnel : de la poudre de viande séchée mélangée à du sucre ou une ration standardisée de viande fraîche broyée. Cet apport alimentaire provoquait immédiatement la salivation inconditionnelle et l’ingestion vorace de la ration par le canidé affamé. Les essais étaient distribués dans le temps de manière à éviter la satiété ou la lassitude de l’animal, avec un intervalle inter-essais variable s’étendant de 5 à 15 minutes, prévenant ainsi toute forme de conditionnement temporel rythmique indésirable.

L’entraînement se poursuivait sur plusieurs semaines, à raison de quelques dizaines d’essais quotidiens, jusqu’à ce que la sécrétion salivaire conditionnée déclenchée par le stimulus composé atteigne un plateau asymptotique remarquablement stable. La cinétique de la réponse était enregistrée en continu : dès l’activation du complexe sonore et visuel, la salive commençait à perler dans le tube de mesure relié à la fistule buccale, s’écoulant au rythme régulier de plusieurs gouttes par seconde avant même que la coupelle de viande n’ait fait son apparition. Ce n’est qu’une fois cette asymptote de performance rigoureusement stabilisée sur plusieurs sessions consécutives que la phase critique de dissociation pouvait débuter.

3.3 Phase de test et résultats observés

La phase de test constituait le moment de vérité expérimental, conçu pour disséquer la contribution associative respective de chaque composante élémentaire du signal composé. Les chercheurs suspendaient alors l’administration de tout stimulus inconditionnel afin d’évaluer la salivation purement conditionnée lors d’essais d’extinction ponctuels. Lors de certains essais aléatoirement intercalés, le stimulus saillant ($CS_1$, le signal sonore) était présenté de manière strictement isolée ; lors d’autres essais, c’était le stimulus discret ($CS_2$, le signal lumineux) qui était diffusé seul, sans qu’aucun renforçateur alimentaire ne vienne récompenser l’animal.

Les résultats observés par Pavlov et ses assistants furent d’une clarté spectaculaire et d’une constance remarquable à travers des centaines de répétitions expérimentales. Lorsque le stimulus sonore saillant était déclenché, l’animal orientait son regard vers la mangeoire et la fistule salivaire expulsait quasi instantanément un volume de salive très abondant, représentant souvent entre 80 % et 100 % de la magnitude de la réponse obtenue en présence du composé sensoriel complet. Le signal fort avait donc capté la valeur prédictive de l’événement alimentaire avec une efficacité maximale.

En revanche, lorsque le signal lumineux discret était testé isolément dans la pénombre de la chambre d’isolation, le comportement de l’animal était radicalement différent : le chien demeurait passif, ne montrait aucun comportement d’anticipation motrice vers le bol alimentaire, et le manomètre de la fistule salivaire restait désespérément immobile ou n’enregistrait qu’une ou deux gouttes éparses, statistiquement non significatives. Pourtant, pour écarter formellement l’hypothèse selon laquelle ce stimulus lumineux aurait été physiologiquement incapable d’acquérir une valeur conditionnelle en raison de sa faiblesse physique intrinsèque, Pavlov avait pris la précaution d’entraîner en parallèle un groupe contrôle de chiens recevant uniquement le stimulus lumineux couplé à la nourriture : chez ces animaux témoins, la faible lumière devenait un signal conditionnel parfaitement opérant, capable de déclencher à elle seule une salivation vigoureuse de plusieurs dizaines de gouttes. La démonstration était irréfutable : la présence simultanée du son intense avait exercé une domination totale, réduisant à néant l’efficacité fonctionnelle du signal visuel concurrent.

4. Mécanismes psychophysiologiques selon Ivan Pavlov

4.1 La théorie de l’excitation et de l’inhibition corticale

Pour rendre compte de ces observations empiriques sans jamais déroger à son cadre conceptuel matérialiste, Ivan Pavlov élabora une théorie neurophysiologique hautement sophistiquée reposant sur l’interaction dynamique de deux processus fondamentaux au sein du cortex cérébral : l’excitation (vozboujdenie) et l’inhibition (tormojenie). Selon Pavlov, l’arrivée d’une afférence sensorielle au niveau des récepteurs périphériques génère une onde d’influx nerveux qui monte vers les aires de projection corticales spécifiques – l’aire auditive dans le lobe temporal pour le son, l’aire visuelle dans le lobe occipital pour la lumière. Cette arrivée se traduit par la genèse d’un « foyer d’excitation primaire » circonscrit.

Dans la vision pavlovienne, un foyer d’excitation corticale intense n’est jamais isolé ; il interagit en permanence avec le tissu nerveux environnant selon la loi de l’induction nerveuse réciproque, concept emprunté aux travaux du neurophysiologiste britannique Charles Scott Sherrington sur les réflexes spinaux et transposé par Pavlov aux hémisphères cérébraux. Plus précisément, Pavlov postula l’action d’un mécanisme d’« induction négative » : la formation d’un foyer d’excitation particulièrement puissant et dynamique – déclenché par le stimulus le plus saillant – projette immédiatement une onde d’inhibition tout autour de lui et dans les aires corticales adjacentes ou fonctionnellement reliées. Cette induction négative a pour effet d’abaisser l’excitabilité des neurones voisins, érigeant une barrière fonctionnelle temporaire.

Lorsque le stimulus composé est projeté sur le cortex, le signal auditif puissant crée un foyer d’excitation dominant, doté d’une formidable énergie métabolique, qui irradie brièvement avant de se concentrer. Simultanément, par induction négative, il plonge l’aire visuelle réceptrice du faible signal lumineux dans un état d’inhibition profonde. En conséquence, les voies de communication synaptiques reliant l’aire visuelle au centre sous-cortical de la salivation ne peuvent pas s’établir ou se consolider : la transmission de la composante la plus faible est littéralement étouffée au niveau cortical par la prédominance électrique et biochimique du foyer d’excitation majeur.

4.2 L’hypothèse de l’inhibition protectrice (transmarginale)

Pavlov enrichit ultérieurement son modèle explicatif en formulant l’hypothèse de l’« inhibition protectrice » ou « transmarginale » (zapredelnoe tormojenie). Au fil de ses expériences sur la manipulation des intensités physiques de stimulation, il découvrit que la capacité des cellules corticales à répondre de manière proportionnelle à l’augmentation de la force d’un stimulus possédait une limite physiologique absolue, un seuil critique de tolérance métabolique et fonctionnelle au-delà duquel la réactivité neuronale s’effondrait brutalement.

Lorsque l’organisme est confronté à un stimulus composé associant deux signaux simultanés, la somme combinée de l’énergie afférente frappe le néocortex avec une intensité globale qui menace de saturer les capacités de traitement des neurones concernés. Selon Pavlov, pour préserver l’intégrité structurelle des cellules pyramidales et prévenir leur épuisement métabolique irréversible ou leur destruction fonctionnelle par surstimulation, le système nerveux déploie un réflexe d’autodéfense homéostatique : l’inhibition protectrice transmarginale. Ce mécanisme éteint préférentiellement les voies afférentes secondaires afin de soulager la charge corticale globale.

Dans cette perspective, le masquage ne résulte pas seulement d’une compétition mécanique passive, mais constitue une stratégie biologique adaptative d’épargne neurale. En sacrifiant le signal sensoriel discret – dont le rapport signal sur bruit est jugé défavorable et biologiquement redondant face à l’évidence fournie par le signal fort –, le cortex limite sa dépense énergétique tout en maintenant une réactivité optimale vis-à-vis de l’indice environnemental prépondérant. Cette inhibition protectrice illustre la manière dont le système nerveux gère ses limites intrinsèques d’intégration face aux assauts d’afférences polysensorielles massives.

4.3 Les typologies du système nerveux et variabilité interindividuelle

L’un des apports les plus originaux et précurseurs de Pavlov à la physiologie comportementale réside dans sa reconnaissance explicite de la variabilité interindividuelle, qu’il refusa d’écarter comme un simple « bruit expérimental ». En observant attentivement les réactions de dizaines de canidés confrontés aux paradigmes de conditionnement complexe et de masquage, il constata que tous les individus ne manifestaient pas exactement la même sensibilité à l’inhibition d’un stimulus par un autre. Ces disparités systématiques le conduisirent à formuler sa célèbre théorie des quatre typologies fondamentales du système nerveux, directement inspirée de la classification antique d’Hippocrate et de Galien, mais réinterprétée sous l’angle de propriétés neurophysiologiques objectives.

Ces typologies reposaient sur trois paramètres cardinaux du système nerveux central : la force des processus d’excitation et d’inhibition, l’équilibre dynamique entre ces deux processus, et leur mobilité (la vitesse avec laquelle le système peut basculer d’un état d’excitation à un état d’inhibition). Pavlov identifia ainsi :

• Le type fort, équilibré et mobile (dit « sanguin »), caractérisé par des réflexes d’acquisition rapides et une excellente modulation de l’induction réciproque ;
• Le type fort, équilibré et calme (dit « flegmatique »), particulièrement résistant aux stimulations excessives et manifestant un masquage stable et reproductible ;
• Le type fort et déséquilibré (dit « cholérique »), dominé par une excitation explosive avec un déficit chronique des mécanismes d’inhibition, chez lequel le masquage pouvait être incomplet en raison d’une défaillance de l’induction négative ;
• Le type faible (dit « mélancolique »), présentant un seuil d’épuisement cortical extrêmement bas, chez lequel la moindre stimulation composée précipitait l’installation d’une inhibition protectrice massive, entraînant l’extinction simultanée des deux composantes.

Pavlov démontra en outre que ces caractéristiques typologiques innées interagissaient étroitement avec l’état émotionnel immédiat de l’animal ainsi qu’avec son état nutritionnel. Une privation de nourriture prolongée, en élevant considérablement l’excitabilité sous-corticale du centre de l’alimentation, pouvait parfois briser l’inhibition descendante et permettre au stimulus masqué d’émerger timidement lors du test. Ces découvertes imposèrent aux chercheurs de Saint-Pétersbourg une rigueur méthodologique sans précédent dans la sélection, la documentation généalogique et l’évaluation caractérielle préalable de chaque sujet expérimental pour garantir la réplicabilité des dynamiques de masquage.

5. Distinction conceptuelle : Masquage versus Blocage de Kamin

5.1 La structure temporelle des protocoles

Dans l’histoire de la psychologie de l’apprentissage, le phénomène du masquage est fréquemment juxtaposé à une autre découverte fondamentale survenue un demi-siècle plus tard : le phénomène de blocage (blocking), mis en évidence à la fin des années 1960 par le chercheur américain Leon Kamin à l’université McMaster. Bien que ces deux effets aboutissent à un résultat comportemental en apparence similaire – à savoir l’incapacité d’un stimulus conditionnel à déclencher une réponse après avoir été apparié à un renforçateur au sein d’un composé –, leurs architectures expérimentales reposent sur des structures temporelles et logiques radicalement distinctes.

Le masquage pavlovien se caractérise par une structure expérimentale strictement unimodale et synchrone, exécutée en une phase unique d’entraînement. Dès le premier essai d’apprentissage, les deux stimuli $CS_1$ et $CS_2$ sont introduits de concert et partagent un destin temporel parfaitement superposable face à l’apparition de l’US. L’organisme n’a aucune histoire associative préalable avec aucun des deux signaux ; le tri s’opère instantanément et intrinsèquement au cours de cette exposition conjointe, sous le diktat de la disparité de leurs caractéristiques physiques respectives.

À l’opposé, le blocage de Kamin repose sur un protocole séquentiel rigoureux structuré en deux phases d’apprentissage successives. Dans la Phase 1, un premier stimulus ($CS_1$) est d’abord apparié seul de manière extensive au stimulus inconditionnel ($CS_1 \rightarrow US$) jusqu’à ce qu’il acquière une force associative maximale et asymptotique. Ce n’est que dans la Phase 2 qu’un second stimulus ($CS_2$) est introduit en composé simultané avec le premier avant la délivrance du renforçateur ($[CS_1 + CS_2] \rightarrow US$). Lors du test ultérieur de $CS_2$ isolé, ce dernier ne suscite aucune réponse, bien qu’il ait été physiquement d’une intensité parfaitement égale, voire supérieure, à celle de $CS_1$.

5.2 Nature du traitement informationnel sous-jacent

Cette divergence structurelle reflète une différence profonde quant à la nature des mécanismes cognitifs et computationnels mobilisés par chaque paradigme. Le masquage pavlovien relève fondamentalement d’un déterminisme ascendant (dit bottom-up). Ce sont les contraintes neurophysiologiques et psychophysiques brutes – l’intensité des transducteurs périphériques, le nombre d’axones activés le long des voies de projection, le contraste sensoriel immédiat – qui imposent une compétition au niveau des circuits sous-corticaux et primaires. Le stimulus dominant triomphe en raison de sa prépondérance matérielle dans le paysage perceptif immédiat de l’animal.

Dans le blocage de Kamin, le traitement relève d’une régulation descendante (dite top-down), hautement cognitive et guidée par l’espérance interne du sujet. Chez Kamin, la perceptibilité physique de $CS_2$ n’est nullement en cause ; ce qui paralyse son conditionnement, c’est sa totale redondance prédictive. Dès lors que $CS_1$ permet déjà de prédire avec une certitude absolue de 100 % l’apparition imminente du renforçateur, l’arrivée de l’US n’offre aucune surprise à l’organisme. Comme l’a si brillamment formulé Leon Kamin, « l’apprentissage ne se produit que si l’organisme est surpris » ; en l’absence d’inadéquation entre l’attente et l’événement réel, aucun travail mental d’ajustement associatif n’est déclenché pour le nouvel arrivant $CS_2$.

Ainsi, tandis que le masquage s’enracine dans la limitation des capacités de capture sensorielle et d’intégration corticale primaire face à une surcharge immédiate, le blocage illustre l’économie computationnelle d’un système intelligent qui refuse d’investir des ressources mnésiques pour encoder une information parfaitement superflue. Cette distinction capitale a permis de dissocier expérimentalement la saillance énergétique d’un signal de sa valeur purement informationnelle et statistique.

5.3 Points de convergence théorique

Malgré leurs fondements opérationnels distincts, le masquage et le blocage convergent vers une conclusion théorique commune qui a définitivement métamorphosé la psychologie contemporaine : tous deux démontrent avec force que les stimuli environnementaux entrent en concurrence acharnée pour se partager une quantité finie de ressources associatives. L’un comme l’autre ont invalidé les postulats fonctionnalistes primaires selon lesquels l’esprit apprendrait par accumulation mécanique d’associations indépendantes en vases clos.

Ces deux paradigmes forment le socle expérimental indispensable sur lequel reposent la totalité des modèles modernes d’apprentissage computationnel. Ils ont forcé les mathématiciens et théoriciens de la cognition à introduire le concept fondamental de « somme associative globale » : la force prédictive totale qu’un renforçateur donné peut supporter est plafonnée par une limite fixe, et chaque composante présente sur la scène perceptive doit batailler pour s’approprier une fraction de ce gâteau cognitif commun.

Il existe d’ailleurs des points de friction expérimentaux fascinants où masquage et blocage s’entrecroisent. Par exemple, si l’on manipule la saillance relative au sein même d’un protocole de blocage en utilisant un stimulus bloqué ($CS_2$) d’une intensité lumineuse ou sonore cataclysmique, ce dernier peut partiellement briser le blocage cognitif induit par $CS_1$. Cette interaction subtile entre déterminisme ascendant lié à la saillance brute et régulation descendante liée à l’histoire prédictive continue de constituer un terrain fertile pour l’expérimentation contemporaine sur les réseaux neuronaux biologiques et synthétiques.

6. Modélisations contemporaines : L’apport du modèle de Rescorla-Wagner

6.1 Formulation mathématique de la compétition associative

En 1972, les psychologues américains Robert Rescorla et Allan Wagner ont accompli une percée théorique majeure en publiant un modèle mathématique formel de l’apprentissage associatif qui demeure, encore aujourd’hui, l’un des cadres computationnels les plus élégants et influents des neurosciences cognitives. Le modèle de Rescorla-Wagner formalise l’idée que le conditionnement ne progresse pas en fonction de la simple occurrence d’un événement, mais en fonction de l’écart entre ce qui se produit réellement et ce que l’organisme anticipait : la fameuse notion d’erreur de prédiction.

L’équation canonique du modèle décrit la variation de la force associative subie par un stimulus conditionnel $A$ au cours d’un essai d’apprentissage donné $t$ :

ΔV_A = α_A · β · (λ – V_total)

Dans cette formulation rigoureuse :

• ΔV_A représente le gain (ou la perte) de force associative attribué au stimulus $A$ lors de l’essai ;
• α_A est un paramètre compris entre 0 et 1 quantifiant la saillance sensorielle intrinsèque du stimulus $A$, reflétant directement les propriétés physiques mises en exergue par Pavlov ;
• β est un paramètre de vitesse d’apprentissage lié à l’intensité et à la nature motivationnelle du stimulus inconditionnel ;
• λ (lambda) représente la valeur asymptotique maximale du renforçateur, c’est-à-dire la capacité totale de conditionnement que cet US particulier peut soutenir dans le système nerveux ;
• V_total représente la somme arithmétique globale de toutes les forces associatives de l’ensemble des stimuli conditionnels présents lors de l’essai : $V_{total} = \sum V_i$.

Le terme central $(\lambda – V_{total})$ incarne mathématiquement l’erreur de prédiction : tant que ce différentiel est positif, l’US conserve une part d’imprévisibilité et un apprentissage incrémental a lieu. Dès que $V_{total}$ égale $lambda$, l’erreur de prédiction s’annule, l’apprentissage s’interrompt et le système atteint un état d’équilibre stationnaire.

6.2 Résolution formelle du masquage par l’algèbre de Rescorla-Wagner

L’immense triomphe du formalisme de Rescorla-Wagner réside dans sa capacité à rendre compte du masquage pavlovien sans nécessiter l’adjonction d’aucune hypothèse ad hoc. Pour comprendre la mécanique de cette résolution, considérons la présentation conjointe d’un stimulus saillant $CS_1$ doté d’un paramètre de saillance élevé, par exemple $\alpha_1 = 0{,}8$, et d’un stimulus discret $CS_2$ dont la saillance est faible, par exemple $\alpha_2 = 0{,}2$. Le composé $[CS_1 + CS_2]$ est associé de manière répétée à un renforçateur de valeur maximale arbitraire $lambda = 1$.

Au premier essai, aucun des deux stimuli ne possède de valeur associative préalable : $V_1 = 0$, $V_2 = 0$, et par conséquent $V_{total} = 0$. Le terme d’erreur de prédiction est donc maximal : $(\lambda – V_{total}) = (1 – 0) = 1$. L’incrément de force associative pour chaque élément s’établit dès lors en proportion directe de son paramètre alpha :

• $\Delta V_1 = \alpha_1 \cdot \beta \cdot (1) = 0{,}8 \cdot \beta$
• $\Delta V_2 = \alpha_2 \cdot \beta \cdot (1) = 0{,}2 \cdot \beta$

Dès le premier essai, le stimulus saillant accumule une avance associative considérable, captant quatre fois plus de force que son homologue discret.

Au fil des essais successifs, $V_{total}$ grimpe très rapidement en se rapprochant de l’asymptote $lambda$, ce qui a pour conséquence inéluctable de comprimer drastiquement le terme d’erreur $(\lambda – V_{total})$. Très vite, alors même que l’erreur globale tend vers zéro, $V_1$ a englouti la part du lion du réservoir associatif, plafonnant à une valeur proche de $0{,}8$, tandis que $V_2$ reste verrouillé à un niveau marginal avoisinant $0{,}2$. Le modèle démontre avec une précision mathématique irréfutable que le stimulus doté du paramètre de saillance le plus élevé dévore le potentiel de renforcement disponible avant même que le stimulus discret n’ait eu l’occasion d’acquérir une force appréciable. Les trajectoires théoriques prédites par l’équation épousent au millimètre près les courbes de sécrétion salivaire recueillies dans les laboratoires pavloviens.

6.3 Modèles alternatifs : Mackintosh et Pearce-Hall

Bien que le modèle de Rescorla-Wagner constitue une référence incontournable, ses postulats fondamentaux ont suscité des débats scientifiques profonds, notamment concernant la nature immuable du paramètre de saillance $\alpha$. Deux grandes théories attentionnelles alternatives sont venues enrichir et nuancer l’explication du masquage : le modèle de Nicholas Mackintosh (1975) et le modèle de John Pearce et Geoffrey Hall (1980).

Dans la théorie de Nicholas Mackintosh, la saillance attentionnelle d’un stimulus n’est pas une constante physique fixe gravée dans le marbre sensoriel, mais une variable dynamique ($\alpha$) continuellement mise à jour par l’organisme en fonction de son utilité prédictive. Mackintosh postule que les animaux augmentent activement leur attention envers un stimulus si celui-ci constitue un prédicteur plus fiable et plus précoce du renforçateur que tous les autres signaux concurrents contemporains ($\Delta \alpha > 0$). Inversement, si un stimulus se révèle moins bon prédicteur que ses rivaux, l’attention allouée à ce signal s’effondre activement ($Delta alpha < 0$). Dans le cadre du masquage, le stimulus saillant transmettant l'information plus rapidement et plus massivement, le système nerveux dégrade intentionnellement l'attention portée au stimulus faible, précipitant son invisibilisation cognitive.

À l’inverse, le modèle de Pearce et Hall propose une vision contre-intuitive mais extraordinairement féconde : les organismes allouent de l’attention non pas aux stimuli qui prédisent parfaitement l’environnement, mais à ceux dont les conséquences demeurent incertaines, afin d’optimiser l’apprentissage futur. Selon Pearce et Hall, dès lors qu’un stimulus composé est suivi de manière certaine par un renforçateur, la présence du composant le plus intense permet une résolution quasi immédiate de l’incertitude environnementale. Le composant faible, n’étant porteur d’aucune incertitude non résolue par ailleurs, subit une chute brutale de son associabilité. La confrontation féconde de ces modèles a permis d’opérer une synthèse moderne réconciliant les processus de bas niveau (saillance physique brute) et les mécanismes inférentiels sophistiqués d’allocation de l’attention sélective.

7. Substrats neurobiologiques et circuits cérébraux du masquage

7.1 Le rôle central de l’amygdale et des structures sous-corticales

Si Pavlov et ses contemporains en étaient réduits à concevoir des schémas d’irradiation et d’induction corticales purement hypothétiques, les neurosciences modernes ont depuis identifié avec une remarquable précision les circuits sous-corticaux et télencéphaliques qui exécutent physiquement l’arbitrage associatif caractéristique du masquage. Au cœur de ce dispositif d’évaluation de la valence et de la saillance des stimuli figure le complexe amygdalien, et plus spécifiquement les noyaux basolatéraux de l’amygdale (BLA, pour Basolateral Amygdala).

Le complexe BLA constitue un véritable carrefour de convergence polysensorielle : il reçoit des afférences glutamatergiques directes provenant à la fois des noyaux thalamiques sensoriels spécifiques (voies sous-corticales rapides et peu détaillées) et des aires corticales primaires et associatives (voies thalamo-corticales plus lentes mais hautement raffinées). Les axones transmettant les informations relatives aux stimuli auditifs, visuels ou tactiles convergent physiquement sur les mêmes neurones pyramidaux et les mêmes épines dendritiques de l’amygdale basolatérale. C’est précisément à cette échelle micrométrique que s’opère la compétition synaptique sous-jacente au masquage.

L’encodage de l’association conditionnée dépend de mécanismes de plasticité synaptique dépendante de l’activité, au premier rang desquels se trouve la potentialisation à long terme (LTP, pour Long-Term Potentiation), médiée par l’activation des récepteurs NMDA et l’insertion subséquente de récepteurs AMPA au niveau post-synaptique. Lorsqu’un stimulus très saillant est activé, il déclenche une dépolarisation somatodendritique massive dans les neurones de l’amygdale. Cette dépolarisation prépondérante expulse immédiatement les ions magnésium ($Mg^{2+}$) bloquant les pores des récepteurs NMDA associés aux synapses du stimulus dominant, provoquant un afflux massif de calcium ($Ca^{2+}$) et induisant une LTP robuste. En revanche, les dépolarisations infinitésimales induites par le stimulus masqué de faible intensité sont balayées par des réseaux d’interneurones GABAergiques locaux activés en rétroaction par les voies dominantes, ce qui inhibe l’induction de toute LTP au niveau des synapses secondaires. En amont de l’amygdale, le colliculus supérieur participe également à ce filtrage précoce en orientant l’axe visuo-spatial vers la source sensorielle la plus saillante.

7.2 Mécanismes dopaminergiques et signal d’erreur de prédiction

L’implémentation biologique de l’algorithme de Rescorla-Wagner et la régulation fine du masquage ont trouvé leur incarnation neuronale la plus spectaculaire dans les travaux novateurs de Wolfram Schultz et ses collaborateurs sur les systèmes catécholaminergiques du mésencéphale. Ces recherches ont établi que les neurones dopaminergiques localisés au sein de l’aire tegmentale ventrale (ATV) et de la substance noire pars compacta (SNc) n’encodent pas la simple valeur hédonique brute du stimulus inconditionnel, mais déchargent de manière phasique en proportion exacte de l’erreur de prédiction de la récompense (RPE, pour Reward Prediction Error).

La cinétique de décharge de ces neurones dopaminergiques correspond rigoureusement au terme mathématique $(\lambda – V_{total})$. Au début d’un conditionnement de masquage, la délivrance de nourriture non anticipée provoque une bouffée de potentiels d’action dopaminergiques extrêmement dense dans l’ATV. Cette dopamine est libérée massivement et de manière diffuse au sein du striatum ventral (notamment le noyau accumbens) et du cortex préfrontal, agissant comme un signal biochimique permissif indispensable pour autoriser la plasticité synaptique et la consolidation de l’apprentissage.

Toutefois, en raison de l’asymétrie de vitesse et de puissance d’activation des voies afférentes, les traces synaptiques issues du stimulus le plus saillant ($CS_1$) capturent préférentiellement cette vague dopaminergique. Au fur et à mesure que les essais se répètent, la décharge dopaminergique phasique glisse temporellement de l’apparition du renforçateur vers le début de l’émission du stimulus conditionnel composé. Lorsque le composé débute, la décharge dopaminergique est désormais entièrement déclenchée par l’élément dominant $CS_1$. Au moment où l’US survient, les neurones dopaminergiques restent silencieux car l’erreur de prédiction est devenue nulle. Le stimulus masqué $CS_2$, qui se développe temporellement au cours de l’essai, se retrouve privé de tout signal dopaminergique phasique permissif au moment précis où il devrait former son association avec le renforçateur, scellant son sort associatif par asphyxie dopaminergique.

7.3 Contrôle descendant par le cortex préfrontal

Au-delà des structures sous-corticales et limbiques, le contrôle supérieur du masquage et la gestion de la compétition entre stimuli mobilisent un réseau dense d’influences descendantes (top-down) émanant du cortex préfrontal médian (mPFC), en interaction étroite avec le cortex orbitofrontal (OFC) et le cortex cingulaire antérieur (ACC). Ces régions néocorticales hautement intégratives exercent une fonction de modulation continue sur la saillance perçue et sur l’allocation des capacités attentionnelles.

Le cortex préfrontal projette massivement des collatérales glutamatergiques sur le réseau d’interneurones inhibiteurs locaux (cellules étoilées à parvalbumine) situés dans les aires sensorielles secondaires et dans le thalamus sensoriel (complexe pulvinar et noyau réticulé du thalamus). Lorsqu’un stimulus composé est détecté, le mPFC amplifie activement la représentation neuronale du signal dominant tout en dépêchant des signaux de suppression GABAergique en direction des colonnes corticales encodant les aspects accessoires ou faibles du composé perceptif. Ce filtrage préfrontal actif permet d’immuniser le réseau de travail exécutif contre la dispersion attentionnelle.

Les données contemporaines obtenues par imagerie par résonance magnétique fonctionnelle (IRMf) chez l’humain ainsi que par enregistrements électrophysiologiques multi-électrodes chez le primate non humain confirment cette dynamique : lors de la confrontation à un composé induisant un masquage, on observe une augmentation de la connectivité fonctionnelle cohérente en oscillations gamma (30-80 Hz) entre le mPFC et les aires sensorielles codant pour le stimulus saillant. Parallèlement, l’activité métabolique et la synchronisation de phase correspondant aux représentations du stimulus discret subissent une extinction fonctionnelle sélective, attestant du rôle pivot du néocortex dans l’orchestration dynamique de la compétition perceptivo-associative.

8. Variables modératrices et variations expérimentales

8.1 L’effet de la modalité sensorielle et de la compatibilité écologique

Si la puissance physique brute constitue un déterminant majeur du masquage, elle est loin d’en être le seul arbitre. L’un des apports les plus révolutionnaires apportés aux théories de l’apprentissage réside dans la découverte de la « préparation biologique » (biological preparedness), mise en lumière de manière magistrale par les expériences historiques de John Garcia et Robert Koelling en 1966. Leurs travaux ont démontré que l’efficacité avec laquelle un stimulus conditionnel s’associe à un renforçateur inconditionnel dépend intimement de la pertinence évolutive et adaptative de ce couple pour l’espèce concernée.

Cette règle écologique modifie profondément les dynamiques de masquage. Si l’on entraîne un rongeur avec un stimulus composé associant une solution d’eau aromatisée au goût sucré ($CS_1$, gustatif) et un flash lumineux éclatant ($CS_2$, visuel/extéroceptif), la nature du renforçateur inversera totalement les rapports de force associatifs :

• Si l’US est une nausée gastro-intestinale induite par injection de chlorure de lithium ($LiCl$), le stimulus gustatif masque de manière totale et irréversible le stimulus lumineux, quelle que soit la puissance en lumens de ce dernier. Le système nerveux du rongeur est génétiquement pré-câblé pour attribuer les désordres internes viscéraux à des indices gustatifs ou olfactifs.
• Si l’US est un choc électrique administré aux pattes, la situation s’inverse spectaculairement : c’est le signal lumineux qui masque totalement le signal gustatif, car les agressions physiques externes sont biologiquement reliées à des stimuli extéroceptifs visuels ou sonores.

De surcroît, le masquage intermodal (confrontant deux sens différents, comme l’ouïe et la vue) obéit à des règles légèrement différentes du masquage intramodal (opposant deux stimuli de même nature, comme deux fréquences sonores distinctes de 1000 Hz et 5000 Hz). Dans le masquage intramodal, la compétition s’exerce au sein des mêmes cartes tonotopiques ou rétinotopiques corticales par inhibition latérale directe, générant des effets de masquage souvent encore plus intraitables et massifs que ceux observés lors de compétitions intermodales.

8.2 Facteurs temporels et asynchronie de présentation

L’orthodoxie pavlovienne d’origine privilégiait l’entraînement avec des stimuli rigoureusement synchrones. Cependant, la recherche contemporaine a minutieusement exploré l’impact de manipulations chronométriques infinitésimales dans la diffusion des signaux, mettant en évidence la sensibilité prodigieuse de l’apprentissage aux paramètres temporels fins. L’introduction d’une micro-asynchronie d’à peine quelques centaines de millisecondes entre le déclenchement de $CS_1$ et de $CS_2$ suffit fréquemment à désintégrer ou à inverser le masquage attendu.

Si le stimulus de faible intensité ($CS_2$) est déclenché avec une très légère avance temporelle par rapport au stimulus saillant ($CS_1$) – selon un arrangement temporel d’anticipation de phase –, le désavantage lié à sa faible intensité physique peut être totalement neutralisé par son statut de « précurseur précoce ». En vertu des lois de l’efficacité prédictive chères à Mackintosh, le système nerveux central valorise de manière disproportionnée le tout premier signal annonciateur d’un événement vital, quand bien même ce dernier serait de faible amplitude énergétique. Cette antériorité temporelle permet au signal discret d’initier sa cascade de plasticité synaptique avant que le signal violent ne vienne saturer les réseaux corticaux.

De même, la durée respective de maintien des stimuli avant la délivrance du stimulus inconditionnel et la longueur de l’intervalle inter-stimulus (ISI, pour Inter-Stimulus Interval) jouent un rôle modérateur critique. Des intervalles excessivement longs tendent à estomper les disparités de saillance physique, laissant davantage de temps aux processus de réverbération neuronale lente pour encoder les signaux discrets, tandis que des ISI extrêmement resserrés exacerbent l’avantage compétitif des voies sensorielles rapides et hautement myélinisées caractéristiques des stimuli saillants.

8.3 Effets post-entraînement et récupération du stimulus masqué

Pendant des décennies, le consensus dominant postulait que le masquage représentait un échec d’acquisition définitif : le stimulus discret était censé ne jamais avoir été encodé dans les réseaux synaptiques en raison de l’inhibition subie lors de l’entraînement. Or, une série d’expériences révolutionnaires a complètement renversé cette certitude en démontrant l’existence du phénomène spectaculaire de « levée de masquage » (connu dans la littérature sous le terme d’un-overshadowing ou récupération post-entraînement).

Le protocole expérimental de levée de masquage se déroule en trois étapes méthodiques :

1. Les sujets sont d’abord soumis au protocole de masquage conventionnel : $[CS_1 + CS_2] \rightarrow US$, jusqu’à ce que $CS_1$ masque complètement $CS_2$.
2. Dans une deuxième étape critique, les animaux sont soumis à une phase d’extinction massive portant exclusivement sur le stimulus saillant : $CS_1 \rightarrow \emptyset$ (présentation répétée de $CS_1$ dans la cage d’expérimentation, sans aucune délivrance du renforçateur alimentaire ou aversif, jusqu’à ce que la réponse conditionnée à $CS_1$ tombe à zéro).
3. Lors de la troisième étape, le stimulus masqué $CS_2$, qui n’a pourtant plus jamais été présenté depuis la phase d’acquisition initiale, est testé de façon isolée.

Les résultats de cette procédure sont stupéfiants : chez les animaux ayant subi l’extinction du signal dominant, le stimulus discret $CS_2$ recouvre spontanément une force associative considérable et déclenche désormais une vigoureuse réponse conditionnée. Cette résurgence prouve sans l’ombre d’un doute que l’information relative à $CS_2$ avait bel et bien été encodée dans le cerveau de l’animal lors de la phase initiale d’acquisition, mais qu’elle demeurait silencieuse, incapable de s’exprimer comportementalement en raison de la prépondérance mnésique de $CS_1$. Dès que la valeur prédictive de $CS_1$ est neutralisée par l’extinction, le frein inhibiteur est levé, libérant l’expression motrice de la mémoire latente de $CS_2$.

9. Le masquage chez l’être humain : Paradigmes et manifestations

9.1 Tâches de jugement causal et d’apprentissage de catégories

Loin d’être l’apanage exclusif du modèle canin ou murin, le phénomène de masquage constitue une propriété architecturale omniprésente du fonctionnement cognitif humain. Pour investiguer ces processus chez l’homme sans se heurter aux barrières éthiques ou méthodologiques des conditionnements viscéraux invasifs, la psychologie cognitive expérimentale a développé des paradigmes ingénieux de jugement causal informatisé et d’apprentissage de catégories formelles.

Dans un protocole expérimental typique, les participants sont placés devant un écran d’ordinateur et endossent le rôle d’un médecin ou d’un pharmacologue devant identifier les facteurs déclencheurs d’une pathologie rare ou les effets secondaires d’associations de principes actifs. On leur présente de multiples fiches de patients fictifs ayant ingéré des combinaisons de deux médicaments, $M_1$ et $M_2$, systématiquement suivies par l’apparition d’une réaction allergique sévère ($US$). Pour induire une différence de saillance, $M_1$ est présenté avec un habillage visuel particulièrement frappant (typographie rouge éclatante en gras, voyants clignotants, avertisseur sonore concomitant), tandis que $M_2$ est mentionné sous la forme d’un texte discret en corps de police réduit et en nuances de gris.

Lorsque l’on demande ensuite aux sujets d’évaluer de manière probabiliste la responsabilité causale individuelle de chaque composé sur une échelle numérique continue de 0 à 100, les participants attribuent quasi unanimement un pouvoir causal massif et certain à $M_1$ (estimé à plus de 85 %), tandis qu’ils jugent $M_2$ totalement inoffensif ou non pertinent (estimé à moins de 15 %). Les enregistrements en oculométrie (eye-tracking) révèlent que, bien que les yeux des participants se soient posés physiquement sur la mention de $M_2$ durant un temps de fixation suffisant pour un décodage sémantique, la saillance visuo-attentionnelle de $M_1$ a biaisé le traitement inférentiel, générant une puissante illusion de causalité exclusive au détriment du facteur discret.

9.2 Différences individuelles et développementales

L’intensité et la résistance au masquage varient de façon hautement significative en fonction du stade de développement ontogénétique de l’individu ainsi que de ses capacités cognitives structurelles. Chez le jeune enfant, notamment entre 3 et 7 ans, la sensibilité au masquage est extraordinairement aiguë. Cette perméabilité exacerbée découle directement de l’immaturité développementale du cortex préfrontal et des fonctions exécutives associées, au premier rang desquelles figurent le contrôle inhibiteur et l’attention sélective flexible.

Confronté à des stimuli composés, le jeune enfant est littéralement captif de la saillance physique immédiate : le détail le plus coloré, le jouet le plus bruyant ou l’animation la plus dynamique absorbe l’intégralité de son champ attentionnel conscient, oblitérant totalement l’encodage des indices contextuels périphériques indispensables à un apprentissage abstrait généralisable. Au fur et à mesure de la myélinisation des faisceaux fronto-striataux et de la maturation des mécanismes de flexibilité cognitive, l’enfant acquiert progressivement la capacité de redistribuer volontairement son attention sur les composantes discrètes d’une scène perceptive complexe.

Chez l’adulte, la résistance au masquage est étroitement corrélée aux capacités de la mémoire de travail (mesurées par des tâches de type Ospan ou N-back) ainsi qu’au niveau d’expertise acquis dans le domaine testé. Un expert en radiologie médicale, par exemple, démontre une immunité remarquable contre les masquages visuels induits par des artefacts très contrastés sur un cliché radiographique : son système d’inspection dirigé lui permet d’inhiber activement la saillance brute d’une masse bénigne hyperdense pour focaliser son analyse sur les micro-opacités discrètes qui constituent les véritables marqueurs précoces d’une tumeur maligne.

9.3 Évaluation explicite versus mesures psychophysiologiques implicites

L’exploration du masquage chez l’être humain a mis en lumière une fascinante dissociation fonctionnelle entre les jugements déclaratifs conscients (explicites) et les réponses psychophysiologiques autonomes (implicites). Lorsque l’on soumet des volontaires humains à un conditionnement aversif classique – associant un stimulus composé visuel ou auditif à un choc électrique transcutané désagréable –, il est possible de monitorer en temps réel deux niveaux de sortie comportementale : d’une part, l’évaluation verbale subjective de la probabilité du choc, et d’autre part, la variation de la réponse électrodermale (SCR, pour Skin Conductance Response), reflet somatique direct de l’activation du système nerveux sympathique médiée par l’amygdale.

Les résultats de ces expérimentations révèlent fréquemment une dissociation frappante : interrogés consciemment lors du test, les participants peuvent déclarer verbalement savoir que le stimulus discret était présent lors des essais de choc au même titre que le stimulus saillant ; pourtant, lorsque le stimulus discret leur est présenté de manière isolée, leur conductance cutanée reste plate, ne manifestant aucune réaction de stress physiologique. Inversement, chez certains sujets affirmant de façon explicite que le stimulus masqué était « totalement inoffensif », on peut enregistrer des micro-réponses électrodermales significatives, trahissant un encodage émotionnel implicite qui échappe à la métacognition consciente du participant.

Les neurosciences cognitives ont poussé ces investigations au niveau de l’électroencéphalographie à haute résolution en analysant les potentiels évoqués cognitifs (ERP, pour Event-Related Potentials). Des composantes pré-attentionnelles ultra-précoces telles que la négativité de discordance (MMN, pour Mismatch Negativity), enregistrée entre 100 et 200 millisecondes après l’apparition du stimulus, révèlent que le cortex sensoriel humain enregistre parfaitement la présence physique de l’élément masqué. En revanche, les composantes plus tardives associées à la prise de conscience et à la mobilisation active des ressources de la mémoire de travail – telle que l’onde positive P300 – sont totalement absentes lors de la présentation du stimulus masqué. Ces données électrophysiologiques confirment que le masquage chez l’humain s’enracine dans la rupture de transition entre un traitement perceptif pré-attentionnel passif et un accès à l’espace de travail conscient global.

10. Implications cliniques et psychopathologiques

10.1 Étiologie et maintien des phobies spécifiques

Dans le domaine de la psychopathologie clinique, les lois du conditionnement pavlovien et les mécanismes du masquage fournissent des clés de lecture théoriques indispensables pour décrypter la genèse, le maintien et la résistance au traitement des troubles anxieux, au premier rang desquels figurent les phobies spécifiques et le trouble de stress post-traumatique (TSPT).

Lors d’un événement hautement traumatique – tel qu’une agression physique violente, un accident de la route spectaculaire ou l’attaque d’un animal –, la victime est submergée par un afflux massif de stimulations sensorielles hétérogènes. Dans cette tempête perceptivo-émotionnelle, un stimulus doté d’une saillance physique, émotionnelle ou symbolique extrême (le flash lumineux des phares, le bruit strident d’un klaxon, la vue du sang ou le canon d’une arme à feu) capte l’intégralité du traitement associatif piloté par l’hyper-activation amygdalienne. Ce stimulus hyper-saillant masque dramatiquement l’ensemble des éléments contextuels périphériques objectifs (l’environnement géographique, l’heure de la journée, les indices réels de sécurité ambiants).

Il en résulte une mémoire traumatique rigide et déséquilibrée : le signal hyper-saillant acquiert un pouvoir anxiogène démesuré capable de déclencher des attaques de panique incontrôlables lors de sa réapparition dans la vie quotidienne, tandis que le contexte sécurisant n’a pu faire l’objet d’aucun conditionnement inhibiteur protecteur. En thérapie d’exposition cognitivo-comportementale (TCC), les cliniciens doivent impérativement prendre en compte cette dynamique de masquage : si le thérapeute tente d’éteindre la peur phobique en réexposant le patient au contexte traumatique général sans s’assurer que le stimulus hyper-saillant spécifique a été préalablement ciblé et méticuleusement désensibilisé de manière isolée, le contexte continuera d’être masqué, vouant la thérapie d’exposition à une rechute quasi certaine.

10.2 Le trouble du spectre de l’autisme (TSA) et traitement sensoriel

L’étude du masquage et de ses dérégulations a trouvé un écho clinique majeur dans la recherche contemporaine sur le trouble du spectre de l’autisme (TSA). Les personnes avec un profil neuroatypique autistique présentent de façon quasi universelle des altérations profondes du traitement de l’information sensorielle, se manifestant par une mosaïque d’hypersensibilités ou d’hyposensibilités sensorielles spécifiques.

Ces profils perceptifs singuliers modifient radicalement la hiérarchie standard de la saillance des stimuli. Un son de faible décibel mais situé sur une fréquence spectrale particulière, un scintillement d’éclairage fluorescent invisible pour un sujet neurotypique ou le frottement tactile d’une étiquette textile peuvent acquérir, chez une personne avec autisme, une saillance subjective terrifiante et écrasante. Ce phénomène sous-tend ce que la littérature de psychologie comportementale appliquée qualifie historiquement de « sursélectivité du stimulus » (stimulus overselectivity) : l’individu ne répond et n’apprend qu’en fonction d’un seul détail infinitésimal, hyper-saillant pour lui mais totalement insignifiant pour son entourage, tandis que les composantes majeures du message social ou verbal sont totalement masquées.

Cette sursélectivité induite par un masquage atypique a des répercussions cliniques massives sur l’acquisition du langage, la compréhension des indices de communication non verbale et les interactions sociales. Si, lors d’un échange interactif, la texture de la chemise de l’interlocuteur masque le mouvement de ses lèvres et l’intonation de sa voix, l’enfant autiste échoue à construire les représentations multimodales intégrées du langage. C’est pourquoi les méthodologies éducatives structurées fondées sur l’analyse appliquée du comportement (ABA) intègrent systématiquement des protocoles d’estompage d’indices (prompt fading) et de contrôle rigoureux de la saillance physique, veillant à décomposer méthodiquement les stimuli composés pour neutraliser les effets de masquage parasites.

10.3 Schizophrénie et anomalies du filtrage attentionnel

Dans la nosographie psychiatrique, la schizophrénie représente sans doute l’affection où les altérations des lois fondamentales de la compétition associative et du filtrage attentionnel se manifestent avec la plus tragique éloquence. Une abondante littérature expérimentale a solidement documenté que les patients souffrant de schizophrénie – en particulier durant les phases aiguës de décompensation délirante – présentent une abolition ou une atténuation pathologique massive des phénomènes de masquage, de blocage et d’inhibition latente.

Ce dysfonctionnement cognitif majeur trouve son origine physiopathologique directe dans la dysrégulation du système dopaminergique mésolimbique. Comme nous l’avons analysé précédemment, l’exécution correcte du masquage et du blocage exige que les bouffées phasiques de dopamine soient strictement verrouillées à l’erreur de prédiction légitime générée par le stimulus dominant. Chez le patient schizophrène, l’emballement dopaminergique anarchique entraîne un état permanent de « saillance aberrante » (aberrant salience), brillamment théorisé par le psychiatre Shitij Kapur.

Dans cet état neurochimique dérégulé, le système nerveux central du patient attribue de façon erronée et indiscriminée une importance et une valence prédictive monumentales aux stimuli environnementaux les plus triviaux et périphériques : le clignement des yeux d’un passant, le reflet d’une vitrine ou le grésillement lointain d’un moteur. La barrière protectrice du masquage étant pulvérisée, les stimuli secondaires ne sont plus neutralisés ; ils envahissent l’espace conscient du patient, qui se retrouve submergé par une forêt de significations occultes et de coïncidences intolérables. L’élaboration délirante – qu’elle prenne la forme d’un délire de persécution, de référence ou de contrôle mystique – constitue alors la tentative cognitive désespérée de l’esprit pour donner un sens narratif cohérent à cette prolifération incontrôlable d’associations anormalement saillantes.

11. Critiques méthodologiques, débats et raffinements conceptuels

11.1 La querelle entre théories de l’apprentissage et théories de la performance

Tout au long de la seconde moitié du vingtième siècle, l’interprétation du masquage a été le théâtre d’un affrontement épistémologique titanesque entre deux grands courants théoriques de la psychologie scientifique : les théories de l’apprentissage (dites théories de l’acquisition) et les théories de la performance (dites théories de l’expression).

Le camp traditionnel de l’acquisition – incarné par le modèle de Rescorla-Wagner, la théorie de Mackintosh et la quasi-totalité des modèles computationnels connexionnistes initiaux – postulait avec vigueur que le masquage représentait un déficit survenant au moment même de l’encodage synaptique initial. Selon cette perspective, le stimulus discret subit une véritable amputation de son gain associatif lors des essais conjoints ; la trace mnésique liant $CS_2$ au renforçateur n’est tout simplement pas écrite dans le tissu cérébral, ou ne l’est que sous une forme squelettique et insignifiante.

À l’opposé s’est dressée la théorie alternative révolutionnaire formulée par Ralph Miller et son équipe de l’université de Binghamton : l’hypothèse du comparateur (Comparator Hypothesis). Selon Miller et les partisans des théories de la performance, le système nerveux encode fidèlement et exhaustivement l’intégralité des associations élémentaires présentes dans l’environnement, sans aucune compétition destructrice lors de l’acquisition : le sujet apprend la relation $CS_1 \rightarrow US$, mais apprend également avec une précision égale la relation $CS_2 \rightarrow US$, ainsi qu’une association directe entre les deux stimuli conditionnels $CS_1 \rightarrow CS_2$.

Pour l’hypothèse du comparateur, le phénomène de masquage ne se produit qu’au moment précis du test, lors de la restitution de la performance motrice. Lorsque le stimulus masqué $CS_2$ est testé seul, il active directement la représentation de l’US, mais active simultanément de façon indirecte la représentation de son partenaire d’entraînement $CS_1$, qui prédit lui-même l’US avec une force colossale. Le cerveau procède alors à une comparaison mathématique instantanée : constatant que la valeur prédictive indirecte médiée par $CS_1$ surpasse outrageusement la valeur directe de $CS_2$, le système inhibe la commande motrice en aval. La mise en évidence répétée de la levée de masquage (un-overshadowing) par extinction post-entraînement de $CS_1$ a apporté un soutien empirique monumental aux théories de la performance de Miller, contraignant l’ensemble de la communauté scientifique à admettre que le masquage reflète bien souvent un problème de modulation du rappel plutôt qu’une amnésie d’encodage.

11.2 Limites écologiques des protocoles de laboratoire standardisés

Une critique méthodologique récurrente adressée aux recherches pavloviennes sur le masquage concerne le caractère artificiel et décontextualisé de ses dispositifs expérimentaux. L’environnement aseptisé de la Tour du Silence de Saint-Pétersbourg – tout comme les boîtes de Skinner modernes hermétiques et insonorisées – a été délibérément conçu pour réduire le monde sensoriel à une caricature bidimensionnelle où seuls deux stimuli discrets opèrent sur un fond de néant absolu.

Or, dans la réalité écologique et adaptative d’un organisme sauvage en milieu naturel, l’environnement physique ne se présente jamais sous la forme d’une toile blanche sur laquelle se détacheraient deux signaux purs. Le monde naturel est un magma dynamique et permanent de bruits de fond continus, de variations thermiques constantes, d’effluves olfactives changeantes et d’indices géospatiaux omniprésents. Dans un tel environnement saturé d’informations redondantes et d’afférences concurrentes, les règles régissant le masquage sont constamment modulées par des rétroactions comportementales actives.

Dans les protocoles classiques, l’animal est contraint dans un harnais passif, incapable d’agir pour modifier son exposition sensorielle. À l’inverse, dans les paradigmes modernes de conditionnement opérant libre (free-operant conditioning) ou dans des arènes d’éthologie comportementale ouverte, l’animal explore activement son espace, incline ses récepteurs sensoriels, se détourne d’un stimulus agressif ou se rapproche d’un indice ténu. Ce comportement moteur d’échantillonnage actif redistribue dynamiquement les valeurs de saillance relative, limitant considérablement la survenue des formes de masquage passif et absolu documentées au sein des laboratoires historiques.

11.3 Les défis posés par l’apprentissage configurationnel

Le dernier défi conceptuel majeur lancé à l’interprétation élémentale classique du masquage réside dans l’émergence des théories configurationnelles, portées de façon éminente par le psychologue britannique John Pearce. Les modèles élémentaux traditionnels (comme ceux de Pavlov ou de Rescorla-Wagner) reposent sur un postulat réductionniste : un stimulus composé $[CS_1 + CS_2]$ n’est que la somme arithmétique exacte de ses parties composantes ($CS_1$ d’un côté, $CS_2$ de l’autre), chacune développant sa propre trajectoire associative indépendante.

John Pearce a vigoureusement contesté cette vision atomiste en s’inspirant des principes holistes de la psychologie de la Gestalt : « le tout est différent de la somme de ses parties ». Selon la théorie configurationnelle de Pearce, lorsqu’un animal est confronté à la présentation simultanée d’un son fort ($CS_1$) et d’une faible lumière ($CS_2$), son système nerveux ne traite pas deux entités disjointes qui s’additionnent, mais perçoit et encode une configuration perceptivo-sensorielle globale unique, inédite et unifiée, notée $X_{12}$.

Dans ce cadre théorique radicalement renouvelé, le résultat observé lors de la phase de test s’explique par un mécanisme de généralisation perceptive asymétrique. Lorsque l’expérimentateur teste le stimulus saillant $CS_1$ de façon isolée, sa proximité physique et perceptive avec le composé global $X_{12}$ est extrêmement élevée : le coefficient de généralisation entre $X_{12}$ et $CS_1$ est proche de 1, de sorte que la réponse conditionnée s’exprime avec une vigueur quasi intacte. En revanche, lorsque le stimulus discret $CS_2$ est présenté seul, sa ressemblance physique globale avec le composé originel $X_{12}$ est infime, pour ne pas dire inexistante : le système nerveux ne reconnaît pas la configuration d’entraînement, ce qui entraîne une chute catastrophique de la généralisation et l’absence apparente de réponse conditionnée. La confrontation entre l’approche élémentale et l’approche configurationnelle a démontré que le masquage ne constitue pas un mécanisme monolithique simple, mais le résultat d’arbitrages complexes entre décomposition analytique et synthèse gestaltiste au sein des réseaux de perception.

12. Héritage scientifique et perspectives en sciences cognitives contemporaines

12.1 Influence sur le béhaviorisme et la révolution cognitive

L’héritage épistémologique laissé par les expériences de Pavlov sur les stimuli composés et le masquage dépasse immensément le cadre initial de la physiologie digestive canine. En mettant en évidence des phénomènes de compétition sensorielle et d’inhibition centrale dès le début du vingtième siècle, Pavlov a involontairement posé les germes qui allaient conduire, quelques décennies plus tard, à l’effondrement du béhaviorisme radical orthodoxe et à l’avènement triomphal de la révolution cognitive des années 1960 et 1970.

Le schéma ultra-simpliste de John B. Watson ou de B.F. Skinner – concevant l’organisme comme une boîte noire impénétrable gouvernée par de simples relations linéaires passives reliant des stimuli environnementaux à des réponses musculaires – s’est heurté frontalement à l’évidence empirique du masquage. Il est devenu intenable d’ignorer les processus médiateurs internes dès lors qu’il était prouvé qu’un stimulus physiquement présent et temporellement contigu pouvait être purement et simplement gommé de la machinerie comportementale par l’action d’un signal concurrent.

De plus, la rigueur méthodologique implacable déployée par Pavlov dans l’instrumentation de ses laboratoires, l’automatisation précoce des protocoles et l’analyse minutieuse des cinétiques temporelles ont institué des standards expérimentaux qui continuent d’irriguer la recherche translationnelle contemporaine. Que ce soit dans l’ergonomie cognitive des cockpits d’avions de chasse – où la saillance relative des alarmes visuelles et sonores doit être calibrée au millimètre pour éviter qu’un signal critique ne masque un indicateur vital de panne moteur – ou dans les sciences de l’éducation lors de la conception d’outils pédagogiques numériques, les lois du masquage guident continuellement l’ingénierie de l’attention humaine.

12.2 Applications en intelligence artificielle et réseaux de neurones

À l’ère contemporaine de l’explosion de l’intelligence artificielle et de l’apprentissage profond (Deep Learning), les lois pavloviennes du masquage connaissent une résonance technologique spectaculaire au cœur des architectures d’apprentissage machine les plus avancées. Les concepteurs de réseaux de neurones artificiels profonds se heurtent quotidiennement à un avatar computationnel exact du masquage, connu en informatique sous le terme de « masquage de caractéristiques » (feature overshadowing).

Lorsqu’un réseau de neurones convolutif ou un modèle de vision par ordinateur est entraîné à classifier des images complexes à partir de grands volumes de données étiquetées, l’algorithme d’optimisation par descente de gradient stochastique cherche systématiquement le chemin de moindre résistance mathématique pour minimiser sa fonction de perte. Si un trait visuel superficiel, trivial mais doté d’une saillance statistique très brutale (par exemple, la présence récurrente d’une couleur d’arrière-plan ou d’un filigrane dans le coin inférieur des photos d’entraînement), est accidentellement corrélé à la catégorie cible, le réseau alloue l’intégralité de ses poids synaptiques à ce trait saillant. Les véritables caractéristiques géométriques et sémantiques de l’objet d’intérêt – bien plus discrètes sur le plan matriciel – sont totalement masquées, rendant le modèle tragiquement inefficace et vulnérable aux attaques contradictoires (adversarial attacks) lorsqu’il est déployé dans le monde réel.

Pour contrer ce masquage algorithmique délétère, les chercheurs en apprentissage automatique mettent en œuvre des techniques de régularisation sophistiquées (telles que le dropout, l’augmentation artificielle de données ciblée ou la normalisation par lots) qui émulent mathématiquement la levée de masquage : en neutralisant temporairement et aléatoirement les signaux dominants lors des passes d’entraînement, ils forcent les gradients d’apprentissage à se distribuer équitablement sur les variables de faible intensité. De surcroît, les mécanismes d’attention auto-dirigée (self-attention mechanisms) au fondement des architectures Transformers – qui ont révolutionné le traitement du langage naturel et la génération multimodale – constituent une implémentation computationnelle directe et explicite des principes de pondération dynamique et de compétition associative théorisés il y a plus d’un siècle par Ivan Pavlov et perfectionnés par Rescorla et Wagner.

12.3 Orientations futures en optogénétique et neurosciences intégratives

À la frontière la plus avancée des neurosciences contemporaines, la réévaluation expérimentale du masquage pavlovien bénéficie d’une boîte à outils technologiques dont Ivan Pavlov n’aurait osé rêver. L’avènement de l’optogénétique – combinant le génie génétique viral et la photonique de haute précision – permet désormais de manipuler de façon réversible et causale, à l’échelle de la milliseconde, les populations neuronales spécifiques qui sous-tendent les représentations de chaque composante d’un stimulus composé.

En exprimant des canaux ioniques photosensibles inducteurs d’excitation (comme la channelrhodopsine-2, ChR2) ou inhibiteurs d’activité (comme l’halorhodopsine, NpHR) au sein d’ensembles neuronaux distincts du cortex sensoriel ou de l’amygdale basolatérale d’organismes transgéniques, les chercheurs sont aujourd’hui capables d’intervenir en temps réel au cœur du processus de masquage. En délivrant des impulsions lumineuses par fibres optiques implantées in vivo, il est possible de « museler » transitoirement la population neuronale codant pour le stimulus saillant $CS_1$ au moment exact de l’apprentissage, permettant d’observer instantanément la prise de contrôle associative par le stimulus discret $CS_2$.

Couplées à la microscopie biphotonique à balayage laser chez des animaux vigiles en immersion de réalité virtuelle et à l’enregistrement par sondes de silicium Neuropixels cartographiant simultanément des milliers de neurones à travers l’ensemble de l’encéphale, ces approches pan-cérébrales révèlent la chorégraphie dynamique par laquelle l’excitation et l’inhibition se propagent au sein des réseaux corticaux et sous-corticaux. Plus d’un siècle après les observations pionnières recueillies au compte-gouttes dans la pénombre silencieuse de l’Institut de Saint-Pétersbourg, l’expérience du masquage d’Ivan Pavlov demeure un moteur vivant, vibrant et inépuisable pour la quête scientifique visant à percer les mystères intimes de l’esprit et du cerveau.

Références

• Garcia, J., & Koelling, R. A. (1966). Relation of cue to consequence in avoidance learning. Psychonomic Science, 4(3), 123-124. https://doi.org/10.3758/BF03343431
• Kamin, L. J. (1969). Predictability, surprise, attention, and conditioning. In B. A. Campbell & R. M. Church (Eds.), Punishment and aversive behavior (pp. 279-296). Appleton-Century-Crofts.
• Kapur, S. (2003). Psychosis as a state of aberrant salience: A framework linking biology, phenomenology, and pharmacology in schizophrenia. American Journal of Psychiatry, 160(1), 13-23. https://doi.org/10.1176/appi.ajp.160.1.13
• Mackintosh, N. J. (1975). A theory of attention: Variations in the associability of stimuli with reinforcement. Psychological Review, 82(4), 276-298. https://doi.org/10.1037/h0076778
• Miller, R. R., & Schachtman, T. R. (1985). The comparator hypothesis: A response rule for the expression of associations. In R. R. Miller & N. E. Spear (Eds.), Information processing in animals: Conditioned inhibition (pp. 51-70). Lawrence Erlbaum Associates.
• Pavlov, I. P. (1927). Conditioned reflexes: An investigation of the physiological activity of the cerebral cortex (G. V. Anrep, Trans.). Oxford University Press.
• Pearce, J. M. (1987). A model for stimulus generalization in Pavlovian conditioning. Psychological Review, 94(1), 61-73. https://doi.org/10.1037/0033-295X.94.1.61
• Pearce, J. M., & Hall, G. (1980). A model for Pavlovian learning: Variations in the effectiveness of conditioned but not of unconditioned stimuli. Psychological Review, 87(6), 532-552. https://doi.org/10.1037/0033-295X.87.6.532
• Rescorla, R. A., & Wagner, A. R. (1972). A theory of Pavlovian conditioning: Variations in the effectiveness of reinforcement and nonreinforcement. In A. H. Black & W. F. Prokasy (Eds.), Classical conditioning II: Current research and theory (pp. 64-99). Appleton-Century-Crofts.
• Schultz, W., Dayan, P., & Montague, P. R. (1997). A neural substrate of prediction and reward. Science, 275(5306), 1593-1599. https://doi.org/10.1126/science.275.5306.1593
• Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30, 5998-6008.