Introduction à l’analyse discriminante linéaire

L’analyse statistique multivariée constitue le socle fondamental sur lequel reposent la modélisation prédictive contemporaine, la biométrie computationnelle et la psychométrie quantitative. Parmi l’arsenal méthodologique développé au cours du XXe siècle pour démêler les structures latentes au sein de données multidimensionnelles, l’analyse discriminante linéaire — fréquemment désignée par le sigle ADL ou LDA pour Linear Discriminant Analysis — occupe une place épistémologique et pratique singulière. Conçue initialement pour répondre à des impératifs de classification morphologique et taxonomique, cette méthode combine avec une remarquable élégance la rigueur de l’algèbre linéaire, la géométrie des projections vectorielles et la puissance inférentielle de la théorie bayésienne de la décision. Elle offre ainsi un cadre unifié permettant simultanément de réduire la dimensionnalité d’un ensemble complexe de prédicteurs continus et d’assigner des entités à des catégories discrètes mutuellement exclusives.

Dans le champ des sciences du comportement, de la neuropsychologie et de la psychiatrie computationnelle, l’investigation empirique se heurte continuellement à la haute dimensionnalité des batteries d’évaluation. Qu’il s’agisse de profils cognitifs composites, de faisceaux de biomarqueurs neurophysiologiques ou de scores d’échelles psychopathologiques, le chercheur doit naviguer entre deux écueils méthodologiques majeurs : la perte d’interprétabilité inhérente aux modèles opaques dits de « boîte noire » et l’instabilité statistique induite par le fléau de la dimensionnalité. L’analyse discriminante linéaire résout ce dilemme avec une parcimonie mathématique exemplaire, en identifiant les combinaisons linéaires de variables qui maximisent l’écartement inter-groupes tout en minimisant la dispersion intra-groupe. Ce faisant, elle ne se contente pas de proposer un algorithme de classification supervisée hautement performant : elle révèle les axes fondamentaux selon lesquels des sous-populations cliniques ou comportementales se différencient structurellement.

Le présent traité propose une exploration exhaustive, rigoureuse et didactique de l’analyse discriminante linéaire. Conçu à l’intention des chercheurs, des statisticiens et des praticiens de la modélisation des données psychométriques, cet article décortique les fondations théoriques, les postulats probabilistes, les dérivations algébriques matricielles, ainsi que les protocoles de validation empirique qui régissent cette discipline. Du critère de séparation de Fisher aux extensions régularisées de haute dimension, en passant par les comparaisons formelles avec la régression logistique multinomiale et l’analyse en composantes principales, ce document fournit les repères conceptuels et méthodologiques indispensables pour maîtriser et déployer l’ADL avec une rigueur irréprochable.

1. Fondements conceptuels et émergence de l’analyse discriminante linéaire

1.1 Origines historiques et formulation par Ronald Fisher

L’acte de naissance formel de l’analyse discriminante linéaire remonte à l’année 1936, sous la plume du généticien et statisticien britannique Ronald Aylmer Fisher, dans son article séminal intitulé The Use of Multiple Measurements in Taxonomic Problems publié au sein des Annals of Eugenics. Confronté aux données morphométriques collectées par le botaniste Edgar Anderson sur trois espèces sympatriques d’iris (Iris setosa, Iris versicolor et Iris virginica), Fisher cherchait à résoudre un problème fondamental de taxonomie : comment combiner quatre mesures phénotypiques continues (la longueur et la largeur des sépales, ainsi que la longueur et la largeur des pétales) afin d’établir une règle de démarcation objective et reproductible capable d’assigner sans équivoque chaque spécimen végétal à son espèce botanique d’origine.

À cette époque, les statistiques appliquées demeuraient largement confinées à l’analyse univariée ou à des démarches descriptives fragmentaires. L’innovation conceptuelle de Fisher a consisté à opérer une transition paradigmatique majeure vers l’analyse multivariée inférentielle. Plutôt que d’examiner chaque variable morphologique isolément — démarche qui échouait en raison des chevauchements considérables des distributions marginales —, Fisher a postulé l’existence d’un axe géométrique optimal. Cet axe correspond à une combinaison linéaire des variables prédictives le long de laquelle les centres de gravité des populations sont les plus distants possible, comparativement à l’étalement des données autour de ces mêmes centres. Cette intuition a scellé l’émergence d’une modélisation conjointe de la variance et de la covariance dans l’espace multidimensionnel.

L’approche initiale de Fisher était purement déterministe et géométrique, reposant sur l’optimisation d’un rapport de variances sans postulat probabiliste explicite quant à la distribution sous-jacente des populations. Il a fallu attendre les développements ultérieurs de statisticiens tels que Harold Hotelling, P. C. Mahalanobis et, plus tard, C. R. Rao pour que cette formulation géométrique soit intégrée dans le cadre probabiliste de la théorie de la décision et du formalisme bayésien. Cette évolution a transformé l’outil de séparation en un classificateur probabiliste à part entière, capable de calculer des probabilités a posteriori d’appartenance à des groupes tout en préservant l’élégance analytique de la solution originale de Fisher.

1.2 Définition formelle et objectifs en psychométrie

Dans le domaine de la psychométrie et des sciences quantitatives du comportement, l’analyse discriminante linéaire se définit comme une méthode statistique multivariée supervisée ayant pour vocation d’étudier les relations entre une variable dépendante qualitative polytomique (représentant $k$ classes, groupes diagnostiques ou typologies comportementales distinctes) et un vecteur de $p$ variables indépendantes quantitatives continues. Ces prédicteurs sont généralement issus de batteries de tests psychologiques, de questionnaires standardisés, de bilans neuropsychologiques ou d’enregistrements physiologiques. L’objectif méthodologique premier consiste à déterminer si ces sous-groupes d’individus, préalablement définis sur des critères théoriques ou cliniques indépendants, présentent des profils distincts sur l’ensemble de ces épreuves cognitives ou émotionnelles.

Cette méthodologie répond à une double vocation théorique et appliquée, indissociable de la recherche psychométrique contemporaine :

• La séparation géométrique des groupes (vocation structurelle et descriptive) : Il s’agit d’identifier le nombre et la nature des dimensions sous-jacentes orthogonales selon lesquelles les populations se différencient. L’ADL condense l’espace des descripteurs initiaux en un sous-espace discriminant de dimension réduite, révélant comment les fonctions psychologiques mesurées s’articulent pour isoler une trajectoire clinique d’une trajectoire neurotypique.
• La classification et la prédiction d’appartenance (vocation décisionnelle) : Le modèle produit des règles mathématiques d’assignation permettant d’attribuer un nouvel individu, dont le profil psychométrique est connu mais dont l’appartenance de groupe est inconnue, à l’une des populations de référence, tout en quantifiant l’incertitude liée à cette prédiction.

Cette approche s’avère particulièrement féconde pour l’identification de signatures cognitives spécifiques. Par exemple, au sein des troubles neurodéveloppementaux, l’ADL permet de déterminer si le trouble du spectre de l’autisme, le trouble du déficit de l’attention avec ou sans hyperactivité (TDAH) et les troubles spécifiques du langage forment des constellations cognitives distinctes dans l’espace des fonctions exécutives. En condensant les scores bruts en scores discriminants individuels, elle fournit aux cliniciens une échelle standardisée unique indiquant le positionnement précis d’un patient le long d’un gradient de différenciation pathologique, facilitant ainsi le diagnostic différentiel objectif.

1.3 Distinction entre inférence explicative et classification prédictive

Un aspect épistémologique fondamental de l’analyse discriminante linéaire réside dans son statut charnière entre la modélisation statistique inférentielle et l’apprentissage automatique (machine learning). Contrairement à de nombreux algorithmes modernes purement prédictifs — tels que les réseaux de neurones profonds ou les forêts aléatoires, qui fonctionnent souvent comme des estimateurs non paramétriques opaques —, l’ADL maintient un équilibre structurel entre explicabilité des coefficients et minimisation du taux d’erreur de classification.

Sur le plan explicatif, l’analyste décortique les coefficients des fonctions discriminantes canoniques, assimilables aux coefficients de régression ou aux saturations factorielles. L’évaluation de ces poids statistiques permet d’ordonner les prédicteurs selon leur contribution relative à la démarcation des groupes, neutralisant les intercorrélations entre variables. L’analyste peut ainsi affirmer, par exemple, que dans la séparation entre un vieillissement cognitif sain et une phase prodromique de démence, la composante de rappel différé de la mémoire épisodique exerce un pouvoir discriminant trois fois supérieur à celui de la vitesse de traitement de l’information, même si les deux tests présentent une corrélation bivariée élevée.

Sur le versant prédictif, l’accent est mis sur l’optimisation des hyperplans séparateurs afin de minimiser le risque global de mauvaise classification sur de futures observations. Cet arbitrage entre inférence et prédiction s’inscrit au cœur du compromis biais-variance. L’ADL impose une structure paramétrique rigide (linéarité des frontières décisionnelles), ce qui induit un biais de modèle supérieur à celui des classificateurs non linéaires hautement flexibles. En contrepartie, cette parcimonie confère à l’ADL une variance d’échantillonnage exceptionnellement faible, prévenant le surapprentissage (overfitting) sur des données psychométriques où la taille des cohortes est structurellement restreinte par des contraintes de recrutement clinique.

Il importe enfin de distinguer rigoureusement l’ADL de l’analyse en composantes principales (ACP). Bien que toutes deux procèdent par transformation linéaire et réduction de dimensionnalité via la diagonalisation matricielle, l’ACP est intrinsèquement non supervisée : elle maximise la variance globale totale des données sans égard pour une quelconque labellisation des observations. À l’inverse, l’ADL est supervisée : elle recherche spécifiquement la variance inter-classes en la calibrant sur la dispersion résiduelle intra-classe. Il est fréquent que la première composante principale d’une batterie de tests capture une variance générale non informative (telle que le facteur général d’intelligence ou le niveau socio-éducatif), tandis que l’axe discriminant de Fisher isole précisément la variation pathognomonique subtile permettant d’individualiser une pathologie.

2. L’analyse discriminante linéaire face à la régression logistique

2.1 Limites de la régression logistique pour les variables multiclasses

Dans la littérature biomédicale et psychosociale, la régression logistique est fréquemment érigée en méthode de référence pour modéliser des issues catégorielles binaires. Cependant, dès lors que la variable dépendante comporte trois modalités ou plus ($k ge 3$) — configuration omniprésente en clinique où l’on oppose par exemple des sous-types cliniques (trouble dépressif caractérisé, trouble bipolaire en phase dépressive, trouble schizo-affectif et témoins sains) —, la régression logistique multinomiale révèle des contraintes structurelles et computationnelles majeures.

Le modèle logistique multinomial impose le choix arbitraire d’une catégorie de référence par rapport à laquelle $k – 1$ équations logit distinctes doivent être estimées simultanément. Cette spécification asymétrique entraîne une prolifération exponentielle du nombre de paramètres libres : pour $p$ prédicteurs et $k$ classes, le modèle requiert l’estimation de $(k – 1) \times (p + 1)$ coefficients. Cette complexité paramétrique accrue détériore rapidement la puissance statistique dès lors que le ratio entre le nombre de sujets par groupe et le nombre de variables diminue. L’estimation, reposant sur l’optimisation itérative de la fonction de vraisemblance via l’algorithme de Newton-Raphson ou des méthodes de quasi-Newton, devient sujette à des instabilités d’optimisation numérique, telles que la non-convergence ou l’arrêt sur des points d’inflexion locaux en présence de corrélations modérées.

L’analyse discriminante linéaire contourne ces écueils algorithmiques grâce à une formulation analytique fermée directe. Aucune itération numérique n’est requise pour converger vers la solution optimale : les paramètres du modèle sont obtenus directement par des opérations matricielles exactes d’inversion et de décomposition spectrale. De surcroît, l’ADL traite l’ensemble des $k$ groupes de façon rigoureusement symétrique au sein d’un même espace vectoriel, évitant ainsi le recours à une modalité de référence artificielle et fournissant une géométrie des frontières de décision intrinsèquement plus parcimonieuse et élégante.

2.2 Stabilité computationnelle et précision sur petits échantillons

La recherche clinique, neuropsychologique et d’imagerie cérébrale fonctionnelle se caractérise presque invariablement par des tailles d’échantillons modestes, dictées par le coût financier, la lourdeur des protocoles d’acquisition ou la rareté épidémiologique des affections ciblées. Dans ces contextes où la taille totale de cohorte $N$ ne dépasse que rarement quelques dizaines ou centaines de participants pour un vecteur de mesures étendu, le comportement asymptotique de l’ADL surpasse systématiquement celui de la régression logistique.

Ce phénomène s’explique par la nature des paradigmes d’estimation :

• Régression logistique (modèle discriminatif conditionnel) : Elle modélise uniquement la distribution conditionnelle $P(Y|X)$, ignorant délibérément la distribution marginale $P(X)$ des prédicteurs. Ce choix évite d’émettre des hypothèses distributionnelles sur les variables prédictives, mais sacrifie une quantité substantielle d’information statistique contenue dans la structure spatiale globale des données observées.
• Analyse discriminante linéaire (modèle génératif conjoint) : Elle modélise la distribution conjointe $P(X, Y) = P(X|Y)P(Y)$. En supposant que les prédicteurs suivent une distribution gaussienne multivariée au sein de chaque classe, l’ADL exploite la totalité des informations géométriques des centroïdes et des matrices de dispersion empiriques.

Conformément aux travaux théoriques classiques d’Efron (1975), lorsque les postulats de normalité multivariée et d’homoscédasticité sont raisonnablement respectés, l’ADL est asymptotiquement plus efficiente que la régression logistique. Cela signifie qu’elle atteint une erreur d’estimation plus faible et des intervalles de confiance plus étroits pour une même taille d’échantillon. En pratique, sur de petites cohortes, l’ADL présente une variance d’échantillonnage remarquablement réduite, là où la régression logistique souffre d’un surajustement prononcé de ses coefficients, conduisant à des prédictions erratiques lors de l’application du modèle à de nouveaux patients indépendants.

2.3 Le problème de la séparation parfaite

L’une des vulnérabilités méthodologiques les plus handicapantes de la régression logistique réside dans ce que la littérature statistique nomme le problème de la séparation quasi-complète ou parfaite (phénomène identifié formellement par Albert et Anderson en 1984). Ce phénomène survient lorsqu’un prédicteur univarié ou une combinaison linéaire de plusieurs variables permet de scinder impeccablement deux catégories sans la moindre zone de chevauchement. Dans ce cas de figure, qui correspond intuitivement à une discrimination idéale, le maximum de vraisemblance n’existe pas au sens strict :

• Les coefficients de régression logistique associés tendent mathématiquement vers l’infini ($+\infty$ ou $-\infty$).
• Les erreurs-types asymptotiques explosent, atteignant des valeurs aberrantes de plusieurs milliers d’unités.
• Les tests d’hypothèses conventionnels (tests de Wald) deviennent caducs, concluant paradoxalement à la non-significativité des prédicteurs les plus puissants du modèle.
• Les algorithmes d’optimisation numérique échouent à converger, renvoyant des messages d’avertissement critiques quant à l’instabilité de la matrice hessienne.

L’analyse discriminante linéaire est totalement insensible à cette pathologie computationnelle. Dès lors que deux groupes sont parfaitement disjoints dans l’espace des prédicteurs, l’ADL calcule sans difficulté les centroïdes respectifs $boldsymbol{\mu}_1$ et $boldsymbol{\mu}_2$, détermine la matrice de covariance combinée intra-classe $boldsymbol{\Sigma}$, et établit l’hyperplan séparateur optimal par une inversion matricielle standard. Les coefficients des fonctions discriminantes demeurent parfaitement stables, bornés et immédiatement interprétables. L’ADL constitue par conséquent la méthode d’élection face à des variables psychométriques hautement résolutives générant des frontières de séparation franches entre populations cliniques et populations témoins.

3. Les postulats théoriques et conditions d’application

3.1 L’hypothèse de normalité multivariée

Pour que la règle de classification dérivée de l’ADL soit théoriquement optimale au sens de la minimisation de l’erreur bayésienne, le modèle repose sur le postulat d’une distribution normale multivariée des prédicteurs au sein de chacune des populations parentes. Formellement, pour chaque classe $k in {1, dots, K}$, le vecteur aléatoire des prédicteurs $\mathbf{X} = (X_1, X_2, dots, X_p)^T$ doit suivre une loi gaussienne à $p$ dimensions notée $\mathcal{N}_p(boldsymbol{\mu}_k, boldsymbol{\Sigma})$.

Ce postulat implique que non seulement chaque variable individuelle présente une distribution normale univariée, mais également que toutes les combinaisons linéaires possibles de ces variables suivent des distributions normales univariées, avec des surfaces de niveau de densité ellipsoïdales dans l’espace $\mathbb{R}^p$. Dans la réalité de l’évaluation psychométrique, ce postulat est fréquemment mis à l’épreuve par des données présentant une forte asymétrie (skewness) ou un aplatissement marqué (kurtosis), résultant d’effets de plancher ou de plafond sur des tests de performance cognitive, ou de distributions hautement biaisées sur des échelles évaluant des comportements déviants rares.

L’impact de la violation de ce postulat dépend de son amplitude :

• Déviations mineures à modérées : L’ADL fait preuve d’une robustesse substantielle. Fisher l’ayant formulée sans hypothèse distributionnelle, la projection géométrique demeure opérante même si les densités ne sont pas strictement gaussiennes.
• Déviations extrêmes ou présence d’asymétries divergentes : Si une classe présente une asymétrie positive tandis qu’une autre présente une asymétrie négative, les centroïdes empiriques et l’hyperplan linéaire sont systématiquement décalés, augmentant les taux de mauvaise classification au détriment des sous-groupes minoritaires.

L’évaluation rigoureuse de la normalité multivariée requiert le recours à des instruments diagnostiques spécialisés. Les coefficients d’asymétrie et de kurtosis multivariés de Mardia constituent la référence inférentielle : un test statistiquement significatif indique un rejet de l’hypothèse de gaussianité conjointe. Ces statistiques doivent être complétées par des approches graphiques, notamment le tracé des diagrammes quantiles-quantiles (Q-Q plots) comparant le carré des distances de Mahalanobis des individus par rapport au centre de gravité de leur classe à une distribution théorique du Chi-deux à $p$ degrés de liberté ($\chi^2_p$). En cas d’écart manifeste, l’application de transformations mathématiques univariées préliminaires — telles que la famille de transformations de Box-Cox ou les transformations logarithmiques et racines carrées — permet fréquemment de restaurer la normalité multivariée avant d’ajuster le modèle discriminant.

3.2 L’homogénéité des matrices de covariance

Le second pilier axiomatique de l’analyse discriminante linéaire, indispensable pour garantir la parfaite linéarité des frontières de décision, réside dans l’hypothèse d’homogénéité des matrices de variance-covariance inter-groupes, couramment désignée sous le terme d’homoscédasticité multivariée. Ce postulat stipule que bien que les groupes possèdent des vecteurs de moyennes distincts ($boldsymbol{\mu}_1 ne boldsymbol{\mu}_2 ne dots ne boldsymbol{\mu}_K$), la structure de dispersion, de variance interne et de covariation entre les variables prédictives demeure strictement identique au sein de chaque population parente :

$$boldsymbol{\Sigma}_1 = boldsymbol{\Sigma}_2 = dots = boldsymbol{\Sigma}_K = boldsymbol{\Sigma}$$

Cette hypothèse permet d’estimer une matrice unique de covariance intra-groupe combinée (pooled covariance matrix), notée $\mathbf{S}_{\text{intra}}$ ou $boldsymbol{\Sigma}_{\text{pooled}}$, obtenue par la moyenne pondérée des matrices empiriques de variance-covariance de chaque classe. Sur le plan géométrique, l’homoscédasticité garantit que les ellipsoïdes de dispersion représentant les densités de probabilité de chaque classe possèdent exactement la même taille, la même forme géométrique et la même orientation spatiale dans l’espace factoriel. Les groupes ne diffèrent dès lors que par la translation de leur centre de gravité respectif.

Lorsque cette condition n’est pas remplie — c’est-à-dire en cas d’hétéroscédasticité structurelle —, les surfaces de densités conditionnelles équivalentes ne se coupent plus selon des hyperplans plats, mais selon des hyperquadriques (courbures paraboliques, hyperboliques ou ellipsoïdales). Le maintien forcé d’une frontière linéaire simplificatrice engendre alors une distorsion asymétrique de la règle décisionnelle : l’hyperplan tend à être repoussé vers le groupe présentant la plus forte dispersion interne, provoquant une augmentation artificielle du taux de faux négatifs dans la population la plus variable. En psychologie clinique, cette situation est fréquente : les cohortes saines présentent typiquement une variance cognitive homogène et resserrée, tandis que les groupes pathologiques manifestent une hétérogénéité d’atteinte considérable générant des variances substantiellement plus amples.

Le contrôle formel de ce postulat s’opère canoniquement par le test $M$ de Box. Ce test inférentiel évalue l’hypothèse nulle d’égalité conjointe des matrices de variance-covariance :

$$H_0 : boldsymbol{\Sigma}_1 = boldsymbol{\Sigma}_2 = dots = boldsymbol{\Sigma}_K$$

Toutefois, le test $M$ de Box souffre d’une sensibilité extrême à la non-normalité des données : une violation mineure de la normalité multivariée suffit à provoquer le rejet de l’hypothèse d’homoscédasticité à tort. Dès lors, il est d’usage en méthodologie quantitative d’adopter un seuil de significativité conservateur (par exemple $\alpha = 0{,}001$) et d’examiner attentivement les déterminants logarithmiques des matrices individuelles $|\mathbf{S}_k|$. Si l’hétérogénéité est substantielle et irréductible, l’analyste doit impérativement renoncer à la linéarité pour s’orienter vers une analyse discriminante quadratique (QDA).

3.3 Indépendance et absence de multicolinéarité extrême

L’analyse discriminante linéaire s’articule autour de deux hypothèses structurelles régissant la relation entre les unités statistiques et les prédicteurs :

• L’indépendance stricte des observations : Chaque sujet inclus dans l’échantillon doit avoir été sélectionné de manière indépendante, sans structure de grappes non modélisée, sans mesures répétées longitudinales directes sur le même individu au sein du même jeu d’apprentissage, et sans dépendance spatio-temporelle. Les corrélations résiduelles intra-sujets violent le calcul des degrés de liberté et biaisent substantiellement les tests d’inférence globale tels que le lambda de Wilks.
• L’absence de multicolinéarité parfaite ou extrême : L’ADL requiert l’inversion analytique de la matrice de dispersion intra-classe combinée $\mathbf{S}_{\text{intra}}$. Si une variable psychométrique est une combinaison linéaire quasi-parfaite d’autres épreuves de la batterie (par exemple, si le score total d’un test est inclus simultanément avec l’ensemble de ses sous-scores élémentaires), la matrice devient singulière ou mal conditionnée.

Sur le plan mathématique, une singularité matricielle se traduit par un déterminant nul ($|\mathbf{S}_{\text{intra}}| = 0$), rendant l’inversion matricielle rigoureusement impossible. Dans les cas de multicolinéarité extrême non parfaite mais sévère, l’inversion numérique produit des coefficients discriminants instables, caractérisés par des variances d’échantillonnage démesurées : des variations imperceptibles dans le jeu de données d’apprentissage peuvent inverser radicalement le signe et l’amplitude des poids discriminants canoniques.

Avant d’ajuster une analyse discriminante, le statisticien doit impérativement mener un diagnostic de colinéarité multivarié. Deux indicateurs statistiques s’imposent :

• Le facteur d’inflation de la variance (VIF – Variance Inflation Factor) : Calculé pour chaque prédicteur régressé sur tous les autres. Des valeurs de VIF excédant un seuil conventionnel de 5 ou 10 signalent une redondance critique nécessitant l’élagage des variables redondantes.
• L’indice de conditionnement (Condition Index) de la matrice de données : Un indice supérieur à 30, associé à des proportions de variance élevées partagées sur deux variables ou plus, démontre une instabilité numérique de la décomposition spectrale. L’élimination des scores composites dérivés, la sélection guidée par la théorie psychométrique ou l’application préalable d’une extraction de facteurs orthogonaux constituent les remèdes méthodologiques appropriés.

4. Cadre mathématique et modélisation probabiliste bayésienne

4.1 Formulation probabiliste bayésienne

L’analyse discriminante linéaire contemporaine s’enracine rigoureusement dans la théorie statistique de la décision formalisée par la règle d’inversion bayésienne. Dans cette perspective, la tâche de classification consiste à déduire la probabilité conditionnelle qu’un individu présentant un profil psychométrique précis $\mathbf{x} in \mathbb{R}^p$ appartienne à la catégorie clinique $k$, notée $P(Y = k | \mathbf{X} = \mathbf{x})$. Cette quantité représente la probabilité a posteriori de la classe.

En vertu du théorème de Bayes, cette probabilité s’énonce comme le produit normalisé de la vraisemblance conditionnelle de la classe par sa probabilité d’occurrence globale dans la population parente :

$$P(Y = k | \mathbf{X} = \mathbf{x}) = \frac{f_k(\mathbf{x}) , \pi_k}{\sum_{j=1}^{K} f_j(\mathbf{x}) , \pi_j}$$

Cette décomposition structurelle fait intervenir trois termes décisionnels fondamentaux :

• $\pi_k = P(Y = k)$ représente la probabilité a priori d’appartenir à la classe $k$. Elle quantifie le niveau de croyance ou la prévalence épidémiologique objective de l’état pathologique au sein de la population générale avant toute administration de test psychométrique.
• $f_k(\mathbf{x}) = P(\mathbf{X} = \mathbf{x} | Y = k)$ désigne la densité de probabilité conditionnelle de classe (la vraisemblance). Elle évalue la densité de probabilité d’observer précisément la configuration de scores $\mathbf{x}$ chez un patient issu de la population clinique $k$.
• Le dénominateur $\sum_{j=1}^{K} f_j(\mathbf{x}) , \pi_j$ constitue la densité marginale totale des prédicteurs $P(\mathbf{X} = \mathbf{x})$, agissant comme une constante de normalisation veillant à ce que la somme des probabilités a posteriori sur l’ensemble des $K$ classes soit rigoureusement égale à l’unité : $\sum_{k=1}^K P(Y = k | \mathbf{X} = \mathbf{x}) = 1$.

4.2 Densité conditionnelle gaussienne multivariée

L’ADL spécifie la densité de probabilité multivariée $f_k(\mathbf{x})$ au moyen de la fonction de densité gaussienne à $p$ dimensions. Pour une classe $k$ caractérisée par un vecteur d’espérances ou centroïde $boldsymbol{\mu}_k in \mathbb{R}^p$ et partageant avec toutes les autres classes une matrice de variance-covariance unique commune $boldsymbol{\Sigma} in \mathbb{R}^{p \times p}$ symétrique définie positive, l’expression analytique s’écrit :

$$f_k(\mathbf{x}) = \frac{1}{(2\pi)^{p/2} |boldsymbol{\Sigma}|^{1/2}} \exp\left( -\frac{1}{2} (\mathbf{x} – boldsymbol{\mu}_k)^T boldsymbol{\Sigma}^{-1} (\mathbf{x} – boldsymbol{\mu}_k) \right)$$

Au cœur de cette expression mathématique se trouve un opérateur métrique : la forme quadratique $(\mathbf{x} – boldsymbol{\mu}_k)^T boldsymbol{\Sigma}^{-1} (\mathbf{x} – boldsymbol{\mu}_k)$. Cette grandeur scalaire correspond au carré de la distance statistique de Mahalanobis, notée $D_M^2(\mathbf{x}, boldsymbol{\mu}_k)$, séparant l’observation $\mathbf{x}$ du centroïde $boldsymbol{\mu}_k$ dans la métrique induite par la covariance intra-groupe.

Contrairement à la distance euclidienne classique — qui postule implicitement des axes isotropes non corrélés d’égale variance —, la distance de Mahalanobis déforme l’espace géométrique en pondérant chaque variable par l’inverse de sa variance résiduelle et en orthogonalisant les corrélations mutuelles :

• Elle standardise les composantes hétérogènes des batteries de tests (annulant les disparités d’unités de mesure entre temps de réaction millisecondés et scores d’inventaires d’humeur bornés de 0 à 100).
• Elle neutralise la redondance informationnelle : deux variables hautement corrélées reçoivent un poids effectif ajusté de façon à ne pas compter double dans l’estimation de l’écart au centroïde.
• Sur le plan géométrique, les hypersurfaces d’isodensité associées à chaque classe forment des ellipsoïdes de confiance multidimensionnels concentriques, centrés en $boldsymbol{\mu}_k$, dont les axes principaux sont orientés le long des vecteurs propres de $boldsymbol{\Sigma}$.

4.3 Règle de décision bayésienne optimale

Dans un schéma décisionnel bayésien symétrique où l’on postule une fonction de coût de mauvaise classification unitaire dite « 0-1 » (qui sanctionne uniformément toute affectation erronée sans privilégier la prévention d’un faux négatif sur un faux positif), l’assignation optimale minimise le risque de Bayes en allouant l’individu à la classe pour laquelle sa probabilité conditionnelle a posteriori est maximale :

$$\hat{Y} = arg\max_{k in {1, dots, K}} P(Y = k | \mathbf{X} = \mathbf{x})$$

Compte tenu de la stricte monotonie croissante de la fonction logarithme népérien, maximiser $P(Y = k | \mathbf{X} = \mathbf{x})$ équivaut à maximiser son log-ratio :

$$\ln P(Y = k | \mathbf{X} = \mathbf{x}) = \ln f_k(\mathbf{x}) + \ln \pi_k – \ln P(\mathbf{X} = \mathbf{x})$$

Le terme $-\ln P(\mathbf{X} = \mathbf{x})$ étant strictement invariant par rapport à l’indice de classe $k$, il agit comme une constante additive commune et peut être ignoré dans l’algorithme d’optimisation. En substituant l’expression de la densité normale multivariée au sein de cette équation, on obtient :

$$\ln f_k(\mathbf{x}) + \ln \pi_k = -\frac{p}{2} \ln(2\pi) – \frac{1}{2}ln|boldsymbol{\Sigma}| – \frac{1}{2} (\mathbf{x} – boldsymbol{\mu}_k)^T boldsymbol{\Sigma}^{-1} (\mathbf{x} – boldsymbol{\mu}_k) + \ln \pi_k$$

Les deux premiers termes, $-\frac{p}{2} \ln(2\pi)$ et $-\frac{1}{2}ln|boldsymbol{\Sigma}|$, sont rigoureusement identiques pour toutes les catégories en vertu de l’homoscédasticité multivariée postulant une matrice $boldsymbol{\Sigma}$ unique et partagée. Ils peuvent donc être omis. Développons maintenant la forme quadratique centrale :

$$-\frac{1}{2} (\mathbf{x} – boldsymbol{\mu}_k)^T boldsymbol{\Sigma}^{-1} (\mathbf{x} – boldsymbol{\mu}_k) = -\frac{1}{2} \left[ \mathbf{x}^T boldsymbol{\Sigma}^{-1} \mathbf{x} – 2 boldsymbol{\mu}_k^T boldsymbol{\Sigma}^{-1} \mathbf{x} + boldsymbol{\mu}_k^T boldsymbol{\Sigma}^{-1} boldsymbol{\mu}_k \right]$$

Le terme quadratique résiduel $-\frac{1}{2} \mathbf{x}^T boldsymbol{\Sigma}^{-1} \mathbf{x}$ ne dépend nullement de l’indice de classe $k$ : il est rigoureusement invariable quelle que soit la catégorie évaluée pour un profil individuel $\mathbf{x}$ donné. En le retranchant systématiquement, il ne subsiste qu’une équation strictement affine en $\mathbf{x}$, formellement désignée sous le nom de fonction discriminante linéaire de classification pour la classe $k$, notée $\delta_k(\mathbf{x})$ :

$$\delta_k(\mathbf{x}) = \mathbf{x}^T boldsymbol{\Sigma}^{-1} boldsymbol{\mu}_k – \frac{1}{2} boldsymbol{\mu}_k^T boldsymbol{\Sigma}^{-1} boldsymbol{\mu}_k + \ln \pi_k$$

Cette formulation démontre l’essence mathématique de l’analyse discriminante linéaire : l’élimination algébrique exacte des composantes quadratiques induite par l’homogénéité de covariance garantit que la règle de classement final est une fonction linéaire des prédicteurs. La frontière de décision séparant deux classes arbitraires $k$ et $l$ correspond à l’ensemble des points d’indécision géométrique vérifiant $\delta_k(\mathbf{x}) = \delta_l(\mathbf{x})$, ce qui définit de manière rigoureuse un hyperplan affine plat dans l’espace multidimensionnel $\mathbb{R}^p$.

5. Dérivation analytique des fonctions discriminantes linéaires

5.1 Maximisation du critère de Fisher

Dans sa dérivation originelle de 1936, Ronald Fisher a conçu le problème sous un angle purement variationnel, indépendamment de toute formulation bayésienne. Considérons le cas fondamental de la discrimination entre deux sous-populations ($K = 2$). Fisher cherchait à projeter le vecteur des prédicteurs $\mathbf{x} in \mathbb{R}^p$ sur un vecteur de projection unidimensionnel $\mathbf{w} in \mathbb{R}^p$ pour générer un score scalaire composite unique $y = \mathbf{w}^T \mathbf{x}$, de telle sorte que les scores des deux groupes soient mutuellement les plus séparés possible.

Pour formaliser cet objectif, définissons au préalable les deux matrices structurales de dispersion :

• La matrice de dispersion intra-classe (Within-class scatter matrix), notée $\mathbf{S}_W$ :

  $$\mathbf{S}_W = \sum_{k=1}^{K} \sum_{i in C_k} (\mathbf{x}_i – \bar{\mathbf{x}}_k)(\mathbf{x}_i – \bar{\mathbf{x}}_k)^T$$

  où $\bar{\mathbf{x}}_k$ représente le vecteur moyen empirique de la classe $k$. Cette matrice mesure la variabilité géométrique résiduelle interne des individus autour de leurs centroïdes respectifs. Divisée par les degrés de liberté appropriés, elle constitue l’estimateur sans biais de $boldsymbol{\Sigma}$.

• La matrice de dispersion inter-classe (Between-class scatter matrix), notée $\mathbf{S}_B$ :

  $$\mathbf{S}_B = \sum_{k=1}^{K} N_k (\bar{\mathbf{x}}_k – \bar{\mathbf{x}})(\bar{\mathbf{x}}_k – \bar{\mathbf{x}})^T$$

  où $N_k$ est l’effectif du groupe $k$ et $\bar{\mathbf{x}}$ le centre de gravité global de l’ensemble de l’échantillon. Pour deux classes, cette matrice se simplifie selon la formule directe :

  $$\mathbf{S}_B = (\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2)(\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2)^T$$

Après projection vectorielle le long de l’axe directionnel $\mathbf{w}$, la variance inter-classes projetée scalaire s’exprime par $\mathbf{w}^T \mathbf{S}_B \mathbf{w}$, tandis que la variance intra-classe projetée s’écrit $\mathbf{w}^T \mathbf{S}_W \mathbf{w}$. Le génie méthodologique de Fisher a été de formaliser la recherche du vecteur optimal $\mathbf{w}^*$ par l’optimisation d’un ratio de formes quadratiques, universellement connu en analyse spectrale sous le nom de quotient de Rayleigh généralisé :

$$J(\mathbf{w}) = \frac{\mathbf{w}^T \mathbf{S}_B \mathbf{w}}{\mathbf{w}^T \mathbf{S}_W \mathbf{w}}$$

L’objectif analytique consiste à trouver le vecteur $\mathbf{w}$ qui rend ce quotient maximal, assurant un contraste maximal des moyennes pondéré par la compacité interne des nuages de points.

5.2 Décomposition spectrale et calcul des vecteurs propres

Puisque l’amplitude scalaire de $\mathbf{w}$ peut être mise à l’échelle arbitrairement sans modifier la valeur du quotient $J(\mathbf{w})$ (la direction vectorielle spatiale étant seule signifiante), le problème d’optimisation sans contrainte peut être reformulé comme un problème d’optimisation quadratique sous contrainte d’égalité :

$$\max_{\mathbf{w}} ; \mathbf{w}^T \mathbf{S}_B \mathbf{w} \quad \text{sujet à} \quad \mathbf{w}^T \mathbf{S}_W \mathbf{w} = 1$$

La résolution de ce programme d’optimisation sous contrainte mobilise canoniquement la méthode des multiplicateurs de Lagrange. Définissons la fonction lagrangienne $\mathcal{L}(\mathbf{w}, \lambda)$ associée :

$$\mathcal{L}(\mathbf{w}, \lambda) = \mathbf{w}^T \mathbf{S}_B \mathbf{w} – \lambda (\mathbf{w}^T \mathbf{S}_W \mathbf{w} – 1)$$

En annulant la dérivée vectorielle partielle du lagrangien par rapport à $\mathbf{w}$, on obtient la condition de stationnarité du premier ordre :

$$\frac{\partial \mathcal{L}}{\partial \mathbf{w}} = 2 \mathbf{S}_B \mathbf{w} – 2 \lambda \mathbf{S}_W \mathbf{w} = \mathbf{0} implies \mathbf{S}_B \mathbf{w} = \lambda \mathbf{S}_W \mathbf{w}$$

Cette formulation constitue l’expression mathématique classique d’un problème de valeurs propres généralisé. Sous réserve que la matrice de dispersion intra-classe $\mathbf{S}_W$ soit non singulière et donc inversible (ce qui est vérifié lorsque la taille de l’échantillon $N$ excède substantiellement le nombre de prédicteurs $p$ et en l’absence de colinéarité parfaite), nous pouvons prémultiplier les deux membres par l’inverse $\mathbf{S}_W^{-1}$ :

$$\mathbf{S}_W^{-1} \mathbf{S}_B \mathbf{w} = \lambda \mathbf{w}$$

Le problème se réduit ainsi à la décomposition spectrale standard de la matrice non symétrique $\mathbf{S}_W^{-1} \mathbf{S}_B$. Dans le cas particulier à deux classes ($K = 2$), la matrice de dispersion inter-classes $\mathbf{S}_B$ possède un rang matriciel égal à 1, car elle dérive d’un produit tensoriel de dimension 1 : $\mathbf{S}_B \mathbf{w} = (\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2) \left[ (\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2)^T \mathbf{w} \right]$. Le terme entre crochets étant un pur scalaire, le vecteur $\mathbf{S}_B \mathbf{w}$ est obligatoirement colinéaire au vecteur de différence des centroïdes $(\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2)$. En injectant cette propriété dans l’équation aux valeurs propres, la direction du vecteur discriminant optimal de Fisher se résout explicitement sans décomposition itérative :

$$\mathbf{w}^* propto \mathbf{S}_W^{-1} (\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2)$$

Dans le cas polytomique général impliquant $K ge 3$ groupes distincts, le rang de la matrice $\mathbf{S}_B$ est mathématiquement borné par $min(p, K – 1)$. Il existe donc au maximum $m = min(p, K – 1)$ valeurs propres réelles positives non nulles $\lambda_1 ge \lambda_2 ge dots ge \lambda_m > 0$ associées à une famille de vecteurs propres linéairement indépendants $\mathbf{w}_1, \mathbf{w}_2, dots, \mathbf{w}_m$. Ces axes constituent les fonctions discriminantes canoniques successives. Chaque valeur propre $\lambda_r$ traduit la proportion de variance inter-classes isolée par l’axe factoriel $r$ correspondant, quantifiant directement son efficacité différentielle.

5.3 Équations des hyperplans séparateurs

Une fois le vecteur directeur $\mathbf{w}^*$ déterminé pour séparer deux classes, la partition effective de l’espace géométrique requiert le calcul d’une constante scalaire de coupure, notée $c$, définissant la frontière où l’assignation bascule d’une catégorie à l’autre selon que $\mathbf{w}^{*T} \mathbf{x} – c > 0$ ou $< 0$.

Sous la perspective géométrique équilibrée de Fisher, le seuil de décision se positionne à mi-distance exacte entre les projections scalaires des centroïdes des deux groupes :

$$c = \frac{1}{2} \mathbf{w}^{*T} (\bar{\mathbf{x}}_1 + \bar{\mathbf{x}}_2) = \frac{1}{2} (\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2)^T \mathbf{S}_W^{-1} (\bar{\mathbf{x}}_1 + \bar{\mathbf{x}}_2)$$

L’équation de l’hyperplan séparateur à $(p-1)$ dimensions est formellement donnée par :

$$\mathcal{H} = \left{ \mathbf{x} in \mathbb{R}^p ;middle|; (\bar{\mathbf{x}}_1 – \bar{\mathbf{x}}_2)^T \mathbf{S}_W^{-1} \left( \mathbf{x} – \frac{\bar{\mathbf{x}}_1 + \bar{\mathbf{x}}_2}{2} \right) = 0 \right}$$

Lorsque le statisticien réintègre le cadre probabiliste bayésien afin de modéliser des probabilités a priori inégales ($\pi_1 ne \pi_2$), le seuil géométrique subit une translation parallèle proportionnelle au logarithme népérien du rapport des prévalences :

$$c_{\text{Bayes}} = \frac{1}{2} boldsymbol{\mu}_1^T boldsymbol{\Sigma}^{-1} boldsymbol{\mu}_1 – \frac{1}{2} boldsymbol{\mu}_2^T boldsymbol{\Sigma}^{-1} boldsymbol{\mu}_2 – \ln\left(\frac{\pi_1}{\pi_2}\right)$$

L’hyperplan séparateur affine conserve rigoureusement la même orientation angulaire dans l’espace multidimensionnel — son vecteur normal orthogonal demeurant $\mathbf{w}^* = boldsymbol{\Sigma}^{-1}(boldsymbol{\mu}_1 – boldsymbol{\mu}_2)$ —, mais sa position spatiale est translatée le long de ce vecteur vers le centre de gravité de la classe la moins probable. Cette translation ajuste mathématiquement la frontière décisionnelle afin de restreindre le volume de l’espace affecté à la classe rare, compensant exactement la dissymétrie des prévalences démographiques.

6. Réduction de dimensionnalité et géométrie de l’espace latent

6.1 Projection canonique et sous-espaces discriminants

Au-delà de sa fonction de classification supervisée, l’analyse discriminante linéaire s’affirme comme une méthode de réduction de la dimensionnalité guidée par les étiquettes de classes. Lorsqu’un protocole neuropsychologique ou psychométrique mobilise plusieurs dizaines de variables ($p gg 1$) pour différencier un nombre restreint de groupes $K$, la visualisation directe et la modélisation parcimonieuse deviennent intenables au sein de l’espace géométrique originel.

L’ADL résout ce problème en projetant les données depuis l’espace de départ $\mathbb{R}^p$ vers un sous-espace latent affine $\mathbb{R}^m$, où la dimension maximale $m$ est strictement contrainte par la géométrie inter-groupes :

$$m = \min(p, K – 1)$$

Cette propriété fondamentale découle du fait que les centroïdes des $K$ populations $boldsymbol{\mu}_1, dots, boldsymbol{\mu}_K$ sous-tendent au maximum un sous-espace vectoriel de dimension $K – 1$. Par exemple, pour distinguer trois entités nosologiques ($K = 3$) au moyen d’une batterie de vingt tests cognitifs ($p = 20$), la totalité de l’information différentielle inter-classes est intégralement encapsulée dans un plan factoriel bidimensionnel ($m = min(20, 2) = 2$).

La transformation s’opère par le produit matriciel :

$$\mathbf{z}_i = \mathbf{W}^T \mathbf{x}_i$$

où la matrice de projection $\mathbf{W} in \mathbb{R}^{p \times m}$ réunit en colonnes les $m$ vecteurs propres canoniques de la matrice $\mathbf{S}_W^{-1} \mathbf{S}_B$. Les coordonnées $\mathbf{z}_i$ obtenues sont appelées variables canoniques discriminantes. Ces nouveaux axes synthétiques possèdent la propriété d’être mutuellement non corrélés au sens de la métrique intra-classe :

$$\mathbf{w}_i^T \mathbf{S}_W \mathbf{w}_j = \begin{\cases} 1 & \text{si } i = j \ 0 & \text{si } i ne j \end{\cases}$$

L’espace géométrique résultant offre une compression optimale : il élimine toutes les dimensions de variations psychométriques au sein desquelles les groupes ne manifestent aucun écart de moyenne, concentrant la variance différentielle sur une poignée d’axes interprétables.

6.2 Comparaison systématique entre ACP et ADL

La distinction conceptuelle entre l’Analyse en Composantes Principales (méthode de projection orthogonale non supervisée) et l’Analyse Discriminante Linéaire (projection oblique canonique supervisée) structure l’épistémologie de l’analyse multivariée. Ces deux méthodes poursuivent des optimisations variationnelles radicalement distinctes :

Critère méthodologique	Analyse en composantes principales (ACP)	Analyse discriminante linéaire (ADL)
Paradigme d’apprentissage	Non supervisé (aucune étiquette de classe exploitée)	Supervisé (guidé par les labels catégoriels de groupes)
Objectif variationnel fondamental	Maximisation de la variance totale globale projetée ($\mathbf{w}^T \mathbf{S}_T \mathbf{w}$)	Maximisation du rapport de Rayleigh ($\frac{\mathbf{w}^T \mathbf{S}_B \mathbf{w}}{\mathbf{w}^T \mathbf{S}_W \mathbf{w}}$)
Nombre maximal d’axes factoriels	$p$ (nombre total de prédicteurs initiaux)	$min(p, K – 1)$ (contraint par le nombre de catégories)
Sensibilité aux gradients intra-groupes	Dominée par la variabilité globale, même si non séparatrice	Neutralise la variabilité intra-groupe pour isoler l’écartement
Sensibilité d’échelle	Élevée (dépend de la matrice de covariance vs corrélation)	Invariante aux transformations affines inversibles des prédicteurs

Il est courant qu’une ACP échoue totalement à séparer des sous-populations distinctes lorsque la direction de discrimination inter-groupes ne coïncide pas avec l’axe d’étalement principal de l’ensemble des données. Si, par exemple, la variabilité physiologique normale entre individus est nettement plus vaste que la variation pathologique subtile induite par un stade précoce de maladie neurodégénérative, les composantes principales 1 et 2 de l’ACP captureront exclusivement la diversité morphologique saine, superposant totalement les sujets sains et les malades. En revanche, l’ADL comprime cette variabilité normale partagée via l’inversion de la matrice intra-groupe $\mathbf{S}_W^{-1}$, orientant le regard analytique sur l’axe subtil où s’effectue la démarcation clinique.

Ces deux méthodes s’avèrent hautement complémentaires au sein des protocoles méthodologiques exploratoires préalables. Dans les situations dites de grande dimensionnalité où le nombre de mesures psychométriques excède la taille de la cohorte ($p > N$), la matrice $\mathbf{S}_W$ devient singulière, rendant l’application directe de l’ADL impossible. Une stratégie consiste à implémenter un pipeline séquentiel d’ACP-ADL : l’ACP est initialement exploitée pour débruiter le signal et réduire la dimensionalité de $p$ à $k’ < N$ composantes principales, sur lesquelles une ADL supervisée est ensuite ajustée sans instabilité d'inversion matricielle.

6.3 Visualisation cartographique des profils psychométriques

La projection des participants au sein de l’espace factoriel issu de l’ADL fournit un outil de cartographie clinique puissant. En positionnant chaque patient sur un repère orthogonal bivarié structuré par la première variable canonique (Axe 1 en abscisse) et la seconde variable canonique (Axe 2 en ordonnée), l’analyste génère un portrait spatial intelligible des proximités phénotypiques.

Pour conférer une rigueur probabiliste à cette cartographie, la représentation spatiale s’enrichit de plusieurs couches d’information vectorielle :

• Les centroïdes canoniques des groupes : Représentés par des barycentres d’attraction géométrique indiquant le comportement typique moyen de chaque classe dans le sous-espace discriminant.
• Les ellipses de concentration équiprobables : Définies pour des seuils statistiques formalisés (par exemple à 68 % ou 95 % de confiance). Ces contours ellipsoïdaux, modélisés à partir de la distribution bivariée du Chi-deux, objectivent visuellement la dispersion résiduelle de chaque pathologie. Le degré d’interpénétration ou de disjonction des ellipses matérialise immédiatement l’ambiguïté diagnostique ou, à l’inverse, l’individualisation nette des entités cliniques.
• Les graphiques de biplot factoriel (flèches de projection des prédicteurs) : La superposition des vecteurs structurels représentant les variables cognitives de départ éclaire la sémantique clinique des axes factoriels. La longueur d’une flèche reflète son pouvoir d’entraînement discriminant, tandis que son angle renseigne sur ses corrélations directes avec les fonctions canoniques latentes.

Cette approche permet d’identifier visuellement les profils cognitifs atypiques, d’explorer les chevauchements nosologiques aux zones de frontières inter-classes, et de repérer les éventuels cas d’observations aberrantes multidimensionnelles (outliers) dont l’excentricité par rapport à l’ellipsoïde de leur propre groupe pourrait fausser les inférences statistiques de l’étude.

7. Estimation empirique et calibrage des probabilités a priori

7.1 Paramétrisation par maximum de vraisemblance

En pratique empirique, les paramètres distributionnels théoriques régissant la population globale — à savoir les centroïdes de classes $boldsymbol{\mu}_k$ et la matrice de variance-covariance intra-groupe commune $boldsymbol{\Sigma}$ — sont rigoureusement inconnus du chercheur. Ils doivent être estimés à partir des observations réelles d’un échantillon d’apprentissage constitué de $N$ individus répartis au sein de $K$ groupes de tailles $N_1, N_2, dots, N_K$ telles que $\sum_{k=1}^K N_k = N$.

L’estimation conjointe sous l’hypothèse de normalité multivariée mobilise les estimateurs du maximum de vraisemblance, calibrés par les corrections usuelles de degrés de liberté afin de garantir des propriétés asymptotiques sans biais :

• Le vecteur des moyennes empiriques d’échantillon pour la classe $k$, noté $\bar{\mathbf{x}}_k$, constitue l’estimateur sans biais du centroïde théorique $boldsymbol{\mu}_k$ :

  $$\hat{boldsymbol{\mu}}_k = \bar{\mathbf{x}}_k = \frac{1}{N_k} \sum_{i in C_k} \mathbf{x}_i$$

• La matrice de covariance empirique individuelle du groupe $k$, notée $\mathbf{S}_k$, s’écrit :

  $$\mathbf{S}_k = \frac{1}{N_k – 1} \sum_{i in C_k} (\mathbf{x}_i – \bar{\mathbf{x}}_k)(\mathbf{x}_i – \bar{\mathbf{x}}_k)^T$$

• L’estimateur sans biais de la matrice de variance-covariance combinée intra-groupe $boldsymbol{\Sigma}$, noté $\mathbf{S}_{\text{intra}}$, s’obtient par la moyenne pondérée des matrices de covariance individuelles, ajustée sur les degrés de liberté résiduels totaux :

  $$\hat{boldsymbol{\Sigma}} = \mathbf{S}_{\text{intra}} = \frac{1}{N – K} \sum_{k=1}^{K} (N_k – 1) \mathbf{S}_k = \frac{1}{N – K} \mathbf{S}_W$$

Ces estimateurs empiriques sont asymptotiquement convergents et d’une variance minimale sous réserve que la normalité soit respectée. Cependant, lorsque la taille de l’échantillon est restreinte ou que le nombre de prédicteurs $p$ augmente, l’incertitude d’échantillonnage grevant chaque terme de $\mathbf{S}_{\text{intra}}$ se propage dans l’inversion matricielle $\mathbf{S}_{\text{intra}}^{-1}$, introduisant un biais optimiste systématique dans la performance de séparation des fonctions calculées.

7.2 Intégration des prévalences réelles en santé mentale

L’un des écueils méthodologiques les plus fréquents en psychologie quantitative réside dans la confusion entre les fréquences marginales observées au sein du jeu d’échantillonnage de recherche et les probabilités a priori $\pi_k$ régissant la survenue des affections en population générale. Dans les protocoles de recherche cas-témoins, les cohortes sont typiquement composées de façon paritaire (par exemple, 50 patients présentant un premier épisode psychotique appariés à 50 témoins sains, fixant arbitrairement une fréquence relative d’échantillon de 50 % / 50 %).

Si l’analyste laisse le modèle discriminant dériver ses probabilités a priori directement à partir des effectifs de l’échantillon ($\hat{\pi}_k = N_k / N$), le classificateur appliquera une règle bayésienne postulant que l’apparition d’un épisode psychotique en vie réelle possède une probabilité équivalente à une chance sur deux. Or, dans la population générale, la prévalence épidémiologique réelle de cette pathologie est de l’ordre de 1 % à 3 %. Appliquer un tel modèle sans correction pour des fins de dépistage en population générale engendrera une cascade désastreuse de faux positifs cliniques :

$$\ln\left(\frac{\hat{\pi}_{\text{cas}}}{\hat{\pi}_{\text{témoin}}}\right)_{\text{échantillon}} = \ln\left(\frac{0{,}50}{0{,}50}\right) = 0 \quad \text{alors que} \quad \ln\left(\frac{\pi_{\text{réelle}}}{\pi_{\text{témoin}}}\right)_{\text{épidémiologique}} = \ln\left(\frac{0{,}01}{0{,}99}\right) \approx -4{,}595$$

L’omission de cette correction déplace massivement l’hyperplan séparateur au détriment de la classe saine majoritaire. L’analyse discriminante linéaire permet d’ajuster ce seuil décisionnel en injectant explicitement les prévalences épidémiologiques objectives documentées dans les registres de santé publique au titre des paramètres $\pi_k$. Cette modification n’altère en rien l’orientation des fonctions discriminantes (définies par les barycentres et la matrice intra-groupe), mais réétalonne rigoureusement les termes constants pour une prédiction adaptée au milieu écologique de déploiement clinique.

7.3 Gestion des déséquilibres structurels de données

À l’inverse des designs expérimentaux artificiellement paritaires, les études épidémiologiques observationnelles sont fréquemment confrontées à des déséquilibres de classes massifs (par exemple, 95 % d’individus asymptomatiques contre 5 % de patients suicidaires). Dans cette configuration, l’application pure et simple du critère bayésien standard produit un phénomène d’écrasement statistique : la catégorie minoritaire est étouffée par le poids a priori disproportionné de la classe majoritaire, conduisant le modèle à maximiser son exactitude brute en affectant la quasi-totalité des individus à la modalité dominante.

Pour remédier à cette asymétrie prédictive tout en préservant le cadre analytique de l’ADL, plusieurs stratégies méthodologiques doivent être envisagées :

• L’ajustement asymétrique des coûts d’erreur : La matrice de gain/perte bayésienne est modifiée pour attribuer un coût pénalisant supérieur au fait de classer à tort un individu vulnérable dans la catégorie saine (faux négatif), par rapport au coût induit par une fausse alerte (faux positif). Cette asymétrie compense mathématiquement la faiblesse du paramètre $\pi_k$.
• Le rééchantillonnage équilibré ou synthétique en amont : L’application d’algorithmes de suréchantillonnage de la classe minoritaire au sein du jeu d’apprentissage — tels que SMOTE (Synthetic Minority Over-sampling Technique) adapté aux données multivariées continues — permet de rééquilibrer la structure des données avant l’estimation de $\mathbf{S}_{\text{intra}}$.
• Le recalibrage empirique du seuil de coupure : L’abandon de l’affectation automatique au mode de la probabilité conditionnelle ($P > 0{,}5$) au profit d’une optimisation empirique du seuil de décision le long de la fonction discriminante, pilotée par l’indice de Youden sur une courbe ROC dédiée.

8. Évaluation de la performance prédictive et validation du modèle

8.1 Indicateurs métriques et matrices de confusion

L’évaluation rigoureuse de la qualité discriminante d’un modèle ajusté ne saurait s’appuyer sur la seule métrique de l’exactitude globale (accuracy), hautement trompeuse en présence de groupes d’effectifs inégaux. L’investigation empirique requiert la construction systématique d’une matrice de confusion croisée, confrontant les appartenances réelles observées aux assignations catégorielles prédites par l’algorithme sur un jeu de données.

À partir de cette matrice, l’analyste décline un ensemble articulé de métriques statistiques adaptées à la décision diagnostique :

• La sensibilité clinique (taux de vrais positifs) : Capacité du modèle à identifier exhaustivement l’ensemble des individus porteurs d’un état pathologique donné.
• La spécificité diagnostique (taux de vrais négatifs) : Capacité du modèle à écarter scrupuleusement les sujets exempts du diagnostic ciblé, prévenant la stigmatisation liée au faux diagnostic.
• La valeur prédictive positive (VPP) et la valeur prédictive négative (VPN) : Indicateurs critiques pour le clinicien, mesurant la probabilité conditionnelle qu’un diagnostic prédit par l’ADL soit avéré en pratique clinique, compte tenu des prévalences appliquées.
• Le coefficient Kappa de Cohen ($kappa$) : Métrique inférentielle ajustant le taux de concordance observé entre le modèle et la réalité empirique en soustrayant le niveau d’accord purement fortuit lié aux marges de la table. Un $\kappa > 0{,}75$ atteste d’une concordance substantielle à excellente.

Dans les contextes multiclasses ($K ge 3$), ces indicateurs doivent être calculés selon des schémas d’agrégation macro-analytique (moyenne non pondérée des performances calculées au sein de chaque groupe) ou micro-analytique (pondérée par les effectifs). De surcroît, le recours aux courbes ROC (Receiver Operating Characteristic) étendues aux situations multiclasses, accompagnées du calcul de l’aire sous la courbe (AUC de Hand et Till), permet d’évaluer la discriminabilité intrinsèque du modèle indépendamment de tout seuil décisionnel binaire arbitraire.

8.2 Protocoles de validation croisée rigoureux

L’évaluation de la performance prédictive sur les observations mêmes qui ont servi à estimer les centroïdes et la matrice de variance-covariance engendre un biais d’optimisme systématique, également désigné sous le terme de surapprentissage de réévaluation (resubstitution bias). Ce phénomène conduit à une surestimation dramatique des capacités de généralisation réelles de la batterie de tests psychométriques.

Pour neutraliser ce biais méthodologique, le déploiement de protocoles de validation croisée étanches constitue un impératif méthodologique incontournable :

• La validation croisée $k$-fold stratifiée : L’échantillon total est scindé en $k$ sous-ensembles (typiquement 5 ou 10) mutuellement exclusifs, en veillant scrupuleusement à ce que chaque fold reproduise la distribution proportionnelle exacte des classes initiales. Le modèle d’ADL est entraîné sur $k – 1$ sous-ensembles, puis sa performance est évaluée sur le pli résiduel gardé totalement aveugle. Cette procédure est réitérée $k$ fois, puis les métriques sont moyennées.
• La validation par exclusion unitaire (Leave-One-Out Cross-Validation – LOOCV) : Particulièrement indiquée en neuropsychologie face à des cohortes très restreintes ($N < 50$), cette méthode consiste à masquer un unique individu, à estimer l’ADL sur les$N – 1$ patients restants, puis à tester l’assignation de l’individu exclu. Répétée $N$ fois, elle fournit un estimateur quasi sans biais de l’erreur réelle de généralisation.
• La validation externe indépendante : L’étalon-or ultime demeure l’application du modèle figé à une cohorte de réplication prospective totalement indépendante, recrutée au sein d’autres centres hospitaliers ou universitaires, afin d’attester de la transférabilité inter-sites et de la robustesse psychométrique du modèle face aux variations de passation des épreuves.

8.3 Statistiques inférentielles de séparation globale

L’analyse discriminante linéaire intègre un cadre inférentiel multivarié rigoureux permettant de tester formellement l’hypothèse nulle d’égalité absolue des profils psychométriques moyens à travers les $K$ groupes expérimentaux :

$$H_0 : boldsymbol{\mu}_1 = boldsymbol{\mu}_2 = dots = boldsymbol{\mu}_K$$

La statistique multivariée la plus universellement rapportée est le Lambda de Wilks ($Lambda$). Sur le plan algébrique, elle représente le rapport du déterminant de la matrice de dispersion intra-classe au déterminant de la matrice de dispersion totale :

$$\Lambda = \frac{|\mathbf{S}_W|}{|\mathbf{S}_T|} = \frac{|\mathbf{S}_W|}{|\mathbf{S}_W + \mathbf{S}_B|} = \prod_{r=1}^{m} \frac{1}{1 + \lambda_r}$$

où $\lambda_r$ correspond aux valeurs propres issues de la décomposition de $\mathbf{S}_W^{-1} \mathbf{S}_B$. Le Lambda de Wilks est un indicateur inverse de taille d’effet variant dans l’intervalle $[0, 1]$ :

• Une valeur proche de 1 signifie que la matrice intra-groupe absorbe la quasi-totalité de la dispersion totale, indiquant une absence d’écartement moyen des groupes (rejet impossible de $H_0$).
• Une valeur proche de 0 traduit une dispersion inter-classes massivement dominante, signalant une discrimination multivariée puissante des populations cliniques.

Le Lambda de Wilks peut être transformé via l’approximation de Rao en une statistique $F$ de Fisher-Snedecor permettant de dériver une p-valeur exacte. Si le test global s’avère significatif, une procédure d’élimination séquentielle permet d’évaluer la significativité statistique de chaque racine canonique successive, déterminant précisément combien de dimensions factorielles discriminantes doivent être conservées pour l’interprétation. D’autres critères multivariés robustes — tels que la trace de Pillai-Bartlett, la trace d’Hotelling-Lawley ou la plus grande racine de Roy — complètent avantageusement l’analyse, la trace de Pillai étant particulièrement privilégiée en présence de déviations modérées de l’hypothèse d’homoscédasticité.

Enfin, pour chaque axe discriminant canonique retenu, le coefficient de corrélation canonique ($R_c$) est calculé. Dérivé de la valeur propre associée selon la relation $R_c = \sqrt{\lambda_r / (1 + \lambda_r)}$, il quantifie l’intensité de l’association statistique entre l’axe psychométrique latent et la partition des groupes catégoriels, son carré ($R_c^2$) s’interprétant directement comme la proportion de variance inter-classes totale expliquée par cette dimension.

9. Applications empiriques en psychologie et neurosciences cognitives

9.1 Classification différentielle des troubles psychopathologiques

Dans l’exercice de la nosographie psychiatrique, le clinicien se heurte à des recouvrements symptomatologiques considérables compliquant le diagnostic précoce. Par exemple, la différenciation entre le trouble dépressif unipolaire caractérisé, le trouble bipolaire en phase dépressive inaugurale et les états d’anxiété généralisée sévère pose des défis thérapeutiques cruciaux, le recours inapproprié aux antidépresseurs chez un patient bipolaire risquant d’induire un virage maniaque iatrogène.

L’analyse discriminante linéaire apporte une contribution décisive en exploitant simultanément des batteries hétérogènes regroupant des inventaires d’auto-évaluation de la régulation émotionnelle, des épreuves neuropsychologiques informatisées (par exemple, des tâches de flexibilité cognitive de type Wisconsin Card Sorting Test) et des biomarqueurs électrophysiologiques (tels que l’amplitude de l’onde P300 ou la variabilité du rythme cardiaque en condition de stress). L’ADL comprime cette multidimensionnalité en isolant des signatures spécifiques :

• Le premier axe canonique discriminant sépare typiquement le niveau d’activation émotionnelle et d’arousal physiologique global, dissociant les états anxieux purs des états de ralentissement psychomoteur dépressif.
• Le second axe canonique capture les indices de labilité cognitive et d’asymétrie frontale résiduelle, opérant la démarcation fine entre les sous-types unipolaires et bipolaires.

En présence de comorbidités complexes, l’ADL calcule les probabilités a posteriori d’appartenance à chaque entité. Lorsqu’un patient se positionne dans une zone d’équi-probabilité décisionnelle (par exemple $P(\text{Unipolaire}) = 0{,}48$ et $P(\text{Bipolaire}) = 0{,}46$), le modèle formalise objectivement l’indécision nosographique, incitant le collège médical à une surveillance clinique rapprochée plutôt qu’à l’application d’un diagnostic unilatéral rigide.

9.2 Orientation vocationnelle et profils de compétences

Dans le domaine de la psychologie du travail, de l’ergonomie cognitive et de l’orientation académique, l’évaluation des aptitudes et des intérêts vocationnels a historiquement constitué l’un des premiers terrains d’expérimentation de l’ADL. L’enjeu méthodologique consiste à modéliser la manière dont une batterie de tests mesurant des dimensions cognitives diversifiées — raisonnement logico-mathématique, fluidité verbale, vision spatiale tridimensionnelle, vitesse d’intégration perceptivo-motrice — prédit la trajectoire de réussite et d’épanouissement au sein de filières d’études ou de secteurs professionnels distincts.

L’application d’une ADL multiclasses sur des cohortes longitudinales de diplômés permet d’extraire la géométrie différentielle sous-tendant les exigences cognitives sectorielles :

• Une première fonction discriminante canonique oppose généralement un pôle de compétences d’abstraction verbale et relationnelle (saturé positivement par les filières juridiques, littéraires et de psychologie clinique) à un pôle de manipulation visuo-spatiale et de traitement formel quantitatif (saturé par les cursus d’ingénierie mécanique et d’architecture).
• Une seconde dimension factorielle discriminant isole le facteur de vitesse d’exécution sous contrainte temporelle, différenciant par exemple les métiers de régulation du trafic aérien des disciplines de recherche théorique fondamentale.

Les fonctions discriminantes ainsi standardisées permettent de situer un jeune adulte sur cette carte des profils de compétences. Le calcul des distances statistiques le séparant des centroïdes professionnels renseigne sur ses correspondances aptitudinales objectives, fournissant un guide probabiliste dans le cadre de bilans d’orientation sans jamais enfermer le sujet dans une trajectoire déterministe.

9.3 Détection précoce du déclin cognitif en neuropsychologie

Face au vieillissement démographique planétaire, le dépistage précoce des processus neurodégénératifs constitue une priorité sanitaire majeure. La neuropsychologie du troisième âge se donne pour mission de discriminer trois trajectoires cognitives aux frontières cliniques particulièrement ténues : le vieillissement cognitif normal (sénescence saine), le déficit cognitif léger (Mild Cognitive Impairment – MCI, sous ses formes amnésique et multi-domaine) et la maladie d’Alzheimer au stade prodromique ou léger.

Une batterie d’évaluation neuropsychologique standardisée génère couramment plus d’une vingtaine d’indices cliniques (scores de rappel immédiat et différé au test de Grober-Buschke, interférences de Stroop, fluence phonologique, empans envers, Trail Making Test A et B). L’ajustement d’une ADL permet de hiérarchiser mathématiquement le pouvoir d’évocation de chacun de ces marqueurs :

• Le modèle démontre de façon récurrente que le score de rappel différé sous indiçage sémantique présente le coefficient de fonction discriminante le plus puissant, suivi immédiatement par le coût d’interférence attentionnelle.
• Les variables de mémoire à court terme immédiate (empans forwards), bien que dégradées chez les patients sévèrement atteints, reçoivent des coefficients discriminants proches de zéro, révélant qu’elles ne contribuent pas à la démarcation sélective des stades prodromiques.

De surcroît, le score discriminant individuel canonique issu de cette modélisation peut être exploité longitudinalement comme un biomarqueur cognitif composite continu. En évaluant l’évolution temporelle de la coordonnée discriminante d’un patient au fil de bilans répétés à un an d’intervalle, les neuropsychologues quantifient la vitesse de translation de son profil cognitif vers le centroïde de la pathologie avérée, offrant un indicateur de suivi de la progression pathologique.

10. Variantes et extensions de l’analyse discriminante

10.1 L’analyse discriminante quadratique

Lorsque le postulat fondamental d’homoscédasticité multivariée est formellement violé — situation fréquente où le test $M$ de Box rejette l’égalité des matrices de covariance et où les dispersions intra-groupes s’avèrent structurellement divergentes —, l’analyse discriminante linéaire produit des partitions d’espace biaisées. Il devient alors théoriquement impératif de relâcher la contrainte d’homogénéité en adoptant l’analyse discriminante quadratique (Quadratic Discriminant Analysis – QDA).

Sous la formulation de la QDA, le modèle estime une matrice de variance-covariance empirique spécifique et distincte $boldsymbol{\Sigma}_k$ pour chaque catégorie individuelle $k$. En réintroduisant ces matrices individualisées au sein du développement bayésien, le terme quadratique $-\frac{1}{2} \mathbf{x}^T boldsymbol{\Sigma}_k^{-1} \mathbf{x}$ ne peut plus être neutralisé puisqu’il dépend désormais de l’indice $k$. La fonction discriminante résultante pour la classe $k$, notée $Q_k(\mathbf{x})$, conserve par conséquent sa forme quadratique intégrale :

$$Q_k(\mathbf{x}) = -\frac{1}{2} \ln |boldsymbol{\Sigma}_k| – \frac{1}{2} (\mathbf{x} – boldsymbol{\mu}_k)^T boldsymbol{\Sigma}_k^{-1} (\mathbf{x} – boldsymbol{\mu}_k) + \ln \pi_k$$

Les frontières de décision délimitant les groupes ($Q_k(\mathbf{x}) = Q_l(\mathbf{x})$) ne forment plus des hyperplans plats, mais des hypersurfaces courbées du second degré (hyperparaboloïdes, ellipses fermées ou selles hyperboliques). Cette plasticité géométrique permet à la QDA de capturer des topologies complexes où un groupe clinique homogène est spatialement enclavé au centre d’une population de sujets sains présentant une dispersion nettement plus large.

Toutefois, cette flexibilité expressive a un coût statistique lourd en matière de degrés de liberté. Alors que l’ADL n’estime qu’une seule matrice de covariance combinée ($p(p+1)/2$ paramètres), la QDA exige l’estimation distincte de $K$ matrices complètes, totalisant $K \times [p(p+1)/2]$ paramètres de dispersion. En présence d’échantillons modestes, la QDA souffre d’une variance d’échantillonnage élevée et d’un risque majeur de surapprentissage, justifiant souvent de privilégier la parcimonie robuste de l’ADL malgré une hétérogénéité modérée.

10.2 L’analyse discriminante régularisée

Pour dépasser l’opposition dichotomique rigide entre la parcimonie linéaire de l’ADL et la gourmandise paramétrique quadratique de la QDA, Jerome Friedman a formalisé en 1989 l’analyse discriminante régularisée (Regularized Discriminant Analysis – RDA). Cette extension computationnelle s’avère particulièrement providentielle pour traiter des problématiques de haute dimensionnalité en neuro-imagerie ou en génomique comportementale, où le nombre de prédicteurs $p$ approche ou dépasse la taille totale de l’échantillon $N$.

La RDA s’articule autour de l’introduction de deux hyperparamètres de régularisation et de rétrécissement statistique (shrinkage), continus et bornés sur l’intervalle $[0, 1]$, notés $lambda$ et $\gamma$ :

• Le premier paramètre, $lambda$, orchestre un compromis paramétrique direct entre la matrice de covariance individuelle d’un groupe $\mathbf{S}_k$ et la matrice combinée intra-groupe globale $\mathbf{S}_{\text{intra}}$ :

  $$\hat{boldsymbol{\Sigma}}_k(\lambda) = (1 – \lambda)\mathbf{S}_k + \lambda \mathbf{S}_{\text{intra}}$$

  Lorsque $lambda = 0$, le modèle équivaut strictement à la QDA ; lorsque $lambda = 1$, il converge identiquement vers l’ADL classique.

• Le second paramètre, $\gamma$, induit un rétrécissement diagonal régularisant la matrice résultante vers un modèle sphérique isotrope, en la combinant avec une matrice identité pondérée par la variance univariée moyenne $\sigma_k^2 = \frac{1}{p} \text{Tr}(\hat{boldsymbol{\Sigma}}_k(\lambda))$ :

  $$\hat{boldsymbol{\Sigma}}_k(\lambda, \gamma) = (1 – \gamma)\hat{boldsymbol{\Sigma}}_k(\lambda) + \gamma \sigma_k^2 \mathbf{I}_p$$

  Ce second palier de régularisation garantit l’inversibilité stricte de la matrice de dispersion même lorsque $p gg N$, éliminant le phénomène de singularité matricielle.

Le calibrage optimal de ce doublet d’hyperparamètres $(\lambda, \gamma)$ est conduit empiriquement par recherche sur grille (grid search) croisée optimisant le taux d’exactitude ou le score de log-vraisemblance. La RDA fournit ainsi un estimateur adaptatif stabilisé, capitalisant sur la robustesse de l’ADL tout en intégrant des degrés contrôlés de courbure quadratique.

10.3 Approches non linéaires et méthodes à noyaux

Lorsque les structures sous-jacentes séparant les groupes comportementaux adoptent des géométries hautement non linéaires — telles que des cercles concentriques ou des variétés spiralées —, aucune frontière linéaire ni même quadratique ne peut opérer une discrimination satisfaisante au sein de l’espace d’origine $\mathbb{R}^p$. Pour surmonter cette limitation géométrique sans sacrifier l’ossature analytique de Fisher, Mika et ses collaborateurs ont formalisé l’analyse discriminante à noyaux (Kernel Fisher Discriminant Analysis – KFDA).

Cette approche applique l’astuce du noyau (kernel trick), concept popularisé par les machines à vecteurs de support (SVM). Les données d’origine sont projetées de manière implicite via une transformation non linéaire $\phi(\mathbf{x})$ vers un espace de Hilbert de dimension potentiellement infinie, au sein duquel les classes redeviennent séparables par un hyperplan plat. Grâce aux propriétés de reproducing kernel Hilbert spaces (RKHS), tous les produits scalaires dans cet espace d’arrivée s’expriment au moyen d’une fonction de noyau $k(\mathbf{x}_i, \mathbf{x}_j) = \langle \phi(\mathbf{x}_i), \phi(\mathbf{x}_j) \rangle$, sans jamais nécessiter le calcul explicite des coordonnées transformées :

• Le noyau gaussien à base radiale (RBF – Radial Basis Function) : $k(\mathbf{x}_i, \mathbf{x}_j) = \exp(-\gamma |\mathbf{x}_i – \mathbf{x}_j|^2)$
• Le noyau polynomial d’ordre $d$ : $k(\mathbf{x}_i, \mathbf{x}_j) = (\mathbf{x}_i^T \mathbf{x}_j + c)^d$

Si la KFDA permet de modéliser des frontières de séparation décisionnelles arbitrairement complexes rivalisant avec les algorithmes d’apprentissage profond, elle induit une rupture épistémologique avec l’ADL classique. Les fonctions discriminantes n’étant plus des combinaisons linéaires directes des variables d’origine, l’interprétabilité psychométrique des coefficients individuels est totalement oblitérée. Dès lors, la KFDA relève purement de l’apprentissage automatique prédictif (IA de type boîte noire), s’éloignant de la double mission explicative-descriptive qui fait la force de l’ADL conventionnelle.

11. Implémentation technique et protocole d’analyse sous R et Python

11.1 Préparation et nettoyage des données multivariées

L’application rigoureuse d’une analyse discriminante linéaire impose un pipeline préliminaire de prétraitement des données, garantissant que les estimateurs matriciels ne soient pas compromis par des artefacts de mesure. Ce protocole systématique comprend quatre étapes coordonnées :

• Le diagnostic et le traitement des valeurs aberrantes multivariées : Une observation aberrante isolée sur une seule dimension peut passer inaperçue lors d’une inspection univariée, tout en générant un levier déstabilisateur majeur dans l’espace multidimensionnel. L’analyste doit calculer systématiquement le carré des distances de Mahalanobis pour chaque sujet par rapport au centroïde de sa classe et identifier les participants dont la distance excède le quantile critique de la distribution théorique du Chi-deux au seuil $\alpha = 0{,}001$. L’exclusion motivée ou la winsorisation multivariée de ces observations est impérative.
• L’imputation des données manquantes : Les batteries psychométriques exhaustives comportent fréquemment des omissions ponctuelles d’items. L’exclusion pure et simple de tout dossier incomplet (listwise deletion) induit une réduction drastique de la puissance statistique et un biais de sélection potentiel. Le recours à des algorithmes d’imputation multiple par équations chaînées (MICE) ou par l’algorithme des $k$ plus proches voisins (k-NN) sur les prédicteurs continus préserve la représentativité de la cohorte sans altérer la matrice de covariance.
• La standardisation centrée-réduite : Bien que l’ADL mathématique soit formellement invariante à tout changement d’échelle univarié linéaire (les fonctions de projection s’adaptant proportionnellement), la standardisation préalable de tous les prédicteurs (centrage sur zéro et réduction à une variance unitaire : $z = (x – \mu)/\sigma$) constitue une bonne pratique universelle. Elle permet l’interprétation comparative directe des coefficients de discrimination canoniques bruts sans distorsion induite par l’hétérogénéité des amplitudes métriques initiales.
• Le partitionnement stratifié étanche : Avant tout calcul statistique, le jeu de données doit être scindé en un ensemble d’entraînement (training set, typiquement 70 % à 80 % de la cohorte) dédié à l’ajustement du modèle et de ses seuils, et un ensemble de test indépendant (test set, 20 % à 30 %) réservé exclusivement à l’évaluation finale des performances de généralisation prédictive.

11.2 Déploiement sous R avec la bibliothèque MASS

Au sein de l’environnement de programmation statistique R, l’implémentation de référence de l’analyse discriminante linéaire est encapsulée dans le package MASS (Modern Applied Statistics with S), développé par Venables et Ripley. Ce package fournit la fonction cardinale lda(), qui implémente l’estimation non par inversion directe de $\mathbf{S}_{\text{intra}}$, mais par décomposition en valeurs singulières (SVD) de la matrice des données centrées, une approche computationnelle offrant une stabilité numérique supérieure.

Le protocole analytique sous R s’articule autour des syntaxes et démarches suivantes :

• Ajustement du modèle de base : La syntaxe modélise la variable catégorielle dépendante en fonction de la matrice des scores continus, en autorisant la spécification manuelle du vecteur des probabilités a priori via l’argument prior (permettant d’ajuster les prévalences épidémiologiques) :
  
  modele_lda <- lda(Diagnostic ~ Memoire + Attention + Vitesse + Flexibilite, data = donnees_train, prior = c(0.70, 0.20, 0.10))
• Extraction des paramètres canoniques : L’affichage du modèle révèle les moyennes des groupes au sein de chaque variable (centroïdes empiriques), ainsi que les coefficients des discriminants linéaires (coefficients of linear discriminants). Ces coefficients représentent les pondérations vectorielles $\mathbf{w}$ associées à chaque fonction canonique. La fonction summary() permet d’extraire les proportions de séparation inter-classes capturées par chaque axe factoriel successif.
• Visualisation graphique de l’espace factoriel : L’appel de la méthode graphique générique plot(modele_lda, col = as.numeric(donnees_train$Diagnostic)) produit une cartographie des observations projetées sur les deux premières fonctions discriminantes canoniques $LD_1$ et $LD_2$. Pour des visualisations enrichies d’ellipses d’équiprobabilité à 95 %, l’intégration des coordonnées transformées au sein de l’écosystème ggplot2 (via l’instruction predict(modele_lda)$x) permet d’exporter des cartographies prêtes pour publication.
• Inférence prédictive sur de nouvelles observations : L’application de la fonction predict(modele_lda, newdata = donnees_test) renvoie une liste hiérarchisée contenant trois sorties cardinales :
  • $class : l’assignation catégorielle finale issue de la maximisation bayésienne.
  • $posterior : la matrice des probabilités a posteriori individuelles pour chaque classe, permettant de quantifier le degré de certitude du modèle.
  • $x : les coordonnées géométriques de chaque nouveau patient dans le sous-espace factoriel canonique.

11.3 Mise en œuvre sous Python avec Scikit-Learn

Au sein de l’écosystème d’apprentissage automatique en langage Python, le module LinearDiscriminantAnalysis de la bibliothèque scikit-learn (sous le sous-module sklearn.discriminant_analysis) constitue l’infrastructure logicielle standard. Cette classe gère de manière intégrée tant la réduction de dimension supervisée que la classification bayésienne multiclasses.

Le déploiement industriel d’un pipeline d’analyse sous Python requiert le paramétrage rigoureux des composantes de la classe :

• Sélection des solveurs mathématiques (paramètre solver) :
  • solver='svd' : solveur par défaut, fondé sur la décomposition en valeurs singulières. Il ne requiert pas le calcul direct de la matrice de covariance, ce qui le rend exceptionnellement rapide et stable pour des jeux de données comportant un grand nombre d’individus. Néanmoins, il ne permet pas le réglage du paramètre de shrinkage.
  • solver='lsqr' : solveur basé sur les moindres carrés régularisés. Il s’avère hautement efficient et supporte l’introduction dynamique du rétrécissement statistique de Ledoit-Wolf via l’argument shrinkage='auto'.
  • solver='eigen' : solveur mobilisant la décomposition spectrale classique des valeurs propres de $\mathbf{S}_W^{-1}\mathbf{S}_B$. Idéal lorsque l’on souhaite extraire et analyser explicitement les racines et valeurs propres associées aux axes canoniques de Fisher.
• Intégration au sein d’un Pipeline Scikit-Learn : Afin de prévenir rigoureusement toute fuite d’information statistique entre l’apprentissage et le test (data leakage), l’ADL est encapsulée au sein d’une chaîne séquentielle intégrant la standardisation :
  
  pipeline = Pipeline([('scaler', StandardScaler()), ('lda', LinearDiscriminantAnalysis(solver='lsqr', shrinkage='auto'))])
• Rapport d’évaluation de la classification : L’évaluation finale des performances de test mobilise les fonctions de sklearn.metrics, notamment classification_report() qui calcule instantanément pour chaque classe la précision, le rappel (sensibilité) et le score F1 macro et pondéré, ainsi que confusion_matrix(). Pour les problématiques de réduction de dimensionnalité, la méthode lda.transform(X) génère directement le tableau des coordonnées projetées sur les composantes canoniques les plus informatives.

12. Bonnes pratiques méthodologiques, écueils et perspectives de recherche

12.1 Robustesse aux violations modérées des postulats

L’application rigoureuse de l’ADL en contexte scientifique requiert un discernement lucide quant à la tolérance réelle de la méthode face aux inévitables imperfections des données empiriques. La littérature statistique de simulation de Monte-Carlo a largement exploré le comportement de l’ADL lors de violations modérées de ses postulats théoriques :

• Tolérance à la non-normalité univariée et multivariée : L’ADL manifeste une remarquable robustesse face aux déviations symétriques de la normalité (telles que des distributions platykurtiques ou légèrement leptokurtiques). En vertu du théorème central limite multivarié, les estimateurs des moyennes de classes $\bar{\mathbf{x}}_k$ convergent rapidement vers la normalité dès lors que les effectifs de chaque groupe dépassent $N_k ge 20$ à 30 individus. En revanche, des asymétries prononcées (skewness marqué) et divergentes entre groupes faussent les frontières décisionnelles, rendant obligatoire l’application préalable d’une transformation normalisatrice de Box-Cox.
• Données issues d’échelles de Likert ordinales : Bien que l’ADL postule formellement des variables continues, son application sur des scores composites issus de batteries d’échelles de Likert (lorsque les scores totaux agrègent au moins 5 à 7 niveaux et se rapprochent d’un continuum) n’altère que très marginalement les taux d’erreur de classification par rapport à des modèles polytomiques non linéaires plus lourds.
• Limites face à l’hétérogénéité de covariance : La violation de l’homoscédasticité constitue la faiblesse la plus dommageable de l’ADL. Les simulations démontrent que si le rapport des plus grandes variances de classes sur les plus faibles n’excède pas un facteur de 2 à 3, et sous réserve que les tailles de groupes soient strictement équilibrées ($N_1 \approx N_2 dots \approx N_K$), l’impact de l’hétérogénéité sur le taux d’erreur global demeure négligeable. En revanche, la combinaison délétère d’une hétérogénéité marquée et de tailles d’échantillons fortement inégales produit des biais d’assignation majeurs : l’ADL favorise massivement la classe dont la variance est la plus ample au détriment de la classe compacte.

Face à ces configurations limites, le statisticien avisé consolidera ses inférences en implémentant des procédures de rééchantillonnage par bootstrap non paramétrique (typiquement 2 000 réplications). En générant des distributions empiriques des coefficients discriminants sans postulat distributionnel formel, le bootstrap permet de calculer des intervalles de confiance à 95 % corrigés des biais, attestant de la solidité des variables discriminantes identifiées.

12.2 Pièges d’interprétation des coefficients de fonction discriminante

L’erreur méthodologique la plus insidieuse lors de la restitution des résultats d’une analyse discriminante consiste à interpréter naïvement la magnitude brute des coefficients des fonctions discriminantes comme une mesure directe de l’importance clinique causale ou différentielle d’un prédicteur. Trois artefacts statistiques doivent impérativement être maîtrisés :

• La disparité des échelles de mesure initiales : Les coefficients canoniques bruts dépendent intrinsèquement de l’unité physique ou métrique de chaque variable. Un score mesuré sur une amplitude de 0 à 1 recevra artificiellement un coefficient brut dix fois supérieur à celui d’un test mesuré de 0 à 100, pour un pouvoir discriminant strictement identique. Seuls les coefficients canoniques standardisés (obtenus en multipliant le coefficient brut par l’écart-type intra-groupe de la variable correspondante) permettent une comparaison relative rigoureuse du pouvoir discriminant au sein du modèle.
• L’illusion causale induite par la multicolinéarité : À l’instar de ce qui s’observe dans les modèles de régression multiple, la présence de corrélations modérées à fortes entre plusieurs épreuves psychométriques masque la contribution de prédicteurs cruciaux. Si deux tests d’attention partagent 70 % de variance commune, le modèle peut attribuer un coefficient élevé à l’un et un coefficient proche de zéro à l’autre, non pas parce que ce dernier est dépourvu de valeur discriminante clinique, mais parce que son apport d’information différentielle est redondant avec le premier.
• La distinction entre coefficients standardisés et matrices de structure : Pour démêler cet artefact, l’analyste doit impérativement rapporter et examiner la matrice de structure (également appelée corrélations canoniques intra-groupes ou structure loadings). Ces indicateurs quantifient la corrélation bivariée directe entre chaque prédicteur individuel et l’axe latent discriminant, indépendamment des autres variables du modèle. Une variable peut avoir un coefficient standardisé quasi-nul dans la fonction prédictive en raison de sa redondance, tout en affichant une saturation structurelle très élevée ($r > 0{,}60$) avec la dimension différentielle globale, attestant de sa centralité clinique dans le tableau pathologique.

Conformément aux normes rédactionnelles de l’American Psychological Association (APA 7th edition), un rapport d’analyse discriminante linéaire exemplaire doit systématiquement consigner : les tests de normalité multivariée et d’homogénéité (test $M$ de Box), les corrélations de la matrice de structure conjointement aux coefficients standardisés, le Lambda de Wilks associé à son test de significativité statistique $F$, les valeurs propres de chaque racine canonique, les pourcentages de variance expliquée et le coefficient Kappa de Cohen issu d’une validation croisée rigoureuse.

12.3 Intégration de l’ADL dans l’apprentissage automatique moderne

Loin d’être reléguée au statut de relique historique par l’émergence des technologies d’intelligence artificielle contemporaines, l’analyse discriminante linéaire connaît un renouveau remarquable au sein des architectures d’apprentissage automatique avancées. Sa rapidité computationnelle, sa faible consommation en ressources de calcul et, par-dessus tout, sa formulation analytique rigoureusement transparente en font un composant architectural de premier plan dans le paradigme de l’intelligence artificielle explicable (XAI – Explainable Artificial Intelligence).

Dans les protocoles de modélisation contemporains, l’ADL est fréquemment mobilisée selon des logiques d’hybridation méthodologique :

• Extracteur d’attributs supervisé en amont de classificateurs non linéaires : Plutôt que de soumettre directement des milliers de descripteurs non filtrés à un classificateur complexe (tel qu’une machine à vecteurs de support à noyau RBF ou un algorithme de Gradient Boosting de type XGBoost), l’ADL est déployée en phase amont pour projeter les données vers l’espace discriminant canonique optimal de Fisher. Ce sous-espace compact de dimension $K – 1$ sert ensuite d’entrée hautement purifiée pour le classificateur non linéaire, conjuguant l’accélération de convergence, la réduction de variance et la capture des courbures résiduelles.
• Régularisation parcimonieuse des modèles d’ensemble : Dans les architectures d’empilement (stacking ensembles), les prédictions probabilistes générées par une ADL linéaire robuste sont fusionnées avec celles issues de modèles non paramétriques flexibles. L’ADL agit comme une ancre bayésienne stabilisatrice, empêchant les modèles d’ensemble de surajuster le bruit idiosyncrasique de l’échantillon d’apprentissage.
• Interprétation des espaces latents dans l’apprentissage profond : Dans les réseaux de neurones convolutionnels ou les auto-encodeurs variationnels appliqués à la neuro-imagerie médicale, l’ADL est appliquée sur l’avant-dernière couche dense du réseau (l’espace de représentations latentes). Cela permet de vérifier si les représentations géométriques abstraites forgées de manière non supervisée par les neurones profonds s’alignent naturellement sur des axes linéaires séparateurs discriminants conformes à la clinique médicale.

Ainsi, près d’un siècle après sa formulation princeps par Ronald Fisher, l’analyse discriminante linéaire s’affirme plus que jamais comme un pilier méthodologique indispensable : un pont entre la modélisation statistique inférentielle classique et la puissance prédictive de l’apprentissage automatique contemporain, garantissant que l’investigation des structures quantitatives du comportement humain demeure fermement ancrée dans les principes de rigueur, de parcimonie et d’interprétabilité mathématique.

Références

• Albert, A., & Anderson, J. A. (1984). On the existence of maximum likelihood estimates in logistic regression models. Biometrika, 71(1), 1–10. https://doi.org/10.1093/biomet/71.1.1
• American Psychological Association. (2020). Publication manual of the American Psychological Association (7th ed.). American Psychological Association. https://doi.org/10.1037/0000165-000
• Efron, B. (1975). The efficiency of logistic regression compared to normal discriminant analysis. Journal of the American Statistical Association, 70(352), 892–898. https://doi.org/10.1080/01621459.1975.10480319
• Fisher, R. A. (1936). The use of multiple measurements in taxonomic problems. Annals of Eugenics, 7(2), 179–188. https://doi.org/10.1111/j.1469-1809.1936.tb02137.x
• Friedman, J. H. (1989). Regularized discriminant analysis. Journal of the American Statistical Association, 84(405), 165–175. https://doi.org/10.1080/01621459.1989.10478752
• Hand, D. J., & Till, R. J. (2001). A simple generalisation of the area under the ROC curve for multiple class classification problems. Machine Learning, 45(2), 171–186. https://doi.org/10.1023/A:1010920819831
• Hastie, T., Tibshirani, R., & Friedman, J. (2009). The elements of statistical learning: Data mining, inference, and prediction (2nd ed.). Springer. https://doi.org/10.1007/978-0-387-84858-7
• Huberty, C. J., & Olejnik, S. (2006). Applied MANOVA and discriminant analysis (2nd ed.). John Wiley & Sons. https://doi.org/10.1002/047178947X
• Klecka, W. R. (1980). Discriminant analysis. SAGE Publications. https://doi.org/10.4135/9781412983990
• Mardia, K. V. (1970). Measures of multivariate skewness and kurtosis with applications. Biometrika, 57(3), 519–530. https://doi.org/10.1093/biomet/57.3.519
• Mika, S., Ratsch, G., Weston, J., Scholkopf, B., & Muller, K. R. (1999). Fisher discriminant analysis with kernels. In Neural Networks for Signal Processing IX: Proceedings of the 1999 IEEE Signal Processing Society Workshop (pp. 41–48). IEEE. https://doi.org/10.1109/NNSP.1999.788121
• Pedregosa, F., Varoquaux, G., Gramfort, A., Michel, V., Thirion, B., Grisel, O., Blondel, M., Prettenhofer, P., Weiss, R., Dubourg, V., Vanderplas, J., Passos, A., Cournapeau, D., Brucher, M., Perrot, M., & Duchesnay, E. (2011). Scikit-learn: Machine learning in Python. Journal of Machine Learning Research, 12, 2825–2830. https://jmlr.org/papers/v12/pedregosa11a.html
• Tabachnick, B. G., & Fidell, L. S. (2019). Using multivariate statistics (7th ed.). Pearson.
• Venables, W. N., & Ripley, B. D. (2002). Modern applied statistics with S (4th ed.). Springer. https://doi.org/10.1007/978-0-387-21706-2