L’analyse des conduites humaines, des processus cognitifs et des états affectifs confronte traditionnellement la psychométrie et la modélisation statistique à un défi épistémologique de premier ordre : la nature intrinsèquement non linéaire, dynamique et interactive des phénomènes psychologiques. Durant plusieurs décennies, le paradigme dominant de la recherche quantitative en sciences du comportement a reposé sur le modèle linéaire généralisé par moindres carrés ordinaires. Bien que cette approche ait conféré une structure analytique rigoureuse et facilement interprétable aux investigations empiriques, elle impose un ensemble de postulats d’une rigidité souvent incompatible avec la réalité biologique et psychique. Les comportements humains ne répondent que très rarement à des principes de proportionnalité stricte ; ils manifestent des seuils d’activation, des points d’inflexion, des paliers de saturation et des effets modérateurs locaux qui défient les formulations paramétriques classiques.
Face à ces limitations, les chercheurs ont longtemps oscillé entre deux écueils méthodologiques : d’un côté, le recours à des approximations polynomiales globales, génératrices d’artefacts mathématiques et d’instabilités numériques sévères ; de l’autre, l’adoption récente d’algorithmes d’apprentissage automatique opaques, tels que les forêts aléatoires ou les réseaux de neurones profonds, dont la structure en « boîte noire » compromet gravement l’exigence d’intelligibilité théorique indispensable à la psychologie clinique, cognitive et organisationnelle. Dans ce paysage méthodologique polarisé, les splines de régression adaptative multivariée (désignées sous l’acronyme MARS pour Multivariate Adaptive Regression Splines), introduites par le statisticien Jerome Friedman au début des années 1990, constituent une avancée conceptuelle majeure. Cette approche non paramétrique parvient à combiner la flexibilité d’ajustement des techniques d’apprentissage statistique les plus avancées avec la transparence analytique propre aux régressions linéaires par morceaux.
Le présent article propose une analyse approfondie des fondements théoriques, des mécanismes algorithmiques et des applications empiriques des modèles MARS au sein de la psychologie quantitative contemporaine. En explorant la décomposition du continuum des prédicteurs en fonctions de base charnières, la dynamique de sélection ascendante suivie d’un élagage régulé par la validation croisée généralisée, ainsi que la formalisation élégante des interactions multivariées, nous mettrons en lumière la manière dont cet outil statistique permet de dépasser les apories des modèles linéaires classiques tout en préservant une interprétabilité clinique et psychométrique optimale.
1. Les limites de la régression linéaire standard dans la recherche psychologique
1.1 Le postulat de linéarité face à la complexité des comportements humains
Le modèle de régression linéaire classique repose sur la formalisation mathématique Y = β0 + β1X + ε, où Y représente la variable dépendante observée, X le vecteur des prédicteurs, β0 l’ordonnée à l’origine, β1 le coefficient de pente globale et ε le terme d’erreur stochastique supposé indépendant et identiquement distribué selon une loi normale centrée d’écart-type constant. Ce formalisme implique une hypothèse structurale lourde de conséquences : la stricte proportionnalité de l’effet. Selon ce principe, chaque variation d’une unité sur l’échelle du prédicteur X entraîne invariablement une modification d’ampleur constante β1 sur l’espérance mathématique de la variable réponse Y, indépendamment de la position initiale du sujet sur le continuum psychométrique considéré.
Or, cette hypothèse d’homogénéité marginale contredit frontalement les fondements de la psychologie différentielle et cognitive. Les construits latents tels que l’intelligence fluide, la réactivité émotionnelle ou la tolérance au stress présentent des dynamiques sous-jacentes non monotones ou marquées par des zones de latence suivies d’accélérations brutales. Lorsque la linéarité est violée, l’estimation des paramètres par les moindres carrés ordinaires souffre d’un biais systématique d’ajustement. Le modèle moyen produit un sous-ajustement structurel qui masque la véritable configuration fonctionnelle reliant les variables, compressant artificiellement l’ampleur des effets aux extrêmes de la distribution.
Les données empiriques illustrent abondamment ces défaillances. Dans l’étude du stress au travail, par exemple, la charge cognitive n’entraîne pas une dégradation linéaire continue des fonctions exécutives. Les individus présentent fréquemment une zone d’homéostasie au sein de laquelle une augmentation de la charge mentale n’a aucun impact détectable sur l’efficience opératoire, jusqu’à ce qu’un seuil critique de rupture soit atteint, provoquant une détérioration abrupte de la performance. De même, la relation entre le revenu économique et le bien-être subjectif obéit à la loi des rendements marginaux décroissants, documentée par le paradoxe d’Easterlin, où chaque dollar supplémentaire produit un bénéfice psychologique quasi nul au-delà d’un certain palier d’aisance matérielle. Forcer une droite de régression sur de telles données revient à biaiser gravement l’estimation de l’impact réel des déterminants environnementaux sur le fonctionnement psychique.
1.2 La défaillance des coefficients globaux face aux dynamiques locales
L’un des écueils majeurs inhérents à l’usage des coefficients de régression globaux réside dans leur incapacité fondamentale à discriminer les effets locaux différenciés au sein de populations hétérogènes sans recourir à une stratification a priori arbitraire. En agrégeant l’ensemble des observations dans une métrique de pente unique, la régression conventionnelle postule que le mécanisme sous-jacent est uniforme sur toute l’étendue de l’espace échantillonnal. Dès lors qu’une sous-population présente une vulnérabilité biologique ou psychologique accrue à des doses faibles d’un facteur stresseur, tandis qu’une autre manifeste une résilience prolongée avant décompensation, le coefficient global β1 constitue une moyenne pondérée abstraite qui ne décrit fidèlement aucun des groupes constitutifs de la cohorte.
Cette lacune statistique s’accompagne d’une sensibilité excessive des estimateurs globaux aux valeurs extrêmes et atypiques. En vertu de la minimisation de la somme des carrés des résidus, une poignée d’observations situées aux confins de la distribution multidimensionnelle peut exercer un bras de levier disproportionné sur la trajectoire de la droite de régression, modifiant artificiellement l’orientation de la pente pour l’ensemble du domaine de mesure. Ce phénomène engendre des distorsions prédictives majeures pour la vaste majorité des participants situés au centre de la distribution psychométrique.
De surcroît, le formalisme linéaire standard se heurte à une incapacité conceptuelle à modéliser les ruptures comportementales soudaines, les phénomènes d’hystérésis et les points de bascule psychologique. La transition entre un état affectif sain et un épisode dépressif majeur caractérisé ne s’opère que rarement par glissement graduel et symétrique. Elle s’apparente bien plus souvent à un changement de phase thermodynamique ou à une catastrophe mathématique, au sens de René Thom, au sein de laquelle une variation infinitésimale d’une variable de contrôle engendre un basculement qualitatif discontinu. Face à de telles transitions critiques, la rigidité d’une droite de régression globale s’avère méthodologiquement désarmée, contraignant le chercheur à ignorer la structure phénoménologique intime du fonctionnement psychologique.
1.3 La crise de spécification dans les modèles psychométriques observationnels
Dans le cadre des plans de recherche observationnels non randomisés, fréquemment déployés en psychologie clinique, sociale et du développement, l’inadéquation fonctionnelle se traduit par une crise chronique de spécification du modèle statistique. Lorsque la non-linéarité fondamentale du phénomène étudié est ignorée, les termes d’interaction et les composantes curvilinéaires omis sont mécaniquement réinjectés dans le terme d’erreur stochastique. Il en résulte un gonflement artificiel de la variance résiduelle, qui effondre la puissance statistique des tests d’hypothèse et conduit à des erreurs de type II fréquentes, amenant les chercheurs à rejeter à tort des associations théoriques pourtant robustes.
Pour tenter de pallier ces distorsions au sein du paradigme linéaire standard, les méthodologistes recourent de manière routinière à des transformations ad hoc des variables explicatives ou dépendantes, telles que les transformations logarithmiques, les fonctions inverses ou les transformations de Box-Cox. Bien que ces manipulations mathématiques puissent parfois rétablir l’homoscédasticité des résidus ou rapprocher leur distribution de la normalité, elles introduisent un coût interprétatif prohibitif. Les coefficients estimés cessent de s’exprimer sur l’échelle métrique naturelle des inventaires psychologiques standardisés, rendant la communication des résultats aux praticiens et l’intégration dans des méta-analyses particulièrement périlleuses.
Ce bricolage paramétrique met en relief la nécessité urgente d’une transition vers des méthodologies d’apprentissage statistique automatisées, flexibles et inductives. Plutôt que de contraindre la réalité psychologique à se plier aux exigences mathématiques rigides d’une équation postulée arbitrairement par l’investigateur, il convient d’adopter des algorithmes capables d’extraire la géométrie fonctionnelle des relations directement à partir des régularités empiriques contenues dans les données, tout en fournissant une formalisation mathématique intelligible et parcimonieuse. C’est précisément à cette exigence épistémique que répondent les splines de régression adaptative multivariée.
2. Les impasses de la régression polynomiale face aux non-linéarités
2.1 La formulation polynomiale et la prolifération des degrés de liberté
Face à l’insuffisance flagrante de la droite linéaire, la régression polynomiale a longtemps constitué la réponse technique par défaut dans les manuels de psychologie quantitative. L’extension du modèle linéaire par l’introduction de puissances successives d’une variable prédictive s’exprime selon la formule générale d’ordre h : Y = β0 + β1X + β2X^2 + … + βhX^h + ε. Au premier abord, cette approche présente l’avantage séduisant de demeurer dans le giron mathématique de la régression linéaire générale, autorisant une estimation sans heurts par la méthode classique des moindres carrés ordinaires tout en intégrant des courbures dans la trajectoire estimée.
Toutefois, cette apparente simplicité analytique se heurte immédiatement au fléau de la dimensionnalité dès lors que l’on manipule plusieurs prédicteurs simultanément, configuration presque universelle dans l’évaluation psychologique. L’inclusion conjointe des puissances d’ordre supérieur et de l’ensemble des termes de produits croisés (interactions d’ordres variés) entraîne une prolifération combinatoire du nombre de paramètres à estimer. Dans un plan d’investigation comportant dix dimensions de la personnalité et autorisant des polynômes d’ordre trois avec interactions, le nombre de degrés de liberté consommés devient prohibitif, excédant rapidement la taille d’échantillon des cohortes cliniques habituelles.
Parallèlement à cette inflation paramétrique, la régression polynomiale souffre d’un obscurcissement herméneutique direct. Si un terme quadratique (X^2) conserve une signification intuitive claire en psychologie, matérialisant par exemple une relation en U ou en U inversé, l’interprétation théorique de termes cubiques (X^3), quartiques (X^4) ou quintiques (X^5) s’avère quasiment impossible à relier à des processus psychiques fondés. Les chercheurs se trouvent réduits à manipuler des abstractions géométriques dénuées de validité conceptuelle, compromises par une multicolinéarité structurelle sévère entre les termes polynomiaux successifs, même après centrage des variables.
2.2 Le surajustement pathologique au-delà des degrés faibles
L’accroissement de l’ordre polynomial h induit inéluctablement une dégradation de la capacité de généralisation du modèle, conséquence directe d’un phénomène de surajustement (overfitting) pathologique. Au fur et à mesure que le degré du polynôme augmente, la fonction mathématique gagne en flexibilité au point d’épouser scrupuleusement les fluctuations aléatoires propres à l’échantillon d’observation, confondant le bruit statistique stochastique avec le signal psychologique fondamental. La minimisation mécanique de la somme des erreurs résiduelles intra-échantillon se traduit alors par une perte dramatique d’adéquation lorsque le modèle est confronté à de nouvelles observations indépendantes.
Cette instabilité s’illustre de manière spectaculaire lors des analyses de validation croisée. Des modèles polynomiaux d’ordre élevé ajustés sur un sous-échantillon d’apprentissage manifestent régulièrement une explosion de leur erreur quadratique moyenne de prédiction lorsqu’ils sont appliqués à un échantillon de validation. Les estimations oscillent frénétiquement entre les points nodaux de mesure, produisant des trajectoires prédictives fantaisistes qui dénaturent la compréhension des trajectoires développementales ou thérapeutiques.
Conscients de cette vulnérabilité intrinsèque, les méthodologistes recommandent classiquement de brider empiriquement le degré polynomial h à des valeurs comprises strictement entre deux et quatre. Néanmoins, cette prescription de prudence technique place le chercheur dans une impasse analytique : si un degré faible prémunit contre le surapprentissage délétère, il s’avère structurellement impuissant à capturer des non-linéarités complexes et asymétriques, telles que des croissances exponentielles soudaines émergeant après de longs plateaux d’invariance, configuration courante dans l’acquisition du langage ou la décompensation névrotique.
2.3 L’imposition restrictive d’une fonction globale sur l’espace des données
L’obstacle rédhibitoire de la modélisation polynomiale réside dans son caractère non localisé. Une fonction polynomiale est une entité mathématique globale : chaque observation du jeu de données contribue à déterminer la valeur de chaque coefficient βh, lesquels conditionnent simultanément l’intégralité de la courbe sur l’ensemble du domaine de définition. Cette interconnexion structurelle engendre ce que l’on peut qualifier d’« effet papillon statistique » : l’adjonction ou la modification de quelques points situés à l’extrémité supérieure de l’axe des abscisses entraîne une altération mécanique immédiate de la trajectoire estimée à l’extrémité inférieure.
Cette interdépendance globale engendre le célèbre phénomène de Runge, bien documenté en analyse numérique. Lorsqu’on ajuste un polynôme de degré élevé sur un ensemble d’intervalles équidistants, des oscillations sauvages apparaissent inévitablement aux frontières extérieures du domaine de prédiction. En contexte psychologique, cela signifie que la tentative d’ajuster précisément un comportement atypique chez des sujets présentant des scores très élevés sur une échelle clinique détruit la justesse de l’ajustement pour les sujets se situant dans la norme moyenne.
La régression polynomiale échoue ainsi à instaurer une étanchéité régionale le long du continuum psychométrique. Dans l’étude des stades du développement cognitif piagétien ou des transitions émotionnelles, ce dont le chercheur a besoin est un formalisme mathématique capable d’opérer des ajustements localisés et indépendants : une fonction capable d’épouser un plateau horizontal stable sur une portion de l’échelle, d’opérer une transition abrupte à un emplacement précis du continuum, puis d’adopter une pente ascendante modérée sur le segment subséquent, sans que ces différentes dynamiques ne viennent interférer destructivement les unes avec les autres.
3. Genèse et architecture conceptuelle des splines de régression adaptative multivariée
3.1 L’héritage algorithmique de Jerome Friedman et la rupture non paramétrique
Pour surmonter le dilemme paralysant opposant la rigidité réductrice des modèles linéaires paramétriques et l’instabilité oscillatoire des polynômes globaux, le mathématicien et statisticien américain Jerome H. Friedman a publié en 1991 dans la revue de référence The Annals of Statistics un article séminal intitulé « Multivariate Adaptive Regression Splines ». Cette contribution a marqué une rupture paradigmatique dans le champ de la modélisation statistique non paramétrique en proposant une synthèse algorithmique rigoureuse entre deux approches jusqu’alors disjointes : la théorie des splines mathématiques et les techniques de partitionnement récursif popularisées par les arbres de classification et de régression (CART).
Traditionnellement, les splines de régression nécessitaient la fixation manuelle et préalable de points d’articulation (appelés « nœuds » ou knots), une contrainte rédhibitoire qui cantonnait leur usage à des problèmes univariés ou à des plans où la position des seuils critiques était connue a priori avec certitude. À l’inverse, les arbres de régression de type CART identifiaient automatiquement des seuils discriminants dans des espaces multidimensionnels, mais au détriment de la régularité mathématique, produisant des surfaces de réponse discontinues constituées de paliers en marches d’escalier, conceptuellement insatisfaisantes pour modéliser des construits psychologiques continus.
L’innovation fondamentale de Friedman a consisté à fusionner l’élégance de la continuité des splines avec l’efficacité de la recherche adaptative locale de CART. L’algorithme MARS a ainsi résolu de manière élégante le dilemme classique biais-variance. Au lieu d’imposer une forme fonctionnelle rigide dictée par un a priori théorique potentiellement erroné ou d’abandonner toute transparence au profit d’un réseau opaque de neurones artificiels, MARS confie aux données empiriques le soin de dicter l’architecture locale du modèle à travers une formulation algébrique explicite et directement décomposable.
3.2 Le concept de modélisation par morceaux linéaires continus
Le cœur conceptuel de la méthode MARS repose sur le partitionnement adaptatif de l’espace multidimensionnel des variables explicatives en une série de sous-régions connectées au sein desquelles les relations sont approximées par des segments linéaires distincts. Cette approche par morceaux linéaires (piecewise linear modeling) permet d’approcher n’importe quelle surface fonctionnelle arbitrairement complexe, qu’elle soit concave, convexe, sigmoïdale ou multimodale, avec un degré de précision remarquable, par une succession de droites jointives.
La force mathématique déterminante de ce dispositif réside dans la garantie absolue d’une continuité topologique stricte aux frontières communes séparant les sous-régions adjacentes. Contrairement aux approches par arbres décisionnels qui introduisent des sauts discrets brutaux lorsqu’un sujet franchit un seuil psychométrique d’un centième de point, la modélisation MARS assure que la trajectoire estimée ne présente aucune rupture physique. Deux individus situés de part et d’autre d’un point d’articulation critique obtiendront des prédictions infinitésimalement proches, préservant ainsi la cohérence phénoménologique des gradients de mesure.
Cette modélisation par segments reliés offre une analogie formelle frappante avec les théories psychologiques développementales et psychopathologiques. Elle permet de matérialiser fidèlement l’existence de stades discrets au cours desquels un individu opère sous une logique homéostatique stable régie par une pente donnée, avant qu’un événement développemental ou un niveau d’exposition traumatique critique ne vienne infléchir durablement le mode de fonctionnement psychique sur le segment subséquent. Le modèle ne force pas la transition à s’opérer de façon lisse et symétrique comme le ferait un polynôme, mais autorise l’émergence d’une véritable angulation marquant le passage d’un régime fonctionnel à un autre.
3.3 L’avantage adaptatif : automatisation de la découverte des seuils critiques
L’attribut « adaptatif » confère à MARS sa supériorité opérationnelle majeure : la découverte endogène des nœuds optimaux pilotée de manière purement empirique par la distribution des données. Dans la recherche en psychologie clinique, la détermination des seuils de vulnérabilité ou des limites diagnostiques procède trop fréquemment d’accords inter-juges conventionnels ou de découpages statistiques arbitraires (tels que la médiane, les tertiles ou des déviations standard standardisées). Ces démarches normatives a priori risquent d’imposer des bornes artificielles déconnectées de la structure réelle des distributions psychologiques sous-jacentes.
L’algorithme MARS balaie systématiquement l’éventail complet des valeurs observées pour chaque variable prédictive afin d’identifier mathématiquement l’emplacement exact où un changement de pente produit le gain le plus substantiel dans la réduction de l’erreur résiduelle globale. Ce processus d’optimisation automatisé permet de révéler des seuils d’alerte cliniques ou des points de rupture développementaux insoupçonnés par le chercheur, guidant la théorisation psychologique à partir des régularités observées.
Cette capacité d’adaptation endogène confère aux modèles MARS une robustesse singulière face à l’hétérogénéité des cohortes évaluées. Qu’une population clinique présente des profils de réponse asymétriques, des queues de distribution épaisses ou des concentrations d’observations dans des zones spécifiques de l’espace des prédicteurs, l’algorithme adapte la densité de ses nœuds aux variations locales de la densité de données. Il alloue dynamiquement davantage de paramètres là où la complexité relationnelle l’exige, tout en conservant une structure parcimonieuse sur les segments où les comportements demeurent stables et linéaires.
4. Les fonctions de base charnières : mécanique mathématique fondamentale
4.1 Définition et morphologie de la fonction miroir
L’édifice mathématique de MARS repose sur une famille élémentaire de fonctions non linéaires appelées fonctions charnières (en anglais hinge functions, ou fonctions en « bâton de hockey » en raison de leur morphologie géométrique). Pour toute valeur seuil réelle t située sur le domaine de variation d’une variable continue X, la fonction charnière unilatérale positive est définie formellement par l’opérateur : (x – t)+ = max(0, x – t). Réciproquement, la fonction charnière unilatérale négative s’exprime sous la forme : (t – x)+ = max(0, t – x).
Ces deux fonctions constituent ce que l’on nomme une paire miroir (ou paire réfléchie) associée au nœud t. L’analyse de leur comportement analytique révèle une propriété essentielle : sur l’intervalle où la condition d’activation n’est pas satisfaite, la fonction prend identiquement la valeur zéro, se comportant comme un filtre annihilateur. Dès lors que la variable X franchit le seuil critique t, la fonction adopte instantanément un comportement linéaire strict de pente unitaire par rapport à l’argument décalé. Le nœud t matérialise donc géométriquement l’inflexion où la dérivée première de la fonction présente une discontinuité de saut fini.
L’intérêt de regrouper ces fonctions par paires réside dans leur complémentarité spatiale. La composante max(0, x – t) permet d’estimer un effet spécifique qui ne se manifeste qu’au-delà du seuil t, tandis que la composante max(0, t – x) isole une dynamique qui n’opère qu’en deçà de ce même seuil. En combinant linéairement ces fonctions affectées de coefficients régressifs appropriés, le modèle peut générer n’importe quelle configuration géométrique continue : un V inversé pointu, un palier nul suivi d’une montée linéaire, ou deux segments linéaires de pentes différentes raccordés continûment au point d’articulation t.
4.2 Construction de la base de fonctions pour un ensemble de données
Dans un contexte d’analyse statistique multivariée impliquant un échantillon de N participants mesurés sur p variables prédictives continues X1, X2, …, Xp, MARS procède à l’initialisation d’un espace de recherche englobant l’ensemble des partitions locales potentielles. L’algorithme positionne un nœud candidat potentiel à chaque valeur empirique distincte observée xij (pour l’individu i sur la variable j). Pour chaque point de donnée et chaque prédicteur, une paire miroir complète est générée dans l’espace fonctionnel candidat.
L’ensemble fondamental des fonctions de base candidates, formellement désigné par l’ensemble C, se définit comme l’union de toutes les paires charnières possibles sur l’ensemble des dimensions prédictives : C = { (Xj – t)+ , (t – Xj)+ } pour tout t appartenant à l’ensemble des valeurs observées {xj1, xj2, …, xjN} et pour tout index de variable j compris entre 1 et p. La dimensionnalité de cet espace initial de recherche est considérable : elle atteint rigoureusement 2 * N * p fonctions candidates distinctes.
Bien que ces fonctions ne soient pas différentiables au sens strict en leur nœud t (la dérivée à gauche étant nulle et la dérivée à droite valant un pour la composante unilatérale positive), elles satisfont pleinement aux conditions de régularité de Lipschitz et garantissent une continuité absolue C0 sur l’intégralité de l’espace topologique. Cette propriété mathématique assure la stabilité globale de l’estimation tout en évitant les phénomènes d’emballement polynomial observés lors des dérivations successives d’ordres élevés.
4.3 Traduction psychologique de la fonction charnière
L’architecture de la fonction charnière offre une correspondance conceptuelle remarquable avec plusieurs paradigmes fondamentaux de la psychologie contemporaine. En premier lieu, elle formalise avec une clarté mathématique absolue le concept de seuil d’activation ou de latence sensorielle et cognitive. En psychophysique ou en neuropsychologie, un stimulus environnemental n’induit fréquemment aucune réponse comportementale observable tant que son intensité demeure inférieure à un seuil critique d’excitabilité membranaire ou attentionnelle. La fonction max(0, x – t) modélise fidèlement cette zone d’invisibilité fonctionnelle où les incréments de stimulation se heurtent à une valeur nulle du prédicteur transformé.
En second lieu, la composante miroir permet de modéliser avec précision l’épuisement des ressources attentionnelles ou l’effondrement de l’autorégulation émotionnelle selon les théories du ego depletion. Un individu peut tolérer une accumulation continue de tracas quotidiens mineurs sans que sa santé psychique ne s’altère, le système maintenant son intégrité adaptative jusqu’à ce que la capacité de réserve cognitive soit submergée, point au-delà duquel chaque tracas additionnel génère une élévation abrupte de l’anxiété clinique.
Enfin, la fonction charnière constitue le véhicule formel idéal pour opérationnaliser le modèle vulnérabilité-stress (ou diathèse-stress) en psychopathologie développementale. Selon ce modèle, la présence d’une prédisposition génétique ou d’un trait de personnalité névrotique ne produit aucun effet délétère en l’absence de déclencheurs environnementaux. Dès lors que l’adversité environnementale X dépasse le seuil critique t, la diathèse s’active et la trajectoire psychopathologique s’infléchit brutalement selon la pente du terme charnière, formalisant l’inégalité fondamentale des trajectoires individuelles face à l’épreuve.
5. La phase de sélection ascendante (algorithme d’expansion avant)
5.1 Initialisation du modèle et recherche gloutonne itérative
La construction empirique d’un modèle MARS procède par une démarche en deux temps hautement asymétrique, dont le premier volet est l’algorithme d’expansion avant (forward pass). Cette phase adopte une stratégie d’optimisation combinatoire dite gloutonne (greedy algorithm). Le modèle s’initialise dans sa configuration la plus rudimentaire, à savoir le modèle nul ne comportant qu’un unique terme constant d’interception : f0(X) = β0, où β0 est simplement estimé par la moyenne empirique de la variable réponse Y sur l’ensemble de l’échantillon d’entraînement.
À chaque itération de la boucle ascendante, l’algorithme explore de manière exhaustive l’ensemble des paires de fonctions charnières candidates issues du catalogue C, en les associant à chacun des termes déjà incorporés au modèle. Pour chaque prédicteur Xj et chaque nœud potentiel t, l’algorithme évalue l’adjonction de la paire miroir {βm1 * Bm(X) * max(0, Xj – t) + βm2 * Bm(X) * max(0, t – Xj)}, où Bm(X) représente une fonction de base préexistante dans le modèle (qui peut être la fonction constante 1 pour un effet principal univarié).
L’algorithme retient souverainement la paire de fonctions qui produit la plus forte diminution de la somme des carrés des erreurs résiduelles (SSE, pour Sum of Squared Errors) : SSE = ∑ [yi – f(xi)]^2. Les coefficients β associés sont réestimés conjointement par régression linéaire standard aux moindres carrés ordinaires. Ce processus s’exécute itérativement, ajoutant deux nouvelles fonctions de base à chaque cycle, découpant progressivement l’espace multidimensionnel en cellules de plus en plus fines.
5.2 Multiplication récursive des termes de base
La dimension véritablement novatrice de l’expansion avant réside dans son potentiel de multiplication récursive des termes de base. L’algorithme ne se limite pas à ajouter des paires charnières opérant sur des prédicteurs isolés ; il possède la faculté mathématique de greffer une nouvelle paire charnière sur une fonction de base Bm(X) préalablement validée lors d’une étape antérieure. Ce mécanisme engendre des produits tensoriels de fonctions charnières qui délimitent des interactions hautement localisées.
Grâce à cette récursivité, l’espace dimensionnel de régression s’étend de façon ciblée. Si une première fonction B1(X) = max(0, X1 – 35) a capturé un effet d’âge critique au-delà de 35 ans, l’algorithme peut, à l’itération suivante, multiplier ce terme par une nouvelle charnière dépendante d’une autre variable, par exemple max(0, 15 – X2) où X2 représente le niveau de soutien social perçu. Le terme résultant B2(X) = max(0, X1 – 35) * max(0, 15 – X2) n’exercera son influence que dans la région spécifique de l’espace où le sujet est à la fois âgé de plus de 35 ans et bénéficiaire d’un soutien social inférieur au seuil de 15 unités.
Cette expansion dynamique se poursuit jusqu’à l’atteinte d’un critère d’arrêt préalablement programmé par le statisticien. Deux conditions principales déclenchent l’interruption de la phase avant : soit l’atteinte d’un nombre maximal prédéfini de fonctions de base (Mmax), généralement calibré entre 20 et 50 termes en fonction de la taille de l’échantillon, soit l’abaissement du gain marginal d’ajustement en deçà d’un seuil infinitésimal prédéterminé, signalant que l’adjonction de nouvelles charnières n’améliore plus la variance expliquée que de manière insignifiante.
5.3 Le statut délibéré de surajustement à l’issue de l’étape avant
Au terme de cette phase ascendante, le modèle MARS résultant présente un statut épistémologique particulier : il est délibérément et massivement surajusté (overfitted). Ayant exploré des milliers de configurations de nœuds potentielles et empilé des dizaines de fonctions de base sans pénalisation explicite de la complexité, l’algorithme a capturé non seulement les régularités structurales authentiques unissant les construits psychologiques, mais également les corrélations fortuites, les bruits de mesure et les singularités idiosyncrasiques propres à l’échantillon collecté.
Cette sensibilité au bruit d’échantillonnage psychologique est particulièrement aiguë dans les contextes où les instruments de mesure présentent une fidélité modérée, comme les échelles projectives ou les inventaires auto-rapportés affectés de biais de désirabilité sociale. Si le chercheur arrêtait la démarche méthodologique à ce stade, le modèle offrirait une valeur scientifique quasi nulle, se révélant incapable de réplication sur une cohorte clinique indépendante en raison d’une variance d’échantillonnage explosive.
Toutefois, cette surexpansion préalable est un choix méthodologique pleinement assumé et théorisé par Jerome Friedman. Dans une perspective heuristique d’optimisation non linéaire, il est considérablement plus aisé et robuste d’engendrer un modèle délibérément trop complexe capturant de manière exhaustive l’ensemble des interactions potentielles dans un premier temps, pour ensuite procéder à un élagage chirurgical rigoureux des composantes superflues, plutôt que de tenter de deviner a priori la juste complexité du modèle à travers une procédure d’adjonction contrainte dès le départ.
6. La phase d’élagage descendant (algorithme de simplification arrière)
6.1 Mécanisme d’élimination progressive des termes les moins contributifs
Pour remédier au surajustement généré lors de la phase ascendante, l’algorithme MARS déploie une seconde phase symétrique et corrective : l’élagage descendant (backward pruning pass). Ce processus opère selon une logique de désélection pas à pas hautement sélective. Partant du modèle saturé contenant l’intégralité des Mmax termes construits au cours de l’étape avant, l’algorithme évalue l’impact sur la dégradation du critère d’ajustement de la suppression successive de chaque fonction de base prise individuellement.
À chaque itération descendante, le terme dont le retrait entraîne la plus faible augmentation de la somme des carrés des erreurs résiduelles (SSE) est définitivement banni de l’équation. Une particularité technique fondamentale de cette étape réside dans le fait que les paires miroirs formées lors de la phase ascendante peuvent désormais être dissociées. L’algorithme a toute latitude pour supprimer la composante max(0, t – Xj) tout en maintenant dans le modèle final son pendant max(0, Xj – t), s’il s’avère que l’effet psychologique n’existe véritablement que d’un seul côté du seuil critique identifié.
Cette élimination progressive génère une séquence ordonnée et déterministe de sous-modèles emboîtés, partant de la structure la plus complexe (de dimension Mmax) jusqu’au modèle le plus rudimentaire ne contenant que la constante d’interception β0. Chaque étape de cette séquence représente le sous-modèle structurellement optimal pour un nombre donné de fonctions de base fixé à K (où K décroît de Mmax à 1). Il reste alors à déterminer de manière rigoureuse lequel de ces modèles intermédiaires réalise le compromis parfait entre précision descriptive et parcimonie explicative.
6.2 Différenciation structurelle avec l’élagage des arbres CART
Bien que l’algorithme d’élagage de MARS s’inspire sur le plan conceptuel du mécanisme de taille des arbres de décision développé dans le système CART de Breiman et ses collaborateurs, des dissemblances structurales profondes séparent les deux approches. Dans un arbre de régression binaire, la suppression d’un nœud de décision interne entraîne inéluctablement l’amputation de tout le sous-arbre sous-jacent, effaçant d’un coup l’ensemble des interactions complexes qui y étaient imbriquées et créant des discontinuités de surface substantielles.
À l’inverse, l’élagage MARS jouit d’une granularité analytique infiniment plus subtile. Une fonction d’interaction d’ordre deux peut être éliminée du modèle sans pour autant que les effets linéaires par morceaux principaux qui lui ont servi de matrice ne soient altérés. Mieux encore : si les deux composantes d’une paire charnière sont élaguées au profit d’une combinaison linéaire préservée, le modèle MARS peut dégénérer localement en une régression linéaire standard pure, réconciliant ainsi l’analyse non paramétrique avec le formalisme classique lorsque les données confirment l’absence locale de non-linéarité.
De surcroît, l’élagage préserve scrupuleusement la continuité topologique globale du modèle à chaque étape de la réduction. Alors que l’élagage dans CART ne fait que recombiner des blocs rectangulaires discontinus pour former des pavés de plus grande taille mais toujours disjoints aux frontières, l’élagage MARS aboutit à une fonction mathématique globale analytiquement fermée, continûment différentiable presque partout, directement intégrable et immédiatement communicable sous la forme d’une équation paramétrique explicite dans les publications scientifiques.
6.3 Préservation de la puissance statistique dans les cohortes restreintes
L’intérêt de cette procédure d’élagage s’avère particulièrement prononcé dans le contexte des protocoles de recherche en psychologie clinique ou en neuro-imagerie fonctionnelle, où les contraintes éthiques, logistiques et financières limitent fréquemment la taille des cohortes à quelques dizaines ou centaines de participants (N compris entre 50 et 300). Dans de telles conditions d’échantillonnage restreint, l’estimation de modèles non linéaires non contraints se solde habituellement par une perte dramatique de puissance statistique ou par l’apparition d’artefacts d’échantillonnage invalidants.
L’élagage descendant de MARS agit comme un puissant filtre régulateur. En retranchant sans concession l’ensemble des fonctions de base qui n’apportent qu’un gain marginal instable sur l’échantillon d’apprentissage, il réduit radicalement le nombre effectif de paramètres libres estimés. Le modèle final conserve un rapport nombre d’observations sur nombre de paramètres hautement favorable, restaurant la puissance des tests inférentiels ultérieurs et préservant les degrés de liberté nécessaires à une estimation robuste de la variance de l’erreur.
Cette condensation paramétrique stabilise considérablement les estimateurs finaux face aux aléas du rééchantillonnage. Contrairement aux approches par réseaux profonds qui exigent des dizaines de milliers d’observations pour stabiliser leurs millions de poids synaptiques, MARS extrait la substantifique moelle relationnelle à partir de cohortes modestes, offrant aux psychopathologues et aux spécialistes de la petite enfance un instrument de modélisation non linéaire d’une précision méthodologique inédite.
7. Le critère de validation croisée généralisée (GCV) comme régulateur
7.1 Fondement mathématique et pénalisation de la complexité
Pour orchestrer la phase d’élagage descendant et sélectionner le modèle final optimal parmi la séquence des sous-modèles candidats, l’algorithme MARS ne peut pas s’appuyer sur la simple somme des carrés des erreurs résiduelles (SSE), celle-ci favorisant aveuglément les modèles les plus complexes. L’arbitrage exige un critère de régularisation qui pénalise de manière rigoureuse la complexité structurelle. Friedman a retenu à cet effet une adaptation brillante du critère de validation croisée généralisée (GCV, pour Generalized Cross-Validation), originellement formulé par Grace Wahba et ses collègues.
Le score GCV associé à un sous-modèle M donné comportant un effectif de termes retenus se calcule formellement selon l’expression mathématique :
GCV(M) = [ (1 / N) * SSE ] / [ 1 – ( C(M) / N ) ]^2
Dans cette formulation, N représente l’effectif total de l’échantillon d’entraînement, SSE désigne la somme des carrés des erreurs résiduelles du modèle M évalué, et C(M) représente la fonction de complexité effective, qui mesure le coût statistique global des paramètres mobilisés par le modèle.
La composante C(M) fait l’objet d’une attention méthodologique cruciale. Elle ne se limite pas à comptabiliser le nombre de paramètres linéaires linéairement indépendants estimés par moindres carrés (noté r). Elle intègre impérativement un terme additif de pénalisation destiné à compenser le coût combinatoire exorbitant induit par la recherche gloutonne des emplacements optimaux des nœuds lors de la phase ascendante. Cette pénalité de recherche s’exprime selon la décomposition : C(M) = r + d * K, où K représente le nombre total de nœuds charnières sélectionnés dans le modèle M, et d est un hyperparamètre de pénalisation de lissage. Ce facteur d compense l’optimisme statistique lié à la sélection endogène des frontières régionales.
7.2 Approximation computationnelle efficiente du ‘Leave-One-Out’
La puissance du critère GCV réside dans sa nature asymptotique : il constitue une approximation analytique fermée et extraordinairement véloce de la validation croisée unitaire complète dite « Leave-One-Out » (LOO-CV). Dans une validation croisée unitaire classique, l’analyste devrait théoriquement ajuster le modèle N fois distinctes, en omettant à chaque cycle un participant différent pour mesurer son erreur de prédiction hors-échantillon, procédure dont le coût computationnel s’avère rédhibitoire sur de grands jeux de données psychométriques.
Grâce à la dérivation matricielle du projecteur d’ajustement (la matrice chapeau H), le GCV estime la variance de généralisation hors-échantillon sans nécessiter le moindre réajustement itératif du modèle. Le dénominateur de l’équation GCV, à travers le terme au carré [1 – C(M)/N]^2, applique une correction mathématique qui amplifie artificiellement l’erreur résiduelle apparente à mesure que le nombre effectif de paramètres C(M) se rapproche de la taille d’échantillon N.
Cette économie algorithmique confère à MARS une scalabilité computationnelle remarquable. Les cohortes contemporaines en bio-statistique et en épidémiologie psychiatrique, qui compilent fréquemment des dizaines de milliers d’individus mesurés sur des centaines d’indicateurs comportementaux et génomiques, peuvent faire l’objet d’un élagage complet en quelques secondes de calcul sur des architectures matérielles conventionnelles, tout en bénéficiant de la rigueur de contrôle d’une validation croisée exhaustive.
7.3 Sélection du modèle optimal final via le score GCV minimal
La désignation du modèle définitif résulte d’une minimisation pure et simple du critère : l’algorithme parcourt l’intégralité de la séquence d’élagage et retient le modèle structurel M* qui minimise la métrique GCV(M). Cette règle de décision automatisée élimine tout arbitraire humain dans le choix de la complexité finale de la régression, instaurant un arbitrage optimal entre le risque de sous-ajustement (qui se manifeste par un SSE résiduel élevé au numérateur) et le risque de surajustement (qui induit un effondrement du dénominateur par pénalisation de C(M)).
L’hyperparamètre d joue un rôle de curseur épistémologique fondamental dans cette sélection. Des investigations empiriques et des études de simulation approfondies menées par Friedman ont démontré qu’une valeur de d = 2 convient idéalement pour des configurations additives pures sans interaction. En revanche, dès lors que l’algorithme autorise la génération d’interactions d’ordre supérieur (produits tensoriels), les opportunités de surajustement combinatoire s’accroissent considérablement, justifiant l’élévation de la pénalité d à des valeurs comprises entre 2.5 et 3.5 pour préserver la parcimonie structurelle.
En pratique psychométrique, l’analyse comparée des scores GCV entre différents modèles rivaux offre au chercheur un indicateur synthétique de robustesse méthodologique. Elle permet de quantifier avec précision si l’introduction d’un point d’inflexion non linéaire ou d’une interaction complexe compense véritablement le coût paramétrique qu’elle induit, garantissant que chaque inflexion conservée dans l’équation finale correspond à une régularité écologique solide et reproductible.
8. Capture et formalisation des interactions multivariées d’ordre supérieur
8.1 Produits tensoriels de fonctions charnières
L’un des défis les plus redoutables de la modélisation statistique moderne réside dans la détection et l’interprétation des interactions modératrices entre multiples prédicteurs continus. Dans le modèle linéaire classique, l’analyste est contraint de spécifier manuellement des produits simples de variables (X1 * X2). Cette écriture implique l’hypothèse très restrictive que la pente de la relation entre Y et X1 varie de manière continue et strictement linéaire le long de tout le continuum de la variable modératrice X2, hypothèse rarement vérifiée empiriquement.
L’approche MARS contourne cette contrainte à travers la formalisation des produits tensoriels de fonctions charnières. Une interaction d’ordre deux s’y exprime sous la forme algébrique générale :
Binter(X) = β * max(0, Xj – tj) * max(0, Xk – tk)
ou sous l’une des trois autres configurations combinant des orientations unilatérales positives et négatives sur les deux dimensions concernées.
D’un point de vue géométrique, ce produit tensoriel ne s’applique pas à l’ensemble du plan multidimensionnel. Il découpe une surface d’interaction strictement confinée à un quadrant spatial borné par les coordonnées critiques (tj, tk). Partout ailleurs dans l’espace des données où l’une ou l’autre des conditions d’activation n’est pas satisfaite, le terme prend mathématiquement la valeur zéro. MARS permet ainsi de capturer ce que l’on nomme des interactions hyper-localisées, au sein desquelles deux dimensions psychologiques n’entrent en résonance que lorsque des seuils d’intensité spécifiques sont franchis simultanément.
8.2 Interactions modérées conditionnelles en psychologie
Cette flexibilité algébrique ouvre des perspectives théoriques fécondes pour la modélisation des processus psychologiques modérés conditionnels. Considérons, à titre d’illustration clinique, l’analyse conjointe de l’anxiété-trait et de la charge mentale sur la performance à une épreuve de mémoire de travail motrice complexe. Dans de nombreux contextes opérationnels, l’anxiété-trait n’exerce aucune influence délétère mesurable tant que la charge cognitive requise par la tâche demeure faible ou modérée ; les ressources d’attention compensatoire suffisent à neutraliser les pensées interférentes.
Un modèle linéaire multiplicatif classique peinerait à capturer ce phénomène sans biaiser l’estimation aux faibles charges cognitives. Le modèle MARS, en revanche, isolera automatiquement une interaction de la forme :
β * max(0, Charge – tCharge) * max(0, Anxiete – tAnxiete)
Cette formulation stipule explicitement que la dégradation de la performance motrice ne devient effective que lorsque la charge dépasse un seuil tCharge ET que, simultanément, l’anxiété de l’opérateur excède son seuil critique individuel tAnxiete. En deçà de ce nœud cognitif, le terme s’annule identiquement, isolant la dynamique locale du comportement.
De telles interactions conditionnelles locales sont omniprésentes dans l’étude des traits de personnalité, des dynamiques d’attachement chez l’adulte et des mécanismes de régulation émotionnelle. L’algorithme MARS s’affranchit ainsi du réductionnisme inhérent aux produits polynomiaux globaux en autorisant la modélisation de synergies fonctionnelles qui ne se manifestent que dans des conditions environnementales ou neurobiologiques particulières.
8.3 Prévention de l’explosion combinatoire dans les plans multidimensionnels
Si la récursivité mathématique autorise en théorie l’algorithme MARS à empiler des produits tensoriels jusqu’à un ordre arbitrairement élevé (ordre 3, 4 ou k), une telle prolifération mènerait inéluctablement au fléau de la dimensionnalité et à une perte irrémédiable d’intelligibilité théorique. Pour prévenir cette dérive dans la pratique de la recherche psychologique, une contrainte structurelle paramétrique doit être imposée en amont par l’analyste : la fixation du degré d’interaction maximal admissible (généralement désigné par le paramètre degree dans les implémentations logicielles).
Dans l’immense majorité des applications psychométriques, il est rigoureusement recommandé de contraindre le modèle à un degré d’interaction maximal de deux (modèles bivariés), voire de se limiter délibérément à un modèle strictement additif de degré un lorsque la taille d’échantillon est restreinte. Un modèle MARS bridé à l’ordre deux restreint l’espace de recherche aux termes de la forme B(Xj) et B(Xj) * B(Xk), interdisant les produits tripartites.
Cette restriction méthodologique présente un triple avantage :
- Elle endigue l’explosion du nombre de fonctions candidates lors de la phase d’expansion avant, maintenant un temps d’exécution algorithmique quasi instantané.
- Elle garantit une protection efficace contre le surajustement des interactions complexes d’ordre élevé, particulièrement instables dans les données observationnelles bruitées.
- Elle préserve une lisibilité phénoménologique totale du modèle final : chaque interaction d’ordre deux identifiée peut être représentée sous la forme d’une surface tridimensionnelle claire et confrontée aux cadres conceptuels existants de la psychologie différentielle.
9. Interprétabilité du modèle et mesure de l’importance des variables
9.1 Décomposition ANOVA du modèle MARS estimé
L’une des vertus méthodologiques cardinales de MARS, qui le distingue avantageusement des techniques d’apprentissage automatique opaques de type « boîte noire », est sa capacité intrinsèque à se décomposer analytiquement sous une forme isomorphe à une analyse de variance (ANOVA). Une fois le modèle final élagué et stabilisé, ses multiples fonctions de base charnières peuvent être regroupées et réordonnées algébriquement selon leur degré d’implication dimensionnelle.
L’équation globale s’exprime alors selon la décomposition canonique suivante :
f(X) = β0 + ∑ fj(Xj) + ∑ fjk(Xj, Xk) + ∑ fjkl(Xj, Xk, Xl) + …
Dans cette structure fonctionnelle :
- Le premier terme β0 représente l’interception globale constante du modèle.
- Chaque composante univariée fj(Xj) regroupe l’ensemble des fonctions de base charnières ne dépendant strictement que de la seule variable prédictive Xj, isolant ainsi l’effet principal non linéaire complet de ce prédicteur.
- Chaque composante bivariée fjk(Xj, Xk) rassemble les produits tensoriels faisant intervenir conjointement les variables Xj et Xk, isolant rigoureusement la contribution spécifique de leur interaction non linéaire, débarrassée de leurs effets additifs principaux respectifs.
Cette présentation offre un schéma d’intelligibilité particulièrement familier aux chercheurs formés aux plans factoriels traditionnels. Elle permet de quantifier avec rigueur la part de variance globale expliquée attribuable d’une part aux composantes additives isolées, et d’autre part aux effets interactifs non linéaires, facilitant la communication des conclusions empiriques au sein de la communauté académique.
9.2 Métriques standardisées d’importance relative des prédicteurs
La simple inspection visuelle des coefficients régressifs β ne suffit pas à évaluer l’importance substantielle d’un prédicteur au sein d’un modèle MARS, car une même variable peut intervenir dans de multiples fonctions charnières dotées d’étendues de support locales très divergentes. Pour résoudre cette difficulté, MARS met à disposition trois métriques d’importance relative complémentaires et objectives, standardisées sur une échelle de 0 à 100.
La première métrique, purement structurelle, repose sur le critère nsubsets : elle quantifie le nombre de sous-modèles optimaux emboîtés générés au cours de la phase d’élagage descendant qui incluent au moins une fonction de base faisant appel à la variable examinée. Un prédicteur omniprésent dans tous les sous-modèles, du plus complexe jusqu’aux structures les plus élaguées, démontre une robustesse statistique fondamentale.
Les deux autres métriques reposent sur une logique d’omission contrefactuelle. L’algorithme réestime la performance du modèle en supprimant rétrospectivement toutes les fonctions de base associées au prédicteur cible :
- Le critère GCV mesure l’augmentation relative du score de validation croisée généralisée consécutive au retrait de ces fonctions. Le prédicteur provoquant la plus forte détérioration du GCV est désigné comme le moteur prédictif primaire.
- Le critère RSS (ou SSE) quantifie quant à lui la dégradation directe de la somme des résidus au carré sur l’échantillon d’apprentissage.
Ce triptyque de métriques offre une hiérarchisation robuste de l’influence relative des différentes dimensions évaluées, permettant par exemple d’isoler avec certitude quels construits de la personnalité pèsent de manière prépondérante dans l’explication d’une trajectoire psychopathologique.
9.3 Visualisation graphique des profils de réponse non linéaires
L’élucidation théorique des résultats d’un modèle MARS est grandement facilitée par la production d’outils de visualisation graphique transparents. Pour les composantes univariées du modèle, le tracé des profils de réponse (ou graphiques de dépendance partielle, Partial Dependence Plots) permet d’observer directement la forme de la relation non linéaire reliant la variable explicative à la variable d’intérêt, en maintenant l’ensemble des autres variables du système fixées à leur valeur moyenne.
Ces graphiques mettent en lumière de manière immédiate la position exacte des nœuds optimaux découverts par l’algorithme. L’investigateur identifie visuellement les plateaux d’invariance où la pente est rigoureusement horizontale, les zones d’accélération comportementale caractérisées par des angulations ascendantes, ainsi que les plafonds de saturation où la fonction retrouve une seconde invariance fonctionnelle. Cette cartographie visuelle démythifie la complexité mathématique sous-jacente et rend les inférences cliniquement tangibles.
Pour les composantes d’interaction bivariées, la projection sous la forme de diagrammes de surface tridimensionnels ou de cartes de contours topographiques offre une vue synoptique du paysage psychométrique. L’analyste observe comment la surface d’ajustement se vrille ou se plie dans l’espace multidimensionnel, révélant avec une netteté remarquable les zones d’amplification réciproque ou les paliers de neutralisation mutuelle entre dimensions psychologiques distinctes.
10. Applications emblématiques des modèles MARS en psychologie quantitative
10.1 Psychologie clinique et psychopathologie développementale
Le champ de la psychopathologie développementale et de la psychologie clinique fournit un terrain d’application privilégié pour la modélisation par splines adaptatives. L’un des apports majeurs de MARS dans ce domaine concerne la clarification de l’impact des traumatismes subis durant l’enfance sur la sévérité des troubles dépressifs et anxieux à l’âge adulte. Les modèles linéaires traditionnels postulent une relation cumulative continue, selon laquelle chaque expérience indésirable additionnelle augmente de façon constante le risque psychopathologique.
L’application de MARS à ces données a révélé des architectures bien plus complexes. Les analyses mettent fréquemment au jour un phénomène d’« inoculation psychologique » ou de résistance initiale : l’exposition à un nombre très limité d’événements stressants modérés ne produit aucune augmentation détectable des scores symptomatiques sur l’axe max(0, t – Traumatismes). Ce n’est qu’au-delà d’un nœud d’inflexion précis que la courbe s’oriente brusquement vers le haut avec une pente très accentuée, identifiant objectivement le seuil de basculement au-delà duquel les mécanismes d’adaptation psychologiques et épigénétiques de l’individu sont définitivement submergés.
De même, dans le cadre de la pharmacométrie clinique appliquée à la psychiatrie, MARS est utilisé pour modéliser les courbes de réponse thérapeutique aux psychotropes. Il permet d’estimer avec précision la fenêtre posologique optimale en identifiant le nœud seuil d’efficacité minimale en deçà duquel le médicament n’a pas d’effet supérieur au placebo, ainsi que le nœud de saturation supérieure à partir duquel l’augmentation des doses n’engendre plus aucun bénéfice clinique sur les symptômes dépressifs, mais précipite l’accumulation d’effets secondaires indésirables.
10.2 Psychométrie et théorie de la réponse aux items (TRI)
Au sein de la recherche psychométrique fondamentale, MARS apporte des solutions méthodologiques élégantes pour l’évaluation et l’étalonnage des échelles de mesure. Dans le cadre de la théorie de la réponse aux items (TRI) non paramétrique, l’estimation de la courbe caractéristique de l’item (CCI) constitue une étape critique pour vérifier la validité de construit d’un instrument d’évaluation psychologique.
Les modèles paramétriques usuels (modèles logistiques à 1, 2 ou 3 paramètres de Rasch et Birnbaum) contraignent la probabilité de réussite ou d’adhésion à suivre une forme sigmoïdale logistique parfaitement symétrique. Or, de nombreux items évaluant des dimensions cliniques sévères (telles que les idéations suicidaires ou les traits dissociatifs) présentent des courbes caractéristiques aberrantes, marquées par des ruptures abruptes ou des décrochages de pente locaux lorsque le niveau de trait latent du sujet s’accroît. MARS permet d’estimer de manière purement non paramétrique ces courbes caractéristiques, sans imposer de forme a priori, révélant ainsi les anomalies d’items avec une sensibilité diagnostique supérieure.
En outre, la technique s’avère particulièrement puissante pour la détection automatisée des seuils d’invalidation des réponses dans les questionnaires de personnalité standardisés (tels que le MMPI ou le NEO-PI). En modélisant la relation entre le temps de latence de réponse par item et la consistance interne du profil, MARS est capable de détecter le point de coupure chronométrique en deçà duquel la vitesse d’exécution traduit indiscutablement un patron de réponses aléatoires ou de non-lecture intentionnelle, autorisant un nettoyage objectif des protocoles psychométriques.
10.3 Psychologie du travail et des organisations
La psychologie du travail, ergonomique et organisationnelle recèle également de nombreuses relations non linéaires que MARS parvient à expliciter avec une acuité particulière. L’exemple paradigmatique par excellence réside dans l’opérationnalisation empirique de la célèbre loi de Yerkes-Dodson, qui postule l’existence d’une relation curvilinéaire en U inversé reliant le niveau d’éveil physiologique (ou de stress perçu) et le niveau de performance professionnelle.
Là où une régression quadratique force artificiellement une parabole globale symétrique dont le sommet est souvent décalé par rapport à la réalité opérationnelle, MARS capture ce phénomène par l’articulation asymétrique de deux fonctions charnières connectées à un nœud optimal unique. La première fonction modélise la phase d’activation ascendante, où le stress agit comme un stimulant dynamisant la concentration de l’opérateur, tandis que la seconde fonction miroir décrit la phase d’effondrement consécutive au dépassement de la capacité de traitement attentionnel, les deux pentes pouvant présenter des magnitudes tout à fait distinctes.
Un autre champ d’application fécond concerne la modélisation de l’épuisement professionnel (burnout) à travers le modèle Exigences-Ressources du travail (Job Demands-Resources model). L’analyse par MARS permet de documenter rigoureusement comment certaines ressources organisationnelles (comme l’autonomie décisionnelle ou le soutien managérial) n’exercent un effet protecteur significatif qu’à la condition que les exigences professionnelles dépassent un palier critique. Les décideurs en ressources humaines disposent ainsi de repères quantitatifs précis pour calibrer leurs interventions préventives en fonction des seuils de charge réels observés dans les équipes.
11. Analyse comparative : MARS face aux autres paradigmes non paramétriques
11.1 MARS versus Arbres de régression et forêts aléatoires (CART, Random Forests)
Pour apprécier la place singulière occupée par MARS dans la panoplie des méthodes statistiques modernes, une comparaison systématique avec les autres grands paradigmes non paramétriques s’avère indispensable. Face aux arbres de régression binaire de type CART, la supériorité de MARS réside principalement dans la nature de sa surface de réponse. CART partitionne l’espace des données par des coupures orthogonales et prédit une constante locale dans chaque partition terminale, ce qui produit une approximation en marches d’escalier totalement discontinue.
Cette discontinuité des arbres pose un problème conceptuel majeur en psychologie : elle attribue des prédictions drastiquement disparates à deux participants dont les scores sur une variable continue ne diffèrent que d’une fraction décimale de part et d’autre d’un seuil de découpage arbitraire. De plus, les arbres sont structurellement incapables de capturer des tendances linéaires simples sans les fragmenter en une multitude de paliers inefficients. MARS résout simultanément ces deux écueils en fournissant une trajectoire continue et en intégrant nativement des composantes linéaires pures.
Face aux forêts aléatoires (Random Forests), qui agrègent des centaines d’arbres bootstrappés pour lisser les marches d’escalier et maximiser la précision prédictive, MARS cède parfois un léger avantage en termes de performance pure sur des données massivement bruitées, mais l’emporte de façon décisive sur le terrain de la transparence épistémologique. Une forêt aléatoire constitue une « boîte noire » inextricable qui ne livre aucune équation intelligible. MARS, à l’inverse, aboutit à une fonction mathématique explicite, parfaitement transparente, respectant les impératifs de validité théorique et d’éthique clinique requis par les sciences comportementales.
11.2 MARS versus Modèles additifs généralisés (GAM)
Les modèles additifs généralisés (GAM, pour Generalized Additive Models), développés par Trevor Hastie et Robert Tibshirani, constituent une autre alternative non paramétrique prestigieuse. Les GAM modélisent la relation entre les prédicteurs et la réponse par l’intermédiaire de fonctions lisses non paramétriques arbitraires (souvent des splines de lissage cubiques ou des P-splines), estimées via des critères de vraisemblance pénalisée.
La distinction opératoire majeure entre MARS et les GAM conventionnels réside dans le degré d’automatisation de la sélection des variables et de la découverte des interactions. Dans un cadre GAM standard, le statisticien doit spécifier manuellement et a priori quelles variables doivent faire l’objet d’un lissage, fixer le nombre de degrés de liberté de base (ou laisser l’algorithme estimer un paramètre de lissage global unique par spline), et surtout postuler explicitement quelles paires de variables sont susceptibles d’interagir sous la forme de surfaces de lissage tensorielles bidimensionnelles.
MARS propose une démarche beaucoup plus autonome et exploratoire. Il accomplit simultanément et dans le même flux computationnel :
- La sélection des prédicteurs véritablement informatifs (sélection de variables intégrée par l’élagage),
- La localisation optimale des points d’articulation locaux (nœuds),
- L’identification automatique des interactions pertinentes d’ordre supérieur sans requête explicite de l’utilisateur.
En outre, les splines linéaires par morceaux de MARS sont souvent jugées plus digestes sur le plan de l’interprétation théorique que les splines cubiques des GAM, dont les courbures infiniment lisses masquent parfois la nature angulaire de véritables seuils de rupture psychologique.
11.3 MARS versus Réseaux de neurones artificiels profonds
L’essor contemporain de l’apprentissage profond (deep learning) a conduit certains chercheurs à privilégier l’usage de perceptrons multicouches pour capturer les non-linéarités complexes au sein de données comportementales massives. Si les réseaux de neurones sont des approximateurs universels incontestables capables d’apprendre des représentations hiérarchiques hautement sophistiquées, leur déploiement soulève des réserves méthodologiques substantielles dans le champ de la psychologie quantitative.
Le premier différentiel concerne l’efficience d’échantillonnage (sample efficiency). Les réseaux profonds requièrent des cohortes d’entraînement volumineuses (idéalement plusieurs dizaines de milliers de sujets) pour converger vers des représentations stables sans s’effondrer dans un surapprentissage stérile, imposant des architectures de régularisation complexes (dropout, normalisation par lots, décroissance des poids). Dans la recherche psychologique typique, où les échantillons dépassent rarement quelques centaines de cas, MARS surclasse nettement les architectures neuronales en fournissant des modèles stables et reproductibles là où les réseaux de neurones échouent à converger.
Le second différentiel touche à l’impératif déontologique d’auditabilité des décisions diagnostiques. En psychologie légale, en neuropsychologie clinique ou dans l’attribution de bourses d’études fondées sur des tests cognitifs, il est inacceptable d’utiliser un algorithme dont la logique décisionnelle interne ne peut être retracée pas à pas. Le formalisme de MARS, fondé sur une équation linéaire sommative de termes charnières explicites, autorise une justification causale et transparente de chaque prédiction individuelle, satisfaisant aux critères les plus stricts de responsabilité scientifique.
12. Guide d’implémentation pratique, diagnostics et considérations méthodologiques
12.1 Outils logiciels et packages fondamentaux (R et Python)
L’opérationnalisation empirique des modèles MARS au sein de la communauté scientifique s’appuie principalement sur deux écosystèmes logiciels open-source dominants : le langage R pour le calcul statistique et l’environnement Python pour la science des données. Dans l’écosystème R, l’implémentation canonique et universellement reconnue est assurée par le package earth, conçu par Stephen Milborrow. Le nom « earth » résulte d’une précaution juridique, la marque MARS ayant été déposée commercialement par Jerome Friedman et la société Salford Systems.
Le package earth offre une intégration complète avec la syntaxe standard des formules de régression en R, ainsi qu’une interopérabilité directe avec les méta-packages de modélisation prédictive tels que caret ou tidymodels. Ses hyperparamètres cardinaux sont aisément modulables : l’argument degree régit le degré maximal d’interaction autorisé (1 pour un modèle purement additif, 2 pour inclure des produits bivariés), l’argument nk spécifie le nombre maximal de termes explorés lors de la phase ascendante (généralement initialisé par défaut à une heuristique fonction de p), et le paramètre penalty configure la sévérité du lissage GCV (le coefficient d évoqué précédemment).
Pour les praticiens opérant sous Python, la bibliothèque standard de référence est py-earth, développée dans le giron des extensions compatibles avec Scikit-Learn. Elle implémente fidèlement les algorithmes d’expansion et d’élagage de Friedman à travers une interface à objets conforme aux estimateurs standards (méthodes fit, predict, score). Elle autorise un ajustement fluide au sein de pipelines de traitement intégrant des étapes préalables d’imputation de données manquantes et d’optimisation des hyperparamètres par recherche sur grille (GridSearchCV).
12.2 Diagnostics de résidus et vérification de la robustesse
L’estimation réussie d’un modèle MARS ne dispense aucunement le chercheur des vérifications diagnostiques usuelles régissant l’inférence statistique. Une fois l’élagage achevé, l’analyse approfondie des résidus constitue une obligation méthodologique incontournable. Les résidus ordinaires ei = yi – f(xi) doivent être inspectés pour vérifier l’absence d’hétéroscédasticité résiduelle (variation de la variance d’erreur le long des valeurs prédites) et pour confirmer leur conformité raisonnable avec une distribution normale via des graphiques quantile-quantile (Q-Q plots).
Une vigilance particulière doit être accordée à la stabilité spatiotemporelle des nœuds découverts par l’algorithme. Il est fortement recommandé de soumettre le modèle final à une procédure de validation croisée k-fold répétée (par exemple, 10-fold CV répétée 50 fois avec des permutations aléatoires différentes de l’échantillon). L’enregistrement systématique de la fréquence de sélection des variables et de la variabilité spatiale de la localisation des nœuds d’un pli à l’autre permet d’attester de la solidité clinique des seuils identifiés : un seuil de vulnérabilité qui fluctuerait erratiquement au gré des rééchantillonnages ne saurait prétendre au statut de constante psychométrique.
De surcroît, le statisticien doit identifier d’éventuels points de levier multidimensionnels (mesurés par les distances de Cook ou les éléments diagonaux de la matrice de projection) qui auraient pu infléchir artificiellement la position d’un nœud lors de la phase ascendante. Lorsqu’une poignée d’observations atypiques dicte à elle seule l’émergence d’une fonction charnière, une analyse de sensibilité excluant ces cas extrêmes s’impose pour confirmer que l’inflexion modélisée traduit bien un processus écologique généralisable et non un simple artefact d’échantillonnage.
12.3 Limites méthodologiques et recommandations de reporting
Bien que MARS constitue un instrument d’analyse exceptionnellement puissant, le praticien doit être lucide quant à ses vulnérabilités intrinsèques. La première limite majeure a trait à la multicolinéarité sévère entre prédicteurs. Lorsque deux variables explicatives sont fortement corrélées (par exemple, deux sous-échelles d’un même inventaire psychométrique partageant un recouvrement conceptuel massif), la recherche gloutonne de l’étape avant tend à attribuer de manière quasi stochastique l’intégralité de l’effet non linéaire à l’un des deux prédicteurs au détriment de l’autre, en fonction d’un gain résiduel minime. Il appartient au chercheur de diagnostiquer préalablement les facteurs d’inflation de variance (VIF) pour éviter des interprétations théoriques fallacieuses sur l’exclusion d’une variable redondante.
La seconde recommandation fondamentale concerne l’ancrage théorique du modèle. MARS étant un algorithme inductif axé sur l’ajustement empirique, il existe un risque constant de succomber à une réification a posteriori d’inflexions mathématiques générées par des bruits de mesure locaux. Toute rupture de pente ou interaction mise en lumière par le modèle doit impérativement faire l’objet d’une confrontation critique avec la littérature clinique ou cognitive existante afin de valider sa plausibilité substantielle. L’optimisation statistique ne saurait en aucun cas se substituer au jugement conceptuel du chercheur.
Enfin, sur le plan de la restitution des travaux scientifiques (reporting standards), la transparence académique exige que les publications détaillent scrupuleusement les choix computationnels retenus. Les auteurs doivent systématiquement expliciter :
- Le logiciel et la version du package mobilisés (par exemple, R package
earthv5.3.2), - La valeur assignée à l’hyperparamètre de pénalité de lissage d (par défaut 2 ou ajustée à 3),
- Le degré maximal d’interaction autorisé dans la commande initiale,
- Le tableau synoptique exhaustif des fonctions de base retenues après élagage avec leurs coefficients β associés, les coordonnées numériques exactes de chaque nœud t, et le score GCV global du modèle optimal,
- La confrontation de ce score GCV avec celui d’un modèle de régression linéaire standard pour attester formellement du gain méthodologique généré par la modélisation non linéaire adaptative.
Références
Breiman, L., Friedman, J. H., Olshen, R. A., & Stone, C. J. (1984). Classification and regression trees. Wadsworth International Group.
Craven, P., & Wahba, G. (1979). Smoothing noisy data with spline functions: Estimating the correct degree of smoothing by the method of generalized cross-validation. Numerische Mathematik, 31(4), 377–403. https://doi.org/10.1007/BF01404567
Easterlin, R. A. (1974). Does economic growth improve the human lot? Some empirical evidence. In P. A. David & M. W. Reder (Eds.), Nations and households in economic growth: Essays in honor of Moses Abramovitz (pp. 89–125). Academic Press. https://doi.org/10.1016/B978-0-12-205050-3.50008-7
Friedman, J. H. (1991). Multivariate adaptive regression splines. The Annals of Statistics, 19(1), 1–67. https://doi.org/10.1214/aos/1176347963
Hastie, T. J., & Tibshirani, R. J. (1990). Generalized additive models. Chapman & Hall/CRC.
Hastie, T., Tibshirani, R., & Friedman, J. (2009). The elements of statistical learning: Data mining, inference, and prediction (2nd ed.). Springer. https://doi.org/10.1007/978-0-387-84858-7
Milborrow, S. (2020). earth: Multivariate Adaptive Regression Splines (R package version 5.3.0). CRAN. https://cran.r-project.org/web/packages/earth/index.html
Runge, C. (1901). Über empirische Funktionen und die Interpolation zwischen äquidistanten Ordinaten. Zeitschrift für Mathematik und Physik, 46, 224–243.
Thom, R. (1972). Stabilité structurelle et morphogénèse : Essai d’une théorie générale des modèles. W. A. Benjamin.
Yerkes, R. M., & Dodson, J. D. (1908). The relation of strength of stimulus to rapidity of habit-formation. Journal of Comparative Neurology and Psychology, 18(5), 459–482. https://doi.org/10.1002/cne.920180503