Que sont les variables aléatoires i.i.d. ? (Définition et exemples)

Dans le paysage des mathématiques appliquées, de la théorie des probabilités et de l’économétrie moderne, peu d’abréviations exercent une influence conceptuelle aussi profonde et omniprésente que le sigle i.i.d., signifiant « indépendantes et identiquement distribuées ». Ce concept forme le socle invisible sur lequel repose la quasi-totalité de l’édifice de l’inférence statistique classique. Lorsque des chercheurs modélisent l’efficacité d’un traitement expérimental, calculent les scores d’un test psychométrique standardisé ou prédisent le comportement agrégé de flux boursiers, ils formulent presque systématiquement l’hypothèse de départ que les données observées proviennent d’une suite de réalisations de variables aléatoires vérifiant ces deux axiomes cardinaux : l’absence d’interférence mutuelle et l’homogénéité stricte de leur mécanisme de génération probabiliste.

Pourtant, la simplicité apparente de la formulation dissimule des exigences d’une extrême rigueur théorique et des conséquences pratiques considérables. Pourquoi la conjonction de l’indépendance stochastique et de la distribution identique est-elle si puissante ? Essentiellement parce qu’elle confère aux calculs analytiques une tractabilité mathématique remarquable. Sous l’hypothèse i.i.d., l’espace des configurations conjointes complexes se décompose élégamment en une multiplication de densités unidimensionnelles indépendantes. Cela permet d’extraire des lois d’invariance universelles là où le chaos du réel semblerait interdire toute généralisation statistique. De la formulation historique des jeux de hasard jusqu’aux architectures contemporaines d’apprentissage profond et de psychométrie computationnelle, la formalisation des suites i.i.d. a rendu possible la démonstration des théorèmes limites les plus féconds de l’esprit humain.

Toutefois, la manipulation imprudente de ce présupposé dans l’analyse quantitative constitue l’un des pièges épistémologiques les plus fréquents de la recherche empirique. La réalité comportementale, psychologique, biologique et sociale résiste bien souvent aux idéalisations mathématiques. Les phénomènes d’apprentissage, la fatigue des participants, l’autocorrélation temporelle des séries cognitives, les contextes de groupe ou les dérives environnementales viennent continuellement violer soit l’indépendance des observations, soit l’identité de leur distribution d’origine. Ce guide exhaustif explore minutieusement la structure théorique des variables aléatoires i.i.d., décortique leurs fondements mathématiques respectifs, présente leurs champs d’application concrets en sciences expérimentales et fournit l’outillage critique indispensable pour diagnostiquer et corriger les ruptures de ce postulat dans la pratique scientifique.

1. Introduction fondamentale aux variables aléatoires i.i.d.

1.1 Origine terminologique et signification du sigle i.i.d.

L’acronyme i.i.d. (parfois typographié iid ou IID) est la condensation rigoureuse de l’expression française « indépendantes et identiquement distribuées », traduite directement de la locution anglo-saxonne independent and identically distributed. D’un point de vue structural, cet énoncé associe deux notions probabilistes orthogonales mais complémentaires : la relation stochastique qui unit (ou plutôt désunit) un ensemble de variables, et l’identité intrinsèque de la loi mathématique qui préside individuellement à leur apparition. Dans le langage de la théorie de la mesure et de la formalisation axiomatique établie par Andreï Kolmogorov en 1933, une variable aléatoire n’est autre qu’une fonction mesurable reliant un espace probabilisable fondamental à l’espace des réels. Déclarer qu’une famille de telles fonctions est i.i.d. revient à stipuler que chacune opère selon le même étalonnage d’incertitude et qu’aucune réalisation particulière ne vient modifier la distribution de probabilité des autres membres de la famille.

L’évolution historique de ce concept traverse les siècles fondateurs de la statistique mathématique. Dès le XVIIe siècle, lors des correspondances pionnières entre Blaise Pascal et Pierre de Fermat au sujet du problème des partis, l’hypothèse sous-jacente des jeux de dés répétés relevait déjà, sans formalisation explicite, du paradigme i.i.d. Plus tard, avec Abraham de Moivre, Thomas Bayes, Pierre-Simon de Laplace et Carl Friedrich Gauss, le développement du calcul des erreurs astronomiques a exigé de postuler que les bruits de mesure successifs étaient des entités non corrélées, issues d’une même courbe normale d’erreur. C’est néanmoins au début du XXe siècle que le formalisme rigoureux des processus stochastiques a cristallisé cette définition pour en faire l’infrastructure première de l’inférence moderne de l’école anglo-saxonne, dominée par Ronald A. Fisher, Jerzy Neyman et Egon Pearson.

Dans les sciences contemporaines de l’esprit et de la psychométrie, le statut de ce présupposé est tout à fait singulier. Lorsqu’un chercheur administre une échelle d’évaluation de l’anxiété ou un inventaire de personnalité à un panel d’individus, il conçoit généralement chaque score obtenu comme la réalisation empirique d’une variable aléatoire théorique. L’assimilation de ces réponses à un échantillon i.i.d. constitue la condition de légitimité sine qua non pour agréger les résultats, dériver des moyennes normatives de population et extrapoler des construits psychologiques généraux. Sans cette double assise, l’acte même de quantifier les traits mentaux humains perdrait son assise mathématique d’objectivité statistique.

1.2 Importance paradigmatique dans les modèles probabilistes

D’un point de vue analytique, la propriété i.i.d. agit comme un réducteur de complexité d’une efficacité spectaculaire. Si l’on considère un vecteur aléatoire composé de n variables aléatoires dépendantes et possédant des fonctions de répartition dissemblables, la fonction de distribution conjointe nécessite, pour être caractérisée, une infinité de paramètres de dépendance croisée ou une matrice de covariance hautement dimensionnelle. En revanche, dès lors que l’on applique l’axiome d’indépendance, la fonction de densité conjointe s’effondre en un simple produit arithmétique de ses densités marginales. En y adjoignant la clause de distribution identique, ce produit devient la puissance n-ième d’une unique et même fonction de densité univariée. Cette factorisation radicale transforme des intégrales multidimensionnelles insolubles en intégrales simples séparables, rendant ainsi le modèle parfaitement traitable.

Cette simplification structurelle offre un fondement universel à la modélisation des processus stochastiques dits « sans mémoire » ou à incréments indépendants, à l’image des marches aléatoires élémentaires, des processus de renouvellement ou du mouvement brownien standard, où les sauts infinitésimaux sont modélisés comme des réalisations i.i.d. En statistique décisionnelle, elle permet d’isoler l’information apportée par chaque observation : chaque donnée observée apporte un quantum d’information strict et non redondant sur le paramètre inconnu. L’information totale de Fisher contenue dans un échantillon de taille n devient alors tout simplement égale à n fois l’information contenue dans une observation unique, garantissant une décroissance prévisible de l’incertitude à mesure que le volume d’échantillonnage s’accroît.

Enfin, la préservation de la tractabilité analytique des estimateurs découle directement de cette architecture. L’espérance de la moyenne empirique devient égale à l’espérance de la loi sous-jacente, et sa variance se réduit purement et simplement à la variance de la population divisée par la taille de l’échantillon. Des propriétés aussi fondamentales que la non-biaicité, la consistance et l’efficacité minimale théorique des estimateurs par la méthode des moments ou par le maximum de vraisemblance ne peuvent être dérivées avec autant d’élégance et de généralité que sous la protection théorique des conditions i.i.d.

1.3 Cadre général d’application dans la recherche quantitative

L’utilisation pratique du concept i.i.d. se matérialise principalement à travers les protocoles d’échantillonnage de données empiriques. En psychologie cognitive, en sociologie quantitative ou en épidémiologie, la constitution d’un échantillon représentatif repose formellement sur l’extraction probabiliste d’unités d’observation à partir d’une population cible définie avec rigueur. Lorsque le processus d’échantillonnage est conduit selon un tirage aléatoire avec remise (ou dans un cadre où la taille de la population parente est infiniment grande par rapport à la taille de l’échantillon extrait), la réalisation de chaque individu expérimental peut être considérée comme une variable i.i.d. Cette abstraction méthodologique garantit que le comportement observé ne reflète ni un biais d’agrégation contextuel ni une relation de cause à effet réciproque entre les répondants.

Cependant, les répercussions théoriques d’une mauvaise caractérisation de la nature des données constituent une menace récurrente pour l’intégrité de la science quantitative. Si des données sont postulées i.i.d. alors qu’elles sont intrinsèquement corrélées – comme c’est le cas lors de réponses apportées par des membres d’une même fratrie ou de scores longitudinaux répétés sur le même individu –, la variance réelle de l’estimateur de la moyenne est systématiquement sous-estimée par les formules classiques. Cette erreur de diagnostic engendre un rétrécissement artificiel des intervalles de confiance et une inflation dramatique du taux d’erreur de première espèce (α), conduisant le chercheur à déclarer statistiquement significatifs des effets purement aléatoires.

Il est donc impératif pour tout analyste de concevoir l’hypothèse i.i.d. non comme une vérité absolue immanente aux données, mais comme un modèle théorique dont les hypothèses méritent une vérification critique permanente. L’analyse exploratoire des structures de corrélation résiduelle, la prise en compte du contexte d’échantillonnage et la modélisation formelle des hétérogénéités constituent autant d’étapes incontournables pour s’assurer que la réduction opérée par le paradigme i.i.d. ne détruit pas la validité écologique des inférences psychologiques et comportementales ainsi produites.

2. Le premier pilier : Le concept mathématique d’indépendance

2.1 Définition formelle de l’indépendance stochastique

L’indépendance stochastique constitue le premier composant non négociable du binôme i.i.d. Dans le formalisme ensembliste de la théorie des probabilités, deux événements A et B appartenant à une tribu d’événements Ω sont déclarés indépendants si et seulement si la probabilité de leur intersection équivaut au produit de leurs probabilités marginales respectives :

P(A ∩ B) = P(A) × P(B)

Lorsque cette logique est étendue à deux variables aléatoires discrètes X et Y prenant leurs valeurs respectivement dans les ensembles dénombrables S_X et S_Y, la condition d’indépendance exige que, pour tout couple de réalisations (x, y), la fonction de probabilité conjointe se décompose selon le produit :

P(X = x et Y = y) = P(X = x) × P(Y = y)

Pour des variables aléatoires réelles continues munies d’une fonction de densité conjointe f_X,Y(x, y), l’indépendance impose que cette densité conjointe soit presque partout factorisable selon les densités marginales univariées de chaque variable :

f_X,Y(x, y) = f_X(x) × f_Y(y) ∀ (x, y) ∈ ℜ²

Une distinction épistémologique cruciale doit être opérée entre l’indépendance par paires et l’indépendance mutuelle (ou conjointe). Soit une famille de variables aléatoires X₁, X₂, …, X_n. Il est tout à fait possible que chaque sous-ensemble de deux variables {X_i, X_j} vérifie formellement la condition d’indépendance par paires, sans que l’ensemble complet ne soit mutuellement indépendant. Le célèbre contre-exemple de S. Bernstein illustre parfaitement ce piège mathématique : considérons deux lancers de pièce indépendants équilibrés X₁ et X₂ codés par 0 et 1, et posons une troisième variable X₃ = (X₁ + X₂) mod 2. Dans cette configuration, les variables sont deux à deux strictement indépendantes, mais la connaissance conjointe de X₁ et X₂ détermine avec une certitude absolue la valeur de X₃. Pour qualifier une suite de variables d’indépendante au sens du paradigme i.i.d., c’est obligatoirement l’indépendance conjointe totale pour tout sous-ensemble d’indices qui doit être satisfaite.

2.2 Implications sur la covariance et l’absence de corrélation

L’une des propriétés analytiques les plus remarquables de l’indépendance stochastique réside dans son effet direct sur la covariance entre deux grandeurs aléatoires. La covariance théorique entre deux variables aléatoires réelles X et Y intégrables au sens de Lebesgue est définie par :

Cov(X, Y) = E[(X – E[X])(Y – E[Y])] = E[XY] – E[X]E[Y]

Sous l’hypothèse formelle d’indépendance mutuelle, l’espérance mathématique du produit de deux variables est rigoureusement égale au produit de leurs espérances respectives, c’est-à-dire que E[XY] = E[X]E[Y]. La démonstration s’opère par le théorème de Fubini en calculant l’intégrale double sur ℜ², laquelle se décompose en le produit de deux intégrales simples indépendantes. Par conséquent, la soustraction donne immédiatement Cov(X, Y) = 0, ce qui entraîne de facto l’annulation du coefficient de corrélation linéaire de Pearson :

ρ(X, Y) = Cov(X, Y) / (σ_X σ_Y) = 0

Il est toutefois fondamental de souligner avec la plus grande vigueur que la réciproque est rigoureusement fausse : l’absence de corrélation linéaire n’implique en aucun cas l’indépendance stochastique. Deux variables peuvent afficher une corrélation linéaire nulle tout en étant unies par une dépendance déterministe totale. L’exemple paradigmatique classique consiste à définir une variable aléatoire X distribuée selon une loi uniforme continue ou normale centrée sur l’intervalle [-1, 1], et à poser Y = X². La distribution de X étant parfaitement symétrique autour de zéro, les moments d’ordre impair s’annulent, conduisant à E[X] = 0 et E[XY] = E[X³] = 0. Il s’ensuit que Cov(X, Y) = 0 – 0 = 0. Néanmoins, Y est entièrement déterminée par la réalisation de X : elles ne sont absolument pas indépendantes stochastiquement, car la connaissance de X dicte la réalisation de Y avec une probabilité égale à 1.

2.3 L’indépendance dans le protocole expérimental

Dans l’opérationnalisation empirique de la recherche, l’indépendance stochastique se traduit par une précaution méthodologique inflexible : l’isolement strict des unités expérimentales afin d’éviter tout phénomène de contamination ou de rétroaction. Dans le contexte de la psychologie expérimentale et des neurosciences comportementales, garantir l’indépendance signifie que l’évaluation du sujet k ne doit en aucun cas être influencée par les réponses antérieures ou contemporaines du sujet k-1. Si deux participants partagent le même espace physique d’expérimentation et peuvent observer mutuellement leurs réactions motrices, leurs hésitations ou leurs verbalisations, l’hypothèse d’indépendance s’effondre immédiatement sous le coup d’un biais d’imitation ou de facilitation sociale.

Ce défi méthodologique se pose avec une acuité particulière dans le cadre des protocoles intra-sujets ou séquentiels. Lorsqu’un même participant est soumis à une batterie d’épreuves cognitives successives visant à mesurer un trait psychologique invariant, les mesures consécutives sont quasi systématiquement contaminées par des effets d’ordre, d’apprentissage procédural ou d’épuisement attentionnel. L’état mental du sujet à l’essai temporel t dépend ontologiquement des stimulations reçues lors de l’essai t-1. L’observation générée à l’instant présent porte la trace mnésique des observations antérieures, introduisant une dépendance sérielle qui viole frontalement le premier pilier du concept i.i.d.

En présence d’une telle dépendance temporelle, l’application naïve des tests d’hypothèse conventionnels – tels que le test t de Student pour échantillons indépendants ou l’analyse de variance univariée standard – débouche sur des inférences fondamentalement erronées. La dépendance sérielle positive gonfle la redondance informationnelle, réduisant la taille d’échantillon effective à une fraction de sa valeur nominale. Dès lors, le chercheur manipule un artefact méthodologique en croyant accumuler des preuves empiriques indépendantes, alors qu’il ne fait qu’enregistrer des échos successifs d’un même état cognitif ou émotionnel sous-jacent.

3. Le second pilier : La notion de distribution identique

3.1 Caractérisation de la fonction de répartition commune

Le second pilier du concept stipule que toutes les variables aléatoires appartenant à la famille considérée sont « identiquement distribuées ». En termes d’analyse probabiliste rigoureuse, cela signifie que pour une suite de variables X₁, X₂, …, X_n, il existe une unique et même fonction de répartition cumulée, traditionnellement notée F(x), telle que pour toute coordonnée spatiale réelle x et pour tout indice d’observation i allant de 1 à n :

F_Xi(x) = P(X_i ≤ x) = F(x) ∀ x ∈ ℜ

Cette condition d’égalité stricte des fonctions de répartition implique que le profil d’aléa régissant l’émergence des scores est parfaitement stationnaire d’une variable à l’autre. Si les variables sont absolument continues, leurs fonctions de densité de probabilité respectives sont identiques presque partout : f_Xi(x) = f(x). Si elles sont discrètes, l’égalité concerne leurs fonctions de masse de probabilité : p_Xi(k) = p(k). Par conséquent, aucune dérive dans la forme géométrique de la distribution ne saurait être tolérée. La probabilité d’observer un événement dans un intervalle borné [a, b] demeure invariant quel que soit le numéro d’ordre de la mesure considérée.

Une retombée immédiate et substantielle de cette équivalence des lois de probabilité réside dans la constance absolue de l’ensemble des moments théoriques de la distribution, pour autant que ces derniers existent au sens de la convergence d’intégrale. Ainsi, les espérances mathématiques (le premier moment centré en zéro) sont rigoureusement identiques :

E[X₁] = E[X₂] = … = E[X_n] = μ

De même, les variances (le second moment centré sur l’espérance) partagent une valeur invariante commune :

Var(X₁) = Var(X₂) = … = Var(X_n) = σ²

Cette homogénéité parfaite se répercute mécaniquement sur les moments d’ordres plus élevés, notamment le coefficient d’asymétrie (skewness, γ₁), qui capture le déséquilibre de la masse probabiliste par rapport à la moyenne, ainsi que le coefficient d’aplatissement (kurtosis, γ₂), qui quantifie l’épaisseur relative des queues de distribution et la propension à engendrer des valeurs extrêmes.

3.2 Homogénéité de la population sous-jacente

D’un point de vue épistémologique, l’hypothèse de distribution identique incarne le postulat que l’ensemble des observations provient d’une population parente unique, homogène et invariante. Lorsque cette exigence est transposée à la recherche en psychométrie et dans les sciences du comportement, elle suppose que le mécanisme générateur de données – c’est-à-dire l’appareil psycho-cognitif de l’individu confronté aux stimuli du test – fonctionne selon des paramètres statistiques équivalents dans l’ensemble de la cohorte échantillonnée.

Toutefois, la réalité biologique et sociale est fréquemment traversée par ce que la statistique théorique nomme l’hétérogénéité non observée. Si un échantillon d’individus est implicitement composé de sous-groupes discrets présentant des profils cliniques, des niveaux d’acculturation ou des aptitudes cognitives différenciés, la variable aléatoire globale mesurée sur la population totale n’est plus identiquement distribuée au niveau individuel. Les scores enregistrés sont en réalité tirés de distributions conditionnelles distinctes F(x | C = c), où C représente une variable latente d’appartenance à une classe inobservée.

La stabilité des paramètres générateurs dans le temps et dans l’espace constitue également une composante impérative de cette identité distributionnelle. Dans un laboratoire expérimental, si la calibration des capteurs psychophysiologiques (comme les électrodes électroencéphalographiques ou les dispositifs d’oculométrie) subit une dérive thermique progressive tout au long de la journée de collecte, la variance d’erreur de mesure σ_ε² va s’accroître graduellement entre le premier sujet testé à huit heures du matin et le dernier sujet évalué en fin de soirée. Dans un tel scénario, bien que les individus soient physiquement distincts et stochastiquement indépendants, la condition de distribution identique est invalidée en raison de la mutabilité des conditions physiques d’enregistrement des signaux.

3.3 Distinction entre identité de distribution et dépendance

L’une des confusions conceptuelles les plus tenaces chez les praticiens de la statistique consiste à fusionner inconsciemment la notion de loi marginale identique et celle d’indépendance stochastique. Il est pourtant théoriquement aisé de concevoir des variables qui partagent une distribution rigoureusement identique tout en manifestant une dépendance mutuelle absolue.

Considérons à titre d’illustration une variable aléatoire X distribuée selon une loi normale centrée réduite standard : X ~ N(0, 1). Définissons alors arbitrairement une seconde variable aléatoire Y par la transformation déterministe Y = -X. Par les propriétés fondamentales de symétrie de la densité gaussienne autour de son axe médian, la loi de probabilité de -X est parfaitement indistinguable de celle de X. Nous avons donc avec une exactitude mathématique totale :

Y ~ N(0, 1) ⇒ F_X(t) = F_Y(t) ∀ t ∈ ℜ

Les variables X et Y sont indiscutablement identiquement distribuées. Ont-elles pour autant la moindre parcelle d’indépendance ? Absolument aucune. La corrélation entre X et Y est de ρ(X, Y) = -1. Dès lors que l’analyste observe que X = 2,5, il sait de manière infaillible que Y = -2,5. La structure conjointe F_X,Y(x, y) est singulière et concentrée intégralement sur la droite diagonale décroissante d’équation y = -x, au lieu de se déployer de façon homogène sur le plan réel comme le ferait la densité conjointe d’un couple véritablement i.i.d. Ce contre-exemple met en lumière l’obligation impérieuse de dissocier analytiquement l’analyse de la forme marginale (l’identité de distribution) de l’exploration de la géométrie de couplage statistique (l’indépendance).

4. Exemples classiques et intuitifs de variables i.i.d.

4.1 Le lancer répété d’une pièce de monnaie équilibrée

Le paradigme par excellence illustrant la perfection formelle du modèle i.i.d. réside dans la modélisation probabiliste du lancer répété d’une pièce de monnaie non biaisée. Soit une suite séquentielle de n lancers physiques. Pour chaque jet numéro i (où i ∈ {1, 2, …, n}), nous introduisons une variable aléatoire indicatrice X_i qui adopte conventionnellement la valeur 1 en cas d’obtention de la face « Pile » (succès probabiliste) et la valeur 0 en cas d’apparition de la face « Face » (échec). Chaque variable univariée X_i obéit ainsi à une loi de Bernoulli de paramètre p :

P(X_i = 1) = p et P(X_i = 0) = 1 – p

Dans l’hypothèse canonique d’une pièce parfaitement symétrique et homogène en termes de distribution de masse, le paramètre fondamental est strictement fixé à p = 0,5. L’identité de distribution découle ici de l’invariance physique des caractéristiques géométriques et pondérales de l’objet manipulé d’un jet à l’autre : la fonction de masse de probabilité ne varie aucunement dans le temps. L’indépendance stochastique, quant à elle, repose sur l’absence de tout lien physique causal entre les lancers consécutifs. La pièce de monnaie est un système mécanique dépourvu de mémoire ; la force gravitationnelle, l’impulsion motrice initiale et la dynamique des frottements de l’air se réinitialisent intégralement à chaque tentative sans conserver la moindre empreinte des tirages antérieurs.

Dès lors, pour une séquence spécifique de dix lancers codée sous la forme d’un vecteur binaire particulier, tel que x = (1, 0, 1, 1, 0, 0, 1, 0, 1, 1) comportant k = 6 succès et n – k = 4 échecs, la probabilité conjointe de cette configuration s’obtient instantanément par la factorisation multiplicative régie par le statut i.i.d. :

P(X₁=1, X₂=0, …, X₁₀=1) = ∏_i=1¹⁰ P(X_i = x_i) = p^k (1 – p)^{n – k} = (0,5)⁶ × (0,5)⁴ = (0,5)¹⁰ = 1 / 1024 ≈ 0,000976

Toute tentative intuitive de croire qu’une série de cinq « Piles » consécutifs augmente mathématiquement la chance d’obtenir « Face » au coup suivant relève de l’illusion cognitive connue sous le nom d’erreur du parieur, laquelle consiste précisément à nier de façon irrationnelle l’indépendance stochastique fondamentale de variables i.i.d.

4.2 Le jet séquentiel d’un dé à six faces non biaisé

L’extension directe du schéma bernoullien au cadre polytomique se concrétise à travers l’expérience probabiliste du jet séquentiel d’un dé cubique régulier à six faces. Désignons par Y_i le résultat numérique obtenu lors du i-ème jet. La variable aléatoire prend ses valeurs dans l’ensemble discret fini S = {1, 2, 3, 4, 5, 6}. Si le dé ne présente aucune imperfection de fabrication, aucune bulle d’air interne modifiant son centre d’inertie et aucune asymétrie de découpe des arêtes, chaque face possède une opportunité strictement équitable d’apparaître après stabilisation cinématique sur le plan récepteur.

Chaque variable Y_i est par conséquent assujettie à une loi uniforme discrète sur le support S, caractérisée par une fonction de masse constante et invariante :

P(Y_i = k) = 1/6 ∀ k ∈ {1, 2, 3, 4, 5, 6} et ∀ i ∈ ℕ*

L’espérance mathématique théorique de chaque jet est rigoureusement identique et s’établit à E[Y_i] = ∑ k × (1/6) = (1+2+3+4+5+6)/6 = 3,5, tandis que la variance unitaire vaut Var(Y_i) = 35/12 ≈ 2,917. Comme dans le cas de la pièce de monnaie, le dé ne conserve aucune trace de son orientation passée. Qu’un joueur vienne d’obtenir trois fois de suite la face « 6 » n’altère en rien le champ gravitationnel ni la cinétique du quatrième jet. La structure de probabilité conjointe pour une succession de lancers demeure le produit exact des probabilités unitaires, confirmant le respect indéfectible du cahier des charges des grandeurs i.i.d.

4.3 Le tirage avec remise dans une urne fermée

La distinction entre l’univers des variables aléatoires i.i.d. et celui des variables stochastiquement dépendantes trouve son illustration théorique la plus transparente dans l’expérience de pensée de l’urne de Polya ou du tirage de boules colorées. Imaginons une urne opaque contenant initialement une quantité finie N de boules indiscernables au toucher, parmi lesquelles M boules sont blanches et N – M boules sont noires. La proportion théorique de boules blanches est donc fixée à p = M / N. Un expérimentateur procède à l’extraction successive de n boules en inspectant la couleur de chacune.

Si le protocole expérimental stipule un tirage avec remise (la boule prélevée est immédiatement réintroduite dans l’urne avant le tirage subséquent et le récipient est agité de manière homogène), la composition interne de l’urne demeure invariante à l’orée de chaque étape. Dès lors :

• La probabilité d’extraire une boule blanche au k-ème tirage conditionnellement à l’historique des tirages reste immuablement égale à p, ce qui établit le caractère identiquement distribué des variables indicatrices de tirage.
• Le résultat observé à une étape quelconque n’apporte aucune modification à l’état de l’urne pour l’étape suivante, ce qui assure une indépendance stochastique parfaite.

La somme globale des boules blanches prélevées au terme des n tirages avec remise suit alors rigoureusement une loi binomiale B(n, p), conçue comme la somme canonique de n variables de Bernoulli i.i.d.

En revanche, si l’expérimentateur bascule vers un protocole de tirage sans remise, la boule extraite n’est pas restituée. Dès le second tirage, la probabilité d’extraire une boule blanche est modifiée par le résultat du premier tirage : elle devient (M – 1) / (N – 1) si la première était blanche, et M / (N – 1) si la première était noire. Les variables indicatrices deviennent interdépendantes et la somme globale cesse d’obéir au paradigme i.i.d. pour se plier à une loi hypergéométrique. Cet exemple classique démontre avec limpidité que l’attribution du statut i.i.d. à un ensemble d’observations ne découle pas intrinsèquement de la nature de l’objet étudié (la boule ou l’urne), mais dépend exclusivement des règles opératoires qui dictent le protocole de prélèvement et de mesure de la donnée.

5. Modélisation statistique et formulation mathématique rigoureuse

5.1 Écriture formelle de la densité conjointe

Dès lors que l’on manipule un échantillon statistique conçu comme la collection de n réalisations empiriques x = (x₁, x₂, …, x_n) issues de variables aléatoires réelles continues X = (X₁, X₂, …, X_n), la théorie probabiliste impose la formulation de la fonction de densité de probabilité conjointe, notée f_X(x₁, x₂, …, x_n). Dans le cas général d’une dépendance non restreinte, cette fonction réside dans un espace fonctionnel de dimension n souvent impossible à paramétrer sans introduire des hypothèses restrictives ad hoc.

Cependant, sous l’hypothèse axiomatique d’indépendance mutuelle, le théorème de factorisation probabiliste intervient pour décomposer cette entité globale complexe en une série de multiplications unidimensionnelles :

f_{X1, …, Xn}(x₁, …, x_n) = ∏_i=1ⁿ f_Xi(x_i)

Lorsque l’on adjoint la contrainte formelle de distribution identique, chaque fonction marginale f_Xi(·) devient strictement indiscernable de la fonction de densité parente commune f(·; θ), indexée par un vecteur de paramètres inconnus θ appartenant à l’espace paramétrique Θ. La densité conjointe se synthétise alors sous l’expression compacte et unifiée :

f(x₁, x₂, …, x_n ; θ) = ∏_i=1ⁿ f(x_i ; θ)

Cette factorisation déploie des retombées analytiques majeures lors du calcul des valeurs attendues de fonctionnelles multidimensionnelles. Par exemple, si l’on cherche à déterminer l’espérance mathématique du produit de fonctions transformatrices séparables g_i(X_i), l’intégration n’exige plus de calculer de fastidieuses intégrales multiples intriquées. Par application itérative du théorème de décomposition intégrale de Fubini-Tonelli, le calcul se réduit à :

E[∏_i=1ⁿ g_i(X_i)] = ∏_i=1ⁿ E[g_i(X_i)]

Cette solubilité mathématique fait du cadre i.i.d. le laboratoire privilégié des probabilistes théoriques pour concevoir des démonstrations rigoureuses et des formules fermées applicables au traitement du signal et à l’économétrie structurelle.

5.2 Construction de la fonction de vraisemblance

Le tournant épistémologique qui permet de passer du statut de la probabilité théorique (déduire le comportement de l’échantillon connaissant le paramètre) à celui de l’inférence statistique inductive (estimer la valeur du paramètre connaissant l’échantillon observé) s’effectue via l’introduction de la fonction de vraisemblance, formulée initialement par R. A. Fisher. Considérant le vecteur des données empiriques collectées x comme une grandeur fixe et immuable, la fonction de vraisemblance L(θ ; x) est une fonction scalaire qui varie sur l’espace des paramètres possibles θ ∈ Θ :

L(θ ; x₁, …, x_n) = f(x₁, …, x_n ; θ) = ∏_i=1ⁿ f(x_i ; θ)

Dans la pratique de l’optimisation mathématique, manipuler directement un produit multiplicatif étendu sur des centaines ou des milliers d’observations s’avère particulièrement incommode et génère de graves problèmes d’imprécision numérique (notamment le phénomène d’underflow en informatique calculatoire, où la valeur tend vers zéro absolu). C’est pourquoi les statisticiens appliquent universellement la transformation logarithmique népérienne. La fonction monotone croissante ln(·) préserve l’emplacement exact des extrema locaux et globaux tout en convertissant miraculeusement le produit d’entités positives en une somme arithmétique. La fonction de log-vraisemblance (notée conventionnellement ℓ(θ)) s’écrit alors :

ℓ(θ ; x) = ln L(θ ; x) = ∑_i=1ⁿ ln f(x_i ; θ)

La recherche de l’estimateur du maximum de vraisemblance (noté θ̂_MLE) revient ainsi à résoudre le système d’équations différentielles annulant le vecteur gradient (la fonction de score S(θ)) :

S(θ) = ∇_θ ℓ(θ ; x) = ∑_i=1ⁿ ∇_θ ln f(x_i ; θ) = 0

Le fait que la log-vraisemblance s’exprime comme une simple sommation de termes élémentaires i.i.d. est fondamental : il permet de concevoir le score empirique comme une moyenne de variables indépendantes, ouvrant immédiatement la voie à l’utilisation des lois asymptotiques pour établir rigoureusement les propriétés distributionnelles des estimateurs statistiques.

5.3 Propriétés asymptotiques des estimateurs sous conditions i.i.d.

L’immense prestige dont jouissent les estimateurs paramétriques du maximum de vraisemblance dans la méthodologie scientifique repose sur une triade de propriétés asymptotiques garanties lorsque l’échantillonnage remplit scrupuleusement les exigences i.i.d., pourvu que certaines conditions de régularité analytique standard (différentiabilité locale sous l’intégrale et identification structurelle des paramètres) soient vérifiées :

• La consistance forte et faible (convergence stochastique) : À mesure que la taille de l’échantillon n s’accroît vers l’infini, l’estimateur θ̂_n converge en probabilité (consistance faible) et presque sûrement (consistance forte) vers la valeur mathématique exacte et vraie du paramètre de la population θ₀ :

  P( lim_{n → ∞} θ̂_n = θ₀ ) = 1

  L’absence de biais asymptotique est ainsi mathématiquement scellée.

• L’efficacité asymptotique : L’estimateur atteint, à la limite asymptotique, la plus petite variance théoriquement concevable pour un estimateur régulier non biaisé, fixée par la célèbre borne de Cramér-Rao. La matrice de variance-covariance de l’estimateur équivaut alors à l’inverse de la matrice d’information de Fisher totale I_n(θ₀)^-1 = (n I₁(θ₀))^-1. Aucune autre méthode d’estimation paramétrique ne peut prétendre surpasser la précision d’un estimateur du maximum de vraisemblance sous ces conditions fondamentales.
• La normalité asymptotique : Même si la loi marginale de départ f(x ; θ) s’avère hautement asymétrique, bimodale ou bornée sur un segment fini, l’erreur d’estimation normalisée converge en loi vers une distribution gaussienne multivariée centrée sur zéro :

  √n (θ̂_n – θ₀) &xrightarrow{d} N(0, I₁(θ₀)^-1)

C’est précisément cette convergence universelle vers la normalité qui autorise les logiciels de statistique psychométrique et biomédicale à dériver automatiquement des intervalles de confiance de Wald et des p-valeurs asymptotiques universellement appliquées dans la validation des hypothèses scientifiques de recherche.

6. Applications des variables i.i.d. en psychométrie et sciences comportementales

6.1 Administration de tests psychométriques standardisés

Dans la discipline psychométrique, la quantification des traits psychologiques latents inobservables – qu’il s’agisse de l’intelligence fluide, de l’extraversion, de la dépression majeure ou des fonctions exécutives – s’appuie sur le paradigme des variables aléatoires i.i.d. au travers de la sélection d’échantillons normatifs représentatifs. Au regard de la Théorie Classique des Tests (TCT), formulée originellement dans les travaux de Charles Spearman et formalisée par Harold Gulliksen, le score brut observé X_i d’un participant i confronté à un test standardisé se décompose de manière linéaire selon la relation canonique :

X_i = T_i + E_i

Dans cette formulation axiomatique, T_i figure le score vrai théorique du sujet (son espérance mathématique intra-individuelle latente) et E_i représente la composante d’erreur aléatoire de mesure non systématique. L’inférence psychométrique postule conventionnellement que la collection des termes d’erreur E₁, E₂, …, E_n mesurés au sein d’une cohorte de répondants forme une suite de variables i.i.d. de moyenne nulle (E[E_i] = 0) et de variance constante (Var(E_i) = σ_E²), dénuées de toute corrélation avec les scores vrais sous-jacents.

L’estimation fondamentale de la fidélité de l’instrument d’évaluation, couramment mesurée par le célèbre coefficient alpha (α) de Lee Cronbach ou par le coefficient oméga (ω) de Roderick McDonald, dépend intrinsèquement de ces postulats distributionnels. Lorsqu’un psychologue calcule l’alpha de Cronbach pour certifier la cohérence interne d’un questionnaire d’estime de soi à 20 items, l’estimation repose sur l’hypothèse que la matrice de covariance entre les items traduit une structure commune partagée, et que les résidus d’erreur spécifiques à chaque item sont stochastiquement indépendants et identiquement distribués d’un participant à l’autre. Une violation de ces principes engendre inévitablement des estimations biaisées de la précision du diagnostic psychologique.

6.2 Mesure des temps de réaction dans les tâches cognitives

L’étude de la chronométrie mentale au sein des laboratoires de psychologie cognitive expérimentale offre une autre vitrine fondamentale pour l’application opérationnelle du concept i.i.d. Dans les paradigmes classiques d’inhibition cognitive (tels que la tâche de Stroop, la tâche de Flanker ou le paradigme de Go/No-Go), un sujet est instruit pour presser une touche mécanique le plus rapidement possible en réponse à des stimuli perceptifs contrôlés. Les temps de réaction (TR) enregistrés au cours de plusieurs dizaines d’essais expérimentaux successifs au sein d’une même condition sont fréquemment analysés sous l’hypothèse de travail qu’ils constituent les réalisations approximatives de variables aléatoires i.i.d.

D’un point de vue morphologique, les distributions chronométriques de temps de réaction ne sont jamais symétriques ni gaussiennes : elles présentent une coupure abrupte à gauche (bornée par le délai minimum physiologique de transmission nerveuse sensorimotrice d’environ 150 millisecondes) et un étalement asymétrique très marqué vers la droite reflétant des retards attentionnels occasionnels. Les chercheurs ajustent donc les données empiriques à des familles de lois paramétriques asymétriques, typiquement la loi log-normale ou la loi ex-gaussienne (définie par la convolution d’une distribution normale et d’une distribution exponentielle indépendante).

Toutefois, considérer ces essais consécutifs comme d’authentiques variables i.i.d. exige une vigilance méthodologique extrême. Au cours d’une session cognitive d’une heure comportant 500 essais, l’attention du sujet dérive : la fatigue neuromusculaire ralentit progressivement les temps de réponse moyens (violation de la distribution identique par modification de l’espérance), tandis que des mécanismes d’apprentissage et d’automatisation motrice réduisent progressivement la variabilité intra-individuelle (violation de la distribution identique par modification de la variance). De surcroît, le phénomène bien documenté de ralentissement post-erreur (où un participant ralentit volontairement son temps de réponse juste après avoir commis une erreur pour ajuster son contrôle exécutif) introduit une dépendance sérielle flagrante d’un essai à l’autre. La modélisation moderne des temps de réaction requiert donc souvent des modèles de diffusion ou des séries temporelles dynamiques pour dépasser les simplifications excessives d’une approche i.i.d. naïve.

6.3 Expérimentations comportementales randomisées

Dans l’évaluation des interventions psychothérapeutiques, des programmes psycho-éducatifs ou des thérapies neuropsychologiques, l’essai contrôlé randomisé (ECR) fait figure de standard méthodologique de référence. L’ensemble de la validité inférentielle de ce protocole s’appuie sur la randomisation : l’attribution purement aléatoire des sujets éligibles soit au groupe recevant la thérapie innovante, soit à un groupe témoin recevant un placebo ou la prise en charge standard.

Sur le plan mathématique, cette procédure de tirage aléatoire vise précisément à fabriquer artificiellement les conditions d’émergence de variables aléatoires i.i.d. Dans un modèle standard d’analyse de variance univariée (ANOVA) ou de régression linéaire appliqué à l’issue de l’essai clinique :

Y_ij = μ + α_j + ε_ij

où Y_ij représente le score post-thérapeutique du patient i dans le bras clinique j, et où α_j capture l’effet propre du traitement, l’hypothèse de validité causale fondamentale repose entièrement sur les résidus ε_ij. Ceux-ci doivent impérativement se comporter comme des réalisations i.i.d. distribuées selon une loi normale centrée : ε_ij ~ i.i.d. N(0, σ²).

Cette clause d’indépendance et d’homogénéité distributionnelle des erreurs garantit que l’effet α_j déduit de la différence des moyennes n’est pas confondu par des caractéristiques initiales différentielles des participants. Elle protège l’inférence causale contre les facteurs de confusion latents. Sans le respect effectif de cette microstructure i.i.d. des perturbations résiduelles, la structure probabiliste des statistiques de test classiques (les distributions F de Fisher-Snedecor) perd son exactitude formelle, rendant fragiles et potentiellement trompeuses les conclusions portées sur l’efficacité clinique réelle de l’intervention testée.

7. Le rôle central des variables i.i.d. dans les théorèmes limites fondamentaux

7.1 La loi faible et la loi forte des grands nombres

L’édifice complet des mathématiques stochastiques converge vers l’étude des théorèmes limites, dont les deux versions de la Loi des Grands Nombres (LGN) constituent la clef de voûte philosophique et méthodologique. Ces théorèmes apportent la démonstration formelle que la répétition d’expériences aléatoires engendre une régularité déterministe prévisible à grande échelle, justifiant rationnellement l’usage empirique des fréquences relatives et des moyennes d’échantillon pour inférer la structure du réel.

Considérons une suite infinie de variables aléatoires réelles X₁, X₂, …, X_n définies sur un même espace de probabilité. Posons la moyenne arithmétique empirique de ces grandeurs :

X̄_n = (1/n) ∑_i=1ⁿ X_i

La Loi Forte des Grands Nombres, établie sous sa formulation canonique la plus pure par Andreï Kolmogorov en 1930, énonce que si la suite de variables aléatoires est indépendante et identiquement distribuée et admet une espérance mathématique théorique finie E[|X₁|] < ∞ (notée μ), alors la moyenne empirique converge presque sûrement vers cette constante théorique :

P( lim_{n → ∞} X̄_n = μ ) = 1

La puissance du résultat est colossale : il ne s’agit pas simplement d’une convergence globale en probabilité (telle qu’énoncée par la Loi Faible de Khintchine), mais d’une convergence trajectorielle absolue. La probabilité que la suite infinie des moyennes empiriques s’écarte indéfiniment de l’espérance μ est rigoureusement nulle. Sur le plan épistémologique, la Loi Forte dissout le prétendu paradoxe de l’incertitude : l’aléa individuel, lorsqu’il est répété sous les conditions protectrices du modèle i.i.d., s’annule mutuellement pour converger avec certitude vers la fixité de la loi théorique sous-jacente.

7.2 Le théorème central limite classique de Lindeberg-Lévy

Si la Loi des Grands Nombres nous enseigne vers quoi converge la moyenne d’un échantillon i.i.d., elle ne dit rien de la vitesse de cette convergence ni de la géométrie des fluctuations qui subsistent autour de l’espérance pour un échantillon de taille finie. C’est ici qu’intervient l’un des sommets intellectuels de la pensée mathématique humaine : le Théorème Central Limite (TCL), formulé rigoureusement pour le cadre i.i.d. par Jarl Waldemar Lindeberg et Paul Lévy au début du XXe siècle.

Soit une suite de variables X₁, X₂, …, X_n i.i.d. possédant une espérance finie μ et une variance finie et non nulle 0 < σ² < ∞. Considérons la variable aléatoire centrée et normalisée par l’écart-type de la moyenne :

Z_n = (X̄_n – μ) / (σ / √n) = (∑_i=1ⁿ X_i – nμ) / (σ√n)

Le théorème de Lindeberg-Lévy établit que lorsque la taille d’échantillon n croît indéfiniment vers l’infini, la fonction de répartition de cette grandeur standardisée converge point par point vers la fonction de répartition de la loi normale standard N(0, 1) :

lim_{n → ∞} P( Z_n ≤ z ) = Φ(z) = ∫_-∞^z (1 / √(2π)) exp(-t² / 2) dt ∀ z ∈ ℜ

Ce résultat défie l’intuition : quelle que soit la morphologie initiale de la distribution de probabilité génératrice (qu’elle soit discontinue comme la loi de Poisson, asymétrique comme la loi gamma, géométrique, ou bornée comme la loi uniforme), la sommation additive d’un grand nombre de composantes i.i.d. engendre spontanément et nécessairement la courbe en cloche gaussienne universelle. L’explication physique et mathématique de la récurrence de la loi normale dans les phénomènes naturels réside précisément là : la taille des humains, les scores de QI ou les erreurs de mesure d’instruments physiques sont tous le produit résultant de l’addition d’une myriade de micro-facteurs indépendants et identiquement distribués.

7.3 Théorème de Glivenko-Cantelli pour la fonction de répartition empirique

L’apogée de l’inférence non paramétrique sous conditions i.i.d. est atteinte avec le théorème de Glivenko-Cantelli, également célébré sous le qualificatif de « théorème fondamental de la statistique mathématique ». Considérons un échantillon de n observations réelles issues d’une même loi régie par la fonction de répartition théorique cumulative continue F(x). La fonction de répartition empirique F_n(x) est définie à partir des réalisations observées comme la fraction des points de données qui sont inférieurs ou égaux à une coordonnée x :

F_n(x) = (1/n) ∑_i=1ⁿ 1_{{Xi ≤ x}}

Pour chaque valeur fixée de x, les termes indicatrices 1_{{Xi ≤ x}} constituent une suite de variables de Bernoulli i.i.d. de paramètre p = F(x). Par application directe de la Loi Forte des Grands Nombres, F_n(x) converge donc presque sûrement vers F(x) pour ce point fixe. Cependant, l’apport exceptionnel de Valery Glivenko et Francesco Cantelli en 1933 fut de prouver que cette convergence n’est pas seulement ponctuelle, mais qu’elle est strictement uniforme sur l’ensemble de la droite réelle ℜ :

P( lim_{n → ∞} ||F_n – F||_∞ = lim_{n → ∞} sup_{x ∈ ℜ} |F_n(x) – F(x)| = 0 ) = 1

La distance maximale verticale entre la courbe en escalier empirique observée sur le terrain et la courbe théorique invisible sous-jacente tend vers zéro avec une certitude asymptotique complète. Ce théorème fournit le fondement mathématique irréfutable autorisant le calibrage du test non paramétrique d’adéquation de Kolmogorov-Smirnov. Il confère à la recherche empirique une garantie épistémologique formidable : sans connaître a priori la loi de probabilité régissant un comportement psychologique, l’accumulation d’observations empiriques i.i.d. permet de reconstruire fidèlement, avec une précision arbitraire, l’intégralité de la fonction de distribution de la réalité sous-jacente.

8. Échantillonnage aléatoire simple et représentativité empirique

8.1 Le lien théorique entre tirage aléatoire simple et variables i.i.d.

L’opération de collecte de données empiriques ne produit des variables i.i.d. que sous des protocoles de conception très précis. Dans la théorie probabiliste de l’échantillonnage de populations finies de taille N, le protocole classique de référence est le tirage aléatoire simple (TAS). Dans un TAS avec remise, la sélection successive de n unités garantit formellement la condition i.i.d. : chaque membre de la population possède à chaque étape une probabilité d’inclusion scrupuleusement identique égale à π = 1 / N, et la sélection de l’individu i n’affecte en rien les chances de sélection de l’individu j.

Dans la pratique sociologique ou psychologique courante, le tirage sans remise est toutefois privilégié, car il semble absurde de faire passer deux fois le même test psychométrique à une même personne. D’un point de vue théorique strict, l’absence de remise engendre une corrélation négative infinitésimale entre les unités sélectionnées. Néanmoins, lorsque la fraction d’échantillonnage f = n / N demeure très faible (conventionnellement fixée par les méthodologues à un seuil inférieur à 5 % : f < 0,05), la dépendance induite devient absolument négligeable sur le plan numérique. Les statisticiens assimilent alors avec rigueur la population finie élargie à une distribution continue abstraite infinie, et traitent l’échantillon extrait comme s’il était parfaitement i.i.d.

Dans les environnements informatisés contemporains, la concrétisation de cette indépendance opérationnelle incombe aux générateurs de nombres pseudo-aléatoires (comme l’algorithme réputé du Mersenne Twister). Ces algorithmes déterministes à très haute période émulent le chaos stochastique en produisant des suites numériques qui passent avec succès tous les tests formels d’absence de corrélation et de distribution uniforme sur l’intervalle [0, 1], condition première pour générer ensuite n’importe quelle variable aléatoire via la méthode de transformation par inversion de la fonction de répartition cumulative.

8.2 Biais d’échantillonnage et perte de la condition d’identité

Bien que les développements méthodologiques contemporains recommandent le recours strict aux protocoles probabilistes, l’écrasante majorité de la recherche en sciences comportementales s’appuie historiquement sur des échantillons de convenance (étudiants de première année de psychologie, volontaires rémunérés sur des plateformes en ligne de type Mechanical Turk ou Prolific). Cette pratique viole frontalement le postulat i.i.d. au détriment direct de la validité externe des conclusions scientifiques.

Le premier mécanisme de distorsion réside dans le biais d’autosélection. Les individus qui décident volontairement de consacrer une heure de leur temps pour répondre à un questionnaire sur la santé mentale ou le bien-être émotionnel possèdent fréquemment des traits de personnalité atypiques (un niveau d’ouverture à l’expérience supérieur à la norme, ou au contraire une détresse psychologique aiguë les incitant à s’auto-évaluer). Par conséquent, les données récoltées ne représentent pas un tirage tiré de la distribution cible F(x) de la population générale, mais reflètent une loi tronquée et modifiée F(x | S = 1), où S désigne la variable binaire d’autosélection.

De surcroît, l’existence d’une stratification implicite non contrôlée brise l’identité de distribution. Si l’échantillon recrute involontairement une proportion écrasante de femmes jeunes éduquées (le célèbre biais des échantillons WEIRD : Western, Educated, Industrialized, Rich, Democratic documenté par Joseph Henrich), les observations ne proviennent plus d’une loi homogène stable. La distribution sous-jacente varie subrepticement en fonction des covariables d’arrière-plan, engendrant des décalages de variance et des asymétries qui rendent l’inférence générale basée sur les formules i.i.d. hautement suspecte et difficilement réplicable.

8.3 Techniques de rééchantillonnage de type Bootstrap

Le statut fondateur du concept i.i.d. transparaît avec un éclat particulier dans l’architecture théorique du bootstrap non paramétrique, une méthodologie de calcul intensif introduite par Bradley Efron en 1979. Le bootstrap a révolutionné l’inférence moderne en permettant d’estimer l’erreur-type et les intervalles de confiance d’estimateurs statistiques extrêmement complexes sans formuler d’hypothèses paramétriques rigides sur la forme de la loi de population.

Le mécanisme algorithmique de base est d’une remarquable simplicité, mais ses justifications asymptotiques dépendent viscéralement du paradigme i.i.d. :

• On dispose d’un échantillon initial de données empiriques x = (x₁, x₂, …, x_n) présumé i.i.d. issu d’une fonction de répartition inconnue F.
• On substitue la population inconnue par la fonction de répartition empirique F_n, qui attribue un poids probabiliste de 1/n à chaque point d’observation.
• On effectue un tirage avec remise de n observations directement au sein du jeu de données d’origine pour forger un échantillon « bootstrap » x* = (x*₁, x*₂, …, x*_n).
• Parce que le tirage s’effectue avec remise dans une loi discrète fixée, les éléments rééchantillonnés x*_i conditionnellement à x sont, par construction formelle, rigoureusement i.i.d. selon la loi empirique F_n.

En répétant cette procédure des milliers de fois (par exemple B = 5 000 itérations), l’analyste reconstruit empiriquement la distribution d’échantillonnage de n’importe quelle statistique θ̂ (comme une médiane complexe, un rapport de cotes ou un indice psychométrique de fidélité). Néanmoins, il importe de garder à l’esprit la mise en garde d’Efron : la validité mathématique du bootstrap s’effondre si l’échantillon d’origine n’était pas i.i.d. Si les données sources sont temporellement autocorrélées ou groupées au sein de réseaux d’appartenance, un tirage avec remise uniforme casse la structure de dépendance et génère des pseudo-échantillons absurdes. Des extensions spécialisées (comme le block bootstrap pour les séries temporelles ou le cluster bootstrap pour les données hiérarchiques) ont dû être spécifiquement développées pour pallier les entorses aux conditions i.i.d. originelles.

9. Les situations de rupture de l’hypothèse i.i.d. : Non-respect de l’indépendance

9.1 Données longitudinales et mesures répétées chez le même sujet

L’infraction la plus documentée contre le premier pilier du paradigme i.i.d. émerge inévitablement dès lors qu’un protocole expérimental mesure une même variable à plusieurs reprises dans le temps auprès des mêmes unités statistiques. Dans les recherches psychologiques utilisant les devis longitudinaux ou les protocoles d’évaluation écologique instantanée (Ecological Momentary Assessment, EMA), où des participants remplissent un micro-questionnaire sur leur smartphone cinq fois par jour pendant un mois, postuler l’indépendance des observations est une aberration statistique.

La violation se formalise par l’existence d’une autocorrélation temporelle résiduelle. Si l’on désigne par Y_it l’état d’anxiété du participant i à l’instant t, cet état est conditionné de manière substantielle par son état à l’instant précédent t-1 :

Y_it = ρ Y_i,t-1 + ε_it, avec |ρ| > 0

Cette inertie psychologique et affective viole la condition fondamentale de factorisation des probabilités conjointes. Les scores collectés ne constituent plus des apports informationnels indépendants. Ignorer cette structure de couplage temporel au profit de modèles de régression par les moindres carrés ordinaires (OLS) a pour effet direct de fausser le dénominateur des tests d’hypothèse : la variance résiduelle est dramatiquement sous-évaluée, ce qui gonfle les valeurs des statistiques de test t et F. Le chercheur s’expose ainsi à un risque majeur d’erreur de première espèce, détectant des trajectoires de changement ou des effets d’intervention purement fallacieux.

9.2 Structures hiérarchiques et données groupées

Dans la recherche en sciences sociales, en éducation et en psychologie organisationnelle, la structure naturelle des contextes humains engendre des dépendances structurelles profondes que l’échantillonnage ne peut ignorer. Considérons une étude internationale évaluant les compétences cognitives d’élèves du primaire. Les élèves sont imbriqués (nested) au sein de classes scolaires spécifiques, elles-mêmes imbriquées au sein d’écoles, réparties dans des circonscriptions géographiques distinctes.

Deux élèves partageant la même classe de cours ne peuvent absolument pas être modélisés comme des variables aléatoires indépendantes. Ils sont exposés au style pédagogique du même enseignant, subissent les mêmes nuisances sonores, respirent le même air confiné et partagent une dynamique relationnelle commune. Cette interdépendance est quantifiée par le Coefficient de Corrélation Intraclasse (ICC ou ρ_ICC), qui mesure la part de variance totale du score imputable à l’appartenance aux grappes :

ρ_ICC = σ_inter² / (σ_inter² + σ_intra²)

Même un ρ_ICC modeste (par exemple 0,05) au sein de grappes de grande taille (des classes de 30 élèves) entraîne un « effet de plan » (design effect) considérable défini par la formule de Leslie Kish :

Deff = 1 + (m – 1) ρ_ICC = 1 + (30 – 1) × 0,05 = 2,45

Un tel résultat indique que la variance réelle des estimateurs est 2,45 fois plus élevée que celle stipulée par les formules standards présupposant des données i.i.d. L’application mécanique de statistiques paramétriques classiques sur des données groupées sans modélisation multiniveau conduit systématiquement à des taux de faux positifs inacceptables pouvant dépasser 30 à 40 % pour un seuil théorique nominal fixé à 5 %.

9.3 Réseaux sociaux et interactions interpersonnelles

La montée en puissance des données issues des plateformes de réseaux numériques (Twitter, Facebook, Instagram) et des sociogrammes organisationnels a fini de porter un coup fatal à l’illusion de l’indépendance universelle dans l’analyse comportementale. Au sein d’un graphe relationnel, les nœuds (les personnes) sont unis par des arêtes orientées ou non (liens d’amitié, flux de communication, mentions d’influence).

Dans ce contexte, les processus stochastiques sous-jacents relèvent de la contagion sociale, de l’imitation normative et du conformisme interindividuel. Si un utilisateur diffuse une opinion politique radicale ou une émotion dépressive, les nœuds adjacents dans le réseau présentent une probabilité fortement accrue de relayer ou d’exprimer des états psychologiques similaires. Cette géométrie relationnelle génère une dépendance dyadique et triangulaire complexe.

Traiter les publications ou les profils comportementaux extraits d’un réseau comme des observations i.i.d. conduit à ignorer le phénomène d’homophilie (« les individus semblables s’associent entre eux ») et d’influence structurelle. L’inférence statistique sur ces topologies d’interaction nécessite un renoncement total au formalisme i.i.d. classique au profit de la famille des Modèles de Graphes Aléatoires Exponentiels (ERGM – Exponential Random Graph Models) ou des processus spatiaux autorégressifs sur réseaux, les seuls capables de capturer formellement l’entrelacement de la connectivité humaine.

10. Les situations de rupture de l’hypothèse i.i.d. : Hétérogénéité distributionnelle

10.1 Sous-populations cachées et mélanges de distributions

L’invalidation du second pilier – l’identité de distribution – surgit de manière endémique en recherche quantitative lorsque l’échantillon analysé est traversé par une hétérogénéité sous-jacente non détectée ou non mesurée. Bien souvent, ce que le chercheur conceptualise comme une unique loi de probabilité globale f(x) ne représente qu’un amalgame trompeur de distributions dissemblables.

D’un point de vue mathématique, la variable aléatoire globale X est régie par un modèle de mélange fini de densités :

f(x ; θ) = ∑_k=1^K π_k f_k(x ; θ_k)

où π_k représente la probabilité de prévalence de la sous-population k (avec ∑ π_k = 1) et où f_k(·) figure la loi de probabilité conditionnelle propre à ce segment. Par exemple, lors de l’évaluation de symptômes dépressifs dans la population générale, l’échantillon réunit à la fois une grande masse d’individus sains (dont la distribution de scores est fortement compressée vers zéro avec une variance faible) et une minorité d’individus souffrant d’un trouble clinique majeur (dont la distribution est étalée vers les scores extrêmes avec une moyenne très élevée).

La déformation imposée aux moments empiriques par un tel mélange détruit le sens de l’analyse statistique classique. Les estimateurs déduisent une moyenne composite et une variance globale qui ne correspondent à la réalité d’aucun des sous-groupes pris isolément. Pour surmonter cette rupture distributionnelle, les méthodologues doivent abandonner le cadre univarié uniforme au profit de techniques avancées de classification latente, telles que l’Analyse de Classes Latentes (LCA) ou la modélisation par mixture gaussienne, estimée par l’algorithme d’Espérance-Maximisation (EM).

10.2 Non-stationnarité et dérive des distributions au fil du temps

L’hypothèse d’une loi de probabilité immuable est un postulat théorique commode qui s’accorde mal avec la dynamique fluide et changeante du temps historique. En épidémiologie, en sociologie et en psychologie clinique, les conditions d’environnement matériel, les seuils diagnostiques et les représentations culturelles subissent des mutations continuelles au cours du processus d’acquisition des données scientifiques.

Considérons une étude de cohorte épidémiologique s’étalant sur une décennie. Les variables mesurées au temps t₁ peuvent suivre une loi de distribution F₁, tandis qu’au temps t₁₀, sous l’effet de crises économiques, de l’évolution des critères nosographiques (telle la parution d’une nouvelle édition du DSM) ou de modifications des politiques publiques, la loi directrice a muté en F₁₀. La variable n’est donc plus stationnaire d’un cycle à l’autre :

F_t1(x) ≠ F_t2(x) pour t₁ ≠ t₂

En physique et en théorie des processus stochastiques, on formalise ce basculement par la distinction entre processus stationnaires (au sens strict ou au second ordre) et processus non stationnaires. Un processus est dit stationnaire au sens strict si la distribution de tout sous-ensemble d’observations est invariante par translation temporelle arbitraire. Dès lors que cette invariance disparaît, le flux de données génère un phénomène de dérive de concept (concept drift). Traiter l’ensemble des données agrégées sur l’ensemble de la période comme une unique suite de variables i.i.d. conduit à fusionner artificiellement des lois disparates, anéantissant la précision prédictive et la cohérence ontologique du modèle statistique.

10.3 Hétéroscédasticité dans l’analyse de régression

L’hétérogénéité distributionnelle ne se manifeste pas uniquement par une modification de l’espérance ou de la forme générale des distributions ; elle prend très fréquemment la forme plus pernicieuse d’une non-constance de la dispersion des erreurs : l’hétéroscédasticité. Dans le cadre fondamental du modèle linéaire général reliant une variable réponse Y à un ensemble de prédicteurs X :

Y_i = X_i β + ε_i

l’hypothèse de distribution identique appliquée aux perturbations aléatoires ε_i requiert l’homoscédasticité, c’est-à-dire l’égalité de la variance conditionnelle des erreurs pour toute valeur des variables explicatives :

Var(ε_i | X_i) = σ² = Constante ∀ i ∈ {1, …, n}

Lorsque cette clause est violée, la variance des erreurs résiduelles devient une fonction mathématique dépendante des niveaux des covariables : Var(ε_i | X_i) = σ_i² = h(X_i). Un exemple psychologique classique se retrouve dans l’étude des performances scolaires en fonction du quotient intellectuel : chez les enfants à faible quotient intellectuel, la variabilité des résultats aux épreuves scolaires est souvent très resserrée autour d’un score moyen bas, tandis que chez les enfants dotés d’un haut potentiel intellectuel, la variance des notes s’envole de manière spectaculaire, englobant aussi bien des réussites exceptionnelles que des échecs patents liés à l’ennui ou à un désengagement motivationnel.

En présence d’hétéroscédasticité, le théorème fondamental de Gauss-Markov cesse de s’appliquer : les estimateurs des moindres carrés ordinaires (MCO) conservent leur non-biaicité mais perdent irrémédiablement leur statut d’estimateurs linéaires sans biais à variance minimale (statut BLUE : Best Linear Unbiased Estimator). Pire encore, l’estimateur empirique de la matrice de variance-covariance des coefficients β est lourdement biaisé, conduisant les logiciels à imprimer des erreurs-types fausses. Les intervalles de confiance calculés et les tests d’hypothèse de Student sur la significativité des facteurs explicatifs deviennent caducs, exposant la recherche à des conclusions trompeuses.

11. Méthodes de diagnostic et tests statistiques pour vérifier l’hypothèse i.i.d.

11.1 Détection empirique de l’autocorrélation

Face au péril méthodologique induit par la violation du premier pilier i.i.d., la statistique moderne a développé un arsenal complet d’outils diagnostiques dédiés à la mise en évidence des dépendances sérielles. Dans le cadre de l’analyse des séries chronologiques et des résidus de régression, le test de Durbin-Watson constitue l’un des contrôles conventionnels les plus couramment exécutés. Il évalue spécifiquement l’existence d’une autocorrélation autorégressive d’ordre 1 (AR(1)) sur les résidus e_i par le ratio :

d = ∑_t=2ⁿ (e_t – e_t-1)² / ∑_t=1ⁿ e_t²

La valeur de la statistique d oscille structurellement entre 0 et 4. Une valeur proche de 2 atteste de l’absence de corrélation de premier ordre, tandis qu’une valeur convergeant vers 0 indique une forte autocorrélation positive et qu’une valeur se rapprochant de 4 traduit une autocorrélation négative.

Toutefois, le test de Durbin-Watson présente des limitations majeures : il est incapable de détecter des dépendances sérielles à des décalages plus profonds (lags d’ordres supérieurs) et devient non valide si le modèle régresse la variable dépendante sur ses propres valeurs passées. Pour contourner ces restrictions, l’analyste rigoureux mobilise le test de Breusch-Godfrey (test du multiplicateur de Lagrange pour l’autocorrélation générale), capable de tester la présence simultanée de dépendances jusqu’à l’ordre p quelconque.

Au-delà des tests d’hypothèse formels, l’inspection visuelle des corrélogrammes représentant la Fonction d’Autocorrélation (ACF) et la Fonction d’Autocorrélation Partielle (PACF) constitue une phase d’audit essentielle. Ces visualisations projettent pour chaque décalage temporel k le coefficient d’autocorrélation estimé, encadré par des bandes de confiance de Bartlett tracées à ± 1,96 / √n. Toute émergence statistique d’un pic dépassant significativement cette marge alerte immédiatement le chercheur sur l’invalidité de l’hypothèse i.i.d. pour les résidus observés.

11.2 Évaluation de l’homogénéité de la distribution

Vérifier le second pilier – l’identité de distribution – requiert de certifier empiriquement que la fonction de répartition ne varie pas de manière critique entre différents sous-ensembles du jeu de données ou à travers les différentes strates contextuelles. Le premier niveau d’inspection cible traditionnellement l’homogénéité des variances (l’homoscédasticité).

Le test de Levene (ou sa variante renforcée en robustesse, le test de Brown-Forsythe utilisant la médiane plutôt que la moyenne arithmétique) évalue l’hypothèse nulle d’égalité des variances entre k sous-groupes indépendants :

H₀ : σ₁² = σ₂² = … = σ_k²

Si la statistique de Levene franchit le seuil critique de significativité statistique, l’analyste doit rejeter l’hypothèse d’homogénéité de la dispersion, ce qui signale formellement une rupture de l’identité distributionnelle. Bien que le test de Bartlett soit parfois utilisé comme alternative, sa sensibilité aiguë à toute déviation par rapport à la normalité théorique le rend excessivement vulnérable dans les sciences appliquées.

Pour explorer les variations de la distribution au-delà de la seule variance et comparer la morphologie globale de deux sous-échantillons distincts, le test de Kolmogorov-Smirnov à deux échantillons est l’instrument non paramétrique idéal. Il quantifie la divergence suprême entre les deux fonctions de répartition empiriques :

D_n,m = sup_{x ∈ ℜ} |F_1,n(x) – F_2,m(x)|

Ce contrôle statistique est avantageusement complété sur le plan qualitatif par l’examen des diagrammes Quantile-Quantile multi-groupes (diagrammes Q-Q). La projection géométrique des quantiles empiriques d’un groupe contre ceux d’un autre groupe permet d’identifier au premier regard les discordances d’asymétrie, d’étirement ou d’épaisseur de queue marquant la perte d’homogénéité de la loi sous-jacente.

11.3 Tests de permutation et de séquences (Runs test)

Lorsque les données empiriques ont été acquises séquentiellement dans le temps ou dans l’espace et que l’analyste souhaite tester de manière non paramétrique la conjecture fondamentale d’indépendance sans imposer aucune hypothèse distributionnelle préalable, le test des suites de Wald-Wolfowitz (communément appelé Runs Test) constitue un diagnostic incontournable.

Le principe de cette méthode repose sur le décompte des « suites » (ou runs), définies comme des blocs contigus ininterrompus d’observations présentant la même caractéristique qualitative ou situés du même côté d’une valeur de coupure centrale (la médiane empirique de l’échantillon). Soit une séquence binaire comportant n₁ symboles positifs (+) et n₂ symboles négatifs (-), avec une taille totale de N = n₁ + n₂. Si les observations sont formellement issues d’un processus i.i.d., le nombre total de suites observées R au sein de la chaîne doit se comporter comme une variable aléatoire dont l’espérance mathématique et la variance sont rigoureusement fixées par la combinatoire discrète :

E[R] = 1 + (2 n₁ n₂) / N

Var(R) = [2 n₁ n₂ (2 n₁ n₂ – N)] / [N² (N – 1)]

Sous l’hypothèse nulle i.i.d., pour des échantillons de taille modérée à grande, la statistique standardisée Z = (R – E[R]) / √Var(R) converge asymptotiquement vers une loi normale standard N(0, 1) :

• Un nombre de suites anormalement faible (valeur Z fortement négative) indique la présence d’une tendance de fond sous-jacente ou d’une persistance sérielle positive (effet de contagion ou d’inertie).
• Un nombre de suites anormalement élevé (valeur Z fortement positive) révèle une alternance excessive et non aléatoire des signes, caractéristique d’un phénomène de compensation systématique ou de rétrocontrôle négatif cyclique.

Les tests de permutation complètent ce dispositif diagnostique en calculant la distribution exacte de n’importe quelle statistique de test par réarrangement combinatoire de l’ordre d’apparition des observations. Si l’indicateur observé sur la séquence ordonnée réelle s’écarte radicalement de la distribution dérivée sous les millions de permutations aléatoires possibles, la nature i.i.d. de la suite d’origine doit être révoquée sans appel.

12. Alternatives et adaptations méthodologiques face aux données non-i.i.d.

12.1 Modèles autorégressifs et analyse de séries temporelles

Lorsque le diagnostic méthodologique démontre de manière incontestable l’invalidité de l’indépendance en raison d’une dépendance sérielle temporelle, persister dans l’application des méthodes statistiques standard relève de la faute scientifique. La première issue méthodologique consiste à modéliser formellement et explicitement cette structure temporelle par la boîte à outils des séries chronologiques et des modèles ARIMA (Autoregressive Integrated Moving Average), formalisés par George Box et Gwilym Jenkins.

Dans un processus autorégressif d’ordre p (noté AR(p)), la variable dépendante mesurée à l’instant t n’est plus traitée comme isolée, mais s’exprime comme une combinaison linéaire directe de ses p réalisations temporelles passées, majorée d’un terme résiduel appelé bruit blanc :

Y_t = c + ∑_j=1^p φ_j Y_t-j + ε_t, avec ε_t ~ i.i.d. N(0, σ²)

Par cette formulation mathématique élégante, le statut i.i.d. n’est pas purement abandonné : il est repositionné là où il s’avère physiquement et mathématiquement légitime. Ce n’est plus la grandeur mesurée Y_t elle-même qui est supposée i.i.d., mais l’innovation résiduelle imprévisible ε_t (le choc d’information pure exogène) après purge méthodique de toute l’inertie endogène accumulée.

Dans les études psychologiques longitudinales intensives utilisant l’échantillonnage de l’expérience vécue (ESM), cette approche s’incarne à travers la modélisation de matrices de covariance résiduelle structurées. Au lieu d’imposer une matrice d’identité scalaire Σ = σ² I_n (qui postule des résidus i.i.d.), le statisticien spécifie une structure de Toeplitz ou une matrice de corrélation autorégressive d’ordre 1 (AR1), dans laquelle la corrélation théorique entre deux mesures temporelles décroît exponentiellement avec la distance temporelle qui les sépare : Corr(Y_t, Y_t+k) = ρ^k. Ce recalibrage structurel restaure la précision et la validité inférentielle des prédictions comportementales.

12.2 Modèles linéaires mixtes et approches multiniveaux

Pour les plans de recherche associant des mesures répétées intra-individuelles et des architectures de collecte hiérarchiques (élèves groupés dans des classes, patients suivis dans des hôpitaux), les Modèles Linéaires Mixtes (LMM – Linear Mixed Models), parfois désignés sous l’appellation de modèles multiniveaux ou modèles hiérarchiques linéaires (HLM), représentent le cadre méthodologique universel par excellence.

L’innovation fondamentale de ces modèles réside dans la décomposition explicite de la structure de variance globale en une articulation de composantes fixes (les effets constants dans la population cible) et d’effets aléatoires (capturant la singularité stochastique propre à chaque grappe ou à chaque participant). L’équation générale matricielle s’articule ainsi :

Y = X β + Z u + ε

où :

• X β symbolise la composante fixe habituelle reliant la réponse aux prédicteurs via les coefficients β.
• Z u incorpore la matrice de conception des effets aléatoires Z et le vecteur des perturbations aléatoires spécifiques aux sous-groupes u ~ N(0, G).
• ε matérialise le vecteur des erreurs résiduelles intra-individuelles ε ~ N(0, R).

Dans ce formalisme étendu, la matrice de variance-covariance totale de la variable réponse conditionnelle aux covariables devient :

Var(Y | X) = V = Z G Z^T + R

L’immense flexibilité de cette décomposition permet à la matrice V d’intégrer des corrélations hors-diagonales denses et complexes reflétant avec exactitude la dépendance intraclasse et l’interdépendance sérielle. Les algorithmes d’estimation basés sur le Maximum de Vraisemblance Restreint (REML) garantissent alors l’obtention d’estimateurs non biaisés de la variance des effets, immunisant définitivement le chercheur contre les biais inférentiels destructeurs qui frappaient inévitablement les méthodes conventionnelles basées sur le présupposé i.i.d.

12.3 Estimateurs à variance robuste et équations d’estimation généralisées (GEE)

Lorsque la structure formelle de corrélation ou d’hétéroscédasticité est trop difficile à expliciter de façon déterministe dans un modèle paramétrique, ou lorsque le chercheur redoute une mauvaise spécification des termes d’erreur, une solution alternative robuste consiste à modifier l’estimation de la matrice de covariance sans abandonner l’estimation ponctuelle des coefficients du modèle central.

Face à l’hétéroscédasticité des perturbations, l’utilisation de l’estimateur sandwich de Huber-White (communément appelé estimateur de variance robuste ou estimateur HC – Heteroscedasticity-Consistent) permet d’ajuster automatiquement les erreurs-types des coefficients calculés par les moindres carrés ordinaires. La matrice asymptotique se reformule à travers une mécanique matricielle élégante en forme de sandwich :

Var_robuste(β̂) = (X^T X)^-1 [X^T Σ̂ X] (X^T X)^-1

où la matrice centrale Σ̂ est une matrice diagonale construite directement à partir des carrés des résidus empiriques observés e_i². Même si la condition de distribution identique des termes d’erreur est lourdement transgressée, cet estimateur robuste converge asymptotiquement vers la variance réelle exacte des paramètres, restaurant instantanément la validité mathématique des tests de Student et de Wald associés.

Pour le traitement unifié des données longitudinales discrètes ou non gaussiennes (comme les séries répétées de variables binaires ou de comptage de Poisson), les Équations d’Estimation Généralisées (GEE – Generalized Estimating Equations), développées par Kung-Yee Liang et Scott Zeger en 1986, offrent une méthodologie non paramétrique d’une puissance exceptionnelle. La méthode requiert uniquement de spécifier une « matrice de corrélation de travail » (working correlation matrix) représentant la géométrie présumée d’interdépendance intra-sujet (indépendante, autorégressive, échangeable ou non structurée). Même si le chercheur se trompe dans le choix a priori de cette matrice de corrélation, la mécanique sandwich intégrée au sein des GEE garantit que les erreurs-types estimées convergeront de façon consistance vers leur véritable valeur à mesure que le volume d’échantillonnage s’accroît.

En mobilisant ces technologies statistiques contemporaines, le scientifique moderne s’émancipe de la servitude méthodologique de l’hypothèse i.i.d. tout en préservant le plus haut degré de rigueur analytique. Reconnaître la nature profondément non-i.i.d. de la complexité psychologique et humaine ne marque nullement une impasse pour la science statistique ; cela constitue au contraire le point de départ d’une modélisation plus intelligente, plus fidèle et plus robuste des mystères de l’esprit et du comportement.

Références

Box, G. E. P., Jenkins, G. M., Reinsel, G. C., & Ljung, G. M. (2015). Time series analysis: Forecasting and control (5th ed.). John Wiley & Sons. https://www.wiley.com/en-us/Time+Series+Analysis%3A+Forecasting+and+Control%2C+5th+Edition-p-9781118675021

Cronbach, L. J. (1951). Coefficient alpha and the internal structure of tests. Psychometrika, 16(3), 297–334. https://doi.org/10.1007/BF02310555

Efron, B. (1979). Bootstrap methods: Another look at the jackknife. The Annals of Statistics, 7(1), 1–26. https://doi.org/10.1214/aos/1176344552

Fisher, R. A. (1922). On the mathematical foundations of theoretical statistics. Philosophical Transactions of the Royal Society of London. Series A, 222(594–604), 309–368. https://doi.org/10.1098/rsta.1922.0009

Glivenko, V. (1933). Sulla determinazione empirica della legge di probabilità. Giornale dell’Istituto Italiano degli Attuari, 4(1), 92–99.

Kolmogorov, A. N. (1933). Grundbegriffe der Wahrscheinlichkeitsrechnung. Julius Springer. https://doi.org/10.1007/978-3-642-49888-6

Liang, K.-Y., & Zeger, S. L. (1986). Longitudinal data analysis using generalized linear models. Biometrika, 73(1), 13–22. https://doi.org/10.1093/biomet/73.1.13

Lindeberg, J. W. (1922). Eine neue Herleitung des Exponentialgesetzes in der Wahrscheinlichkeitsrechnung. Mathematische Zeitschrift, 15(1), 211–225. https://doi.org/10.1007/BF01494395

Raudenbush, S. W., & Bryk, A. S. (2002). Hierarchical linear models: Applications and data analysis methods (2nd ed.). Sage Publications.

White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator and a direct test for heteroskedasticity. Econometrica, 48(4), 817–838. https://doi.org/10.2307/1912934