Loi normale

La loi normale est une distribution de probabilité continue qui est symétrique autour de sa moyenne μ et dont la forme est déterminée par son écart-type σ.

Caractéristiques

CaractéristiqueFormuleDescription
NotationNotation standard pour une loi normale de paramètres μ et σ²
Paramètresμ peut prendre toute valeur réelle, σ² doit être strictement positif
SupportLa variable peut prendre n'importe quelle valeur réelle
Densité de probabilitéFonction qui décrit la distribution de probabilité continue
Fonction de répartitionProbabilité que la variable soit inférieure ou égale à x
Fonction génératrice des momentsUtilisée pour calculer les moments de la distribution
Fonction caractéristiqueTransformée de Fourier de la densité de probabilité
QuantileValeur x telle que la probabilité d'être inférieur à x est p
MoyenneCentre de la distribution et valeur attendue
MédianeÉgale à la moyenne du fait de la symétrie
ModeValeur la plus probable, au sommet de la courbe
VarianceMesure de la dispersion autour de la moyenne
Déviation absolue moyenneMoyenne des écarts absolus à la moyenne
AsymétrieDistribution parfaitement symétrique
KurtosisMesure de l'aplatissement de la distribution
Kurtosis normaliséExcès de kurtosis par rapport à la normale
Entropie de ShannonMesure de l'incertitude de la distribution
Information de FisherMesure de l'information contenue dans la distribution
Distance de Kullback-LeiblerDivergence entre deux distributions normales

Propriétés et Théorèmes

Propriété/ThéorèmeFormuleDescription
Symétrie

Propriété fondamentale : la courbe est parfaitement symétrique autour de la moyenne . Les valeurs équidistantes de la moyenne ont la même densité de probabilité.

Règle empirique

Propriété empirique connue sous le nom de "règle des 68-95-99.7" : pourcentage des observations dans les intervalles à 1, 2 et 3 écarts-types de la moyenne

Standardisation

Propriété fondamentale : toute loi normale peut être ramenée à la loi normale centrée réduite par cette transformation

Stabilité linéaire

Propriété fondamentale : une combinaison linéaire d'une variable normale suit aussi une loi normale avec ces paramètres

Additivité

Théorème de Cramér : la somme de variables normales indépendantes suit une loi normale avec ces paramètres

Maximum d'entropie

Théorème de Shannon-McMillan-Breiman : parmi toutes les distributions de même variance, la loi normale maximise l'entropie de Shannon

Reproductibilité

Généralisation de la propriété de stabilité linéaire à toute combinaison linéaire de variables normales indépendantes

Indépendance et corrélation

Théorème fondamental : pour des variables normales, l'absence de corrélation est équivalente à l'indépendance

Convergence

Cas particulier du théorème central limite : la moyenne empirique normalisée d'un échantillon normal converge en loi vers une normale centrée réduite

Applications

Théorème central limite

La somme d'un grand nombre de variables aléatoires indépendantes et identiquement distribuées tend vers une loi normale (sous certaines conditions).

Tests statistiques

La loi normale est à la base de nombreux tests statistiques comme le test de Student ou l'ANOVA.

Inférence Statistique

ConceptFormuleDescription
Estimation de la moyenne

La moyenne empirique suit une loi normale de variance réduite par la taille de l'échantillon

Intervalle de confiance pour μ (σ connu)

Intervalle de confiance au niveau 1-α pour la moyenne, lorsque l'écart-type est connu

Intervalle de confiance pour μ (σ inconnu)

Intervalle de confiance utilisant la loi de Student lorsque l'écart-type est inconnu

Test de StudentStatistique de test pour la moyenne sous H₀ : μ = μ₀
Test ZTest pour la moyenne lorsque σ est connu
Intervalle de confiance pour σ²Intervalle de confiance pour la variance

Remarques importantes

  • Les intervalles de confiance supposent la normalité des données
  • Le test de Student est robuste aux écarts modérés à la normalité pour de grands échantillons

  • Le test Z nécessite de connaître la variance de la population, ce qui est rare en pratique

  • Pour de grands échantillons, le théorème central limite permet d'utiliser ces tests même si la normalité n'est pas strictement vérifiée

  • La puissance des tests dépend de la taille d'échantillon, de la taille d'effet et du niveau de signification

  • Les tests multiples nécessitent des corrections pour contrôler le taux d'erreur de type I

  • L'ANOVA suppose l'homogénéité des variances entre les groupes (homoscédasticité)
  • La régression linéaire suppose l'indépendance et l'homoscédasticité des résidus

Méthodes Computationnelles

MéthodeDescriptionApplications
Génération de nombres aléatoiresMéthode de Box-Muller et algorithme de MarsagliaSimulations Monte-Carlo, bootstrap
Approximation numérique

Méthodes d'approximation de la fonction de répartition et des quantiles

Calcul de probabilités et de valeurs critiques
Tests de normalitéTests de Shapiro-Wilk, Kolmogorov-Smirnov, et QQ-plotsVérification des hypothèses de normalité
Calcul de puissanceSimulation de la puissance des tests sous différentes alternativesDimensionnement d'échantillon, analyse de sensibilité
Chargement…

Exemples pratiques

Chargement…

Références

• Wikipideia, Normal distribution : https://en.wikipedia.org/wiki/Normal_distribution