Histoire de la loi normale

Les prémices de la compréhension de cette loi de probabilité à caractère central commencent avec Galilée lorsqu'il s'intéresse à un jeu de dé, notamment à la somme des points lors du lancer de trois dés. La question particulière sur laquelle Galilée se penche est : Pourquoi la somme 10 semble se présenter plus fréquemment que 9 ?[a 1] Galilée publie une solution en 1618 en faisant un décompte des différents cas. Il trouve que des erreurs d'observations sont distribuées de manière symétrique autour d'une « vraie valeur »[1].

L'origine de la loi normale remonte aux travaux de Jacques Bernoulli sur son théorème d'or, appelé aujourd'hui loi des grands nombres, publié dans son œuvre Ars Conjectandi en 1713. Il y calcule des probabilités liées à des paris sur des jeux de pile ou face[a 2], notamment le calcul de la probabilité que la moyenne du nombre de pile soit proche de la moyenne théorique 1/2, calcul dans lequel apparait le calcul de factorielles.

Abraham de Moivre introduit alors la formule de Stirling afin de préciser les calculs de Bernoulli[a 2]. De Moivre est le premier à faire apparaître la loi normale comme loi limite d'une loi binomiale, i.e. comme loi limite d'une somme de variables de Bernoulli, préfigurant ainsi le théorème central limite. Dans son ouvrage intitulé Approximatio ad Summam Terminorum Binomii ${\displaystyle \scriptstyle (a+b)^{n}}$ in Seriem expansi, écrit en latin en 1733 et publié en anglais en 1738, de Moivre calcule des probabilités de gains pour des jeux de hasard, et obtient alors la loi normale comme une « courbe »[1]. En 1756 dans The doctrines of chances, il publie les travaux qui seront à l'origine du théorème central limite[a 3]. Au milieu du XVIII^e siècle, Leonhard Euler définit la fonction Gamma d'Euler qui permet d'établir un lien entre les calculs de Bernoulli et de de Moivre et une courbe proche de la courbe en cloche[a 2].

Plus tard en 1777, Pierre-Simon de Laplace reprend les travaux de Bernoulli et de de Moivre et généralise leur théorème limite à l'aide de la fonction Gamma d'Euler[a 2]. Il obtient cette même loi mais en tant qu'approximation de la loi binomiale[2]. Pour cela il étudie le comportement du nombre de pile après un nombre important de lancers de pièce non équilibrée, il obtient alors une bonne estimation de l'écart entre la limite et la somme de variables. Pour cela Laplace développe une nouvelle méthode au début de la théorie des fonctions caractéristiques. Toujours dans le but d'estimer des erreurs, Laplace montre alors que la loi hypergéométrique peut être approchée par la loi normale[1]. Laplace s'intéresse également à la loi normale multidimensionnelle en tant que coordonnées normales indépendantes[3].

Dans ses travaux, Theoria motus corporum coelestium (1809) et Bestimmung der genauigkeit der beobachtung (1816), Carl Friedrich Gauss s'intéresse à la loi normale pour des calculs en astronomie[1] notamment le mouvement des corps célestes[a 3]. Pour minimiser les erreurs obtenues à partir des différentes observations, il utilise la méthode des moindres carrés qui permet d'obtenir la moyenne arithmétique des observations pour valeur la plus vraisemblable et la courbe de Gauss comme courbe des erreurs autour de cette valeur théorique[a 2]. Il obtient la loi normale en tant que solution d'une équation différentielle[4]. Cette étude statistique n'est finalement que le seul lien entre Gauss et cette loi[a 2].

Il existe alors une certaine compétition entre Laplace et Gauss pour trouver la meilleure méthode d'approcher les erreurs. C'est finalement Laplace qui énonce en 1810, et publie en 1812, le théorème de Laplace (appelé aujourd'hui théorème central limite) dans son ouvrage Théorie analytique des probabilités[a 2].

Comme d'autres à la même époque (Laplace, Laguerre par exemple), Gauss argue que n mesures ${\displaystyle (X_{1},X_{2},\dots ,X_{n})}$ de la même grandeur θ (pour la petite histoire, en l'occurrence, cette grandeur est de nature astronomique) sont de la forme ${\displaystyle (\theta +Y_{1},\theta +Y_{2},\dots ,\theta +Y_{n}),}$ où les ${\displaystyle Y_{i}}$ s'interprètent comme les erreurs de mesure. À l'époque, le consensus est que les ${\displaystyle Y_{i}}$ sont des variables aléatoires à densité, et on pense souvent qu'elles sont indépendantes et de même densité f, même si une des propositions était une densité jointe des ${\displaystyle Y_{i}}$ assez baroque et peu commode. La controverse porte sur le choix de f. Les ${\displaystyle Y_{i}}$ et θ sont inconnues, les valeurs connues (observées) sont les ${\displaystyle X_{i}.}$ La densité jointe de ${\displaystyle (Y_{1},Y_{2},\dots ,Y_{n})}$ est donc

${\displaystyle f(y_{1})f(y_{2})\dots f(y_{n}),}$

et la densité jointe des valeurs observées ${\displaystyle (X_{1},X_{2},\dots ,X_{n})}$ est

${\displaystyle L(\theta ,x_{1},x_{2},\dots ,x_{n})\ =\ f(x_{1}-\theta )f(x_{2}-\theta )\dots f(x_{n}-\theta ).}$

Selon Gauss[5], les deux affirmations suivantes devraient être vraies simultanément :

1. le meilleur estimateur de θ est la moyenne des ${\displaystyle x_{i}}$, notée ${\displaystyle {\overline {x}};}$
2. à valeurs observées ${\displaystyle (x_{1},x_{2},\dots ,x_{n})}$ fixées, le meilleur estimateur de θ est la valeur de θ réalisant le maximum de ${\displaystyle \theta \ \longrightarrow \ L(\theta ,x_{1},x_{2},\dots ,x_{n}).}$ En langage d'aujourd'hui, le meilleur estimateur de θ est l'estimateur du maximum de vraisemblance.

Autrement dit, d'après Gauss, la densité f doit être choisie de sorte que l'estimateur du maximum de vraisemblance soit la moyenne empirique. Gauss recherche donc toutes les fonctions f satisfaisant les inéquations fonctionnelles suivantes :

${\displaystyle \forall n\geq 1,\ \forall x_{1},x_{2},\dots ,x_{n},\theta \qquad f(x_{1}-{\overline {x}})f(x_{2}-{\overline {x}})\dots f(x_{n}-{\overline {x}})\ \geq \ f(x_{1}-\theta )f(x_{2}-\theta )\dots f(x_{n}-\theta ).}$

Il est naturel de supposer f régulier et de poser ${\displaystyle \Phi =\ln f,\ \varphi =\Phi ^{\prime }.}$

Pour ${\displaystyle n=2,}$

en écrivant que la dérivée en la variable ${\displaystyle \theta }$ s'annule pour ${\displaystyle \theta ={\overline {x}},}$ on obtient alors :

${\displaystyle \forall x_{1},x_{2},\qquad \varphi (x_{1}-{\overline {x}})+\varphi (x_{2}-{\overline {x}})\ =\ 0,}$

ou encore

${\displaystyle \forall x_{1},x_{2},\qquad \varphi \left({\tfrac {x_{1}-x_{2}}{2}}\right)+\varphi \left({\tfrac {x_{2}-x_{1}}{2}}\right)\ =\ 0,}$

autrement dit, ${\displaystyle \varphi }$ est une fonction impaire.

Pour ${\displaystyle n=3,}$

de la même manière, on obtient :

${\displaystyle \forall x_{1},x_{2},x_{3}\qquad \varphi (x_{1}-{\overline {x}})+\varphi (x_{2}-{\overline {x}})+\varphi (x_{3}-{\overline {x}})\ =\ 0,}$

ou encore, en utilisant que ${\displaystyle \varphi }$ est une fonction impaire,

${\displaystyle \forall x_{1},x_{2},x_{3}\qquad \varphi \left({\tfrac {2x_{1}-x_{2}-x_{3}}{3}}\right)+\varphi \left({\tfrac {2x_{2}-x_{1}-x_{3}}{3}}\right)\ =\ \varphi \left({\tfrac {x_{1}+x_{2}-2x_{3}}{3}}\right).}$

On en déduit que

${\displaystyle \forall u,v\qquad \varphi (u)+\varphi (v)\ =\ \varphi (u+v).}$

Il en découle que ${\displaystyle \varphi }$ est une fonction linéaire, donc ${\displaystyle \Phi }$ est de type ${\displaystyle Ax^{2}+B}$ et, finalement, f est de type ${\displaystyle \lambda e^{Ax^{2}}.}$

Réciproquement, dès que A est négatif et ${\displaystyle \lambda }$ positif, une fonction de type ${\displaystyle \lambda e^{Ax^{2}}}$ satisfait le système d'inéquations fonctionnelles posé par Gauss.

• 
  de Moivre
• 
  Gauss
• 
  Laplace
• 
  Quetelet

Notons que Francis Galton imagine une machine en 1889, appelée planche de Galton, qui permet d'illustrer la convergence du théorème central limite et ainsi de faire apparaître la courbe en cloche de la loi normale.

Comme mentionné précédemment, les travaux de Laplace sont liés au théorème central limite. Les hypothèses sur la suite de variables aléatoires, dont la limite est normale, ne sont pas clairement fixées. Plusieurs mathématiciens tels que Lindeberg (1922), Gnedenko ou Kolmogorov (1954), améliorent ces hypothèses afin d'obtenir de meilleurs théorèmes de convergence vers la loi normale[a 3] (voir section « Théorèmes de convergence » de l'article sur la loi normale).

Le calcul d'erreurs gaussien est alors utilisé par certains scientifiques, comme Bessel dans les années 1830, dans des domaines plus appliqués : astronomie, géodésique de terrain, étude statistique de populations, de productions agricoles ou industrielles, enregistrements météorologiques, etc. C'est le début des statistiques. Adolphe Quetelet, qui est l'un des statisticiens les plus connus du XIX^e siècle, publie en 1846 ses Lettres dans lesquelles il compare des données observées, des tours de poitrines de l'armée écossaise, à la courbe de Gauss qui fait alors sa première apparition dans une œuvre[a 2]. Les artilleurs ont pris conscience que la portée des tirs suit sensiblement une loi normale avec Isidore Didion en 1937[a 4].

L'étude probabiliste et l'utilisation statistique de la loi normale se poursuit alors durant les siècles suivants jusqu'à aujourd'hui. La formule de la somme de deux variables de loi normale est attribuée à Maurice d'Ocagne (début du XX^e siècle), bien que Poisson et Cauchy connaissaient déjà cette propriété, ainsi que possiblement Gauss[6]. La loi normale est vue comme une loi stable par Paul Lévy et Ernest Lhoste vers 1919[a 4].

Lorsque Laplace utilise la loi normale comme approximation de la loi hypergéométrique, il obtient en 1778 une première table de la loi, cette table est publiée en 1781[7]. E. S. Pearson et H. O. Hartley publient une table plus complète en 1948 basée sur les valeurs calculées par W. F. Sheppard en 1903 et 1907. Des tables complètes de valeurs sont données par le National Bureau of Standards (« Institut national des normes et de la technologie ») dans un ouvrage de 1952[8] et par J. A. Greenwood et H. O. Hartley dans un ouvrage de 1962[9].