Intervalle de confiance

L’espérance et la variance d’une loi normale peuvent être estimées[4] à partir d’un échantillon (X₁, ... , X_n).

Si l’écart type σ est connu, la moyenne empirique X suit une loi normale de même espérance μ et de variance σ²/n, donc le quotient ${\displaystyle {\frac {{\sqrt {n}}({\overline {X}}-\mu )}{\sigma }}}$ suit la loi normale centrée réduite. En utilisant un quantile k de cette loi, on obtient l'encadrement ${\displaystyle \mu -k{\frac {\sigma }{\sqrt {n}}}<{\overline {X}}<\mu +k{\frac {\sigma }{\sqrt {n}}}}$ donc ${\displaystyle {\overline {X}}-k{\frac {\sigma }{\sqrt {n}}}<\mu <{\overline {X}}+k{\frac {\sigma }{\sqrt {n}}}}$.

Si l’écart type n’est pas connu, il peut être estimé par ${\displaystyle S={\sqrt {{\frac {1}{n}}\sum _{i=1}^{n}(X-{\overline {X}})^{2}}}}$, puis on calcule ${\displaystyle T={\frac {{\overline {X}}-\mu }{S}}{\sqrt {n-1}}}$ qui suit une loi de Student à (n – 1) degrés de liberté. Un encadrement par des quantiles –k < T < k donne l’intervalle de confiance défini par ${\displaystyle {\overline {X}}-k{\frac {S}{\sqrt {n-1}}}<\mu <{\overline {X}}+k{\frac {S}{\sqrt {n-1}}}}$.

Pour estimer la variance, si l’espérance μ est connue, on peut calculer l’estimateur ${\displaystyle T={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}}$. Sachant que nT/σ² suit une loi du χ² (« khi-deux ») avec n degrés de liberté, l’encadrement par des quantiles k₁ < nT/σ² < k₂ donne un intervalle de confiance défini par ${\displaystyle {\frac {nT}{k_{2}}}<\sigma ^{2}<{\frac {nT}{k_{1}}}}$.

Si l’espérance n’est pas connue, on calcule l’estimateur ${\displaystyle S^{2}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}}$, sachant que nS²/σ² suit une loi du χ² avec (n – 1) degrés de liberté. L’encadrement par des quantiles k₁ < nS²/σ² < k₂ donne un intervalle de confiance défini par ${\displaystyle {\frac {nS^{2}}{k_{2}}}<\sigma ^{2}<{\frac {nS^{2}}{k_{1}}}}$.

Pour un échantillon (X₁, ... , X_n) de variables uniformes sur un intervalle [0, b], la variable M = max(X₁, ... , X_n) a pour fonction de répartition F(x) = xⁿ/bⁿ sur le même intervalle, d’où ${\displaystyle {\bf {P}}(c<M<b)=1-\alpha }$ pour c = b ⁿ√α.

On obtient alors un intervalle de confiance défini par M < b < M α^–1/n au niveau (1 – α).

Si X est la moyenne empirique calculée à partir d’un échantillon (X₁, ... , X_n) de variables exponentielles de paramètre λ > 0, le théorème central limite permet d’approcher la loi de ${\displaystyle {\frac {{\overline {X}}-1/\lambda }{1/{\sqrt {n\lambda ^{2}}}}}}$ par la loi normale centrée réduite, donc en considérant un quantile k de cette loi, on obtient un intervalle de confiance défini par ${\displaystyle {\frac {1-k/{\sqrt {n}}}{\overline {X}}}<\lambda <{\frac {1+k/{\sqrt {n}}}{\overline {X}}}}$.

L'usage le plus simple des intervalles de confiance concerne les populations à distribution normale (en forme de cloche) dont on cherche à estimer la moyenne X. Si on connaît l'écart type σ(X) (ou si on en connaît une estimation assez fiable) de cette distribution, et si on mesure la moyenne x sur un échantillon de taille n pris au hasard, alors

• l'intervalle ${\displaystyle \left[{\overline {x}}-{\frac {\sigma (X)}{\sqrt {n}}};{\overline {x}}+{\frac {\sigma (X)}{\sqrt {n}}}\right]}$ est un intervalle de confiance de X à environ 68 %
• l'intervalle ${\displaystyle \left[{\overline {x}}-2{\frac {\sigma (X)}{\sqrt {n}}};{\overline {x}}+2{\frac {\sigma (X)}{\sqrt {n}}}\right]}$ est un intervalle de confiance de X à environ 95 %[8]
• l'intervalle ${\displaystyle \left[{\overline {x}}-3{\frac {\sigma (X)}{\sqrt {n}}};{\overline {x}}+3{\frac {\sigma (X)}{\sqrt {n}}}\right]}$ est un intervalle de confiance de X à environ 99,7 %

Ces formules sont valables pour des échantillons supposés infinis (n > 100). Dans le cas d'échantillon plus petit, la consultation d'une table de distribution de la loi de Student est nécessaire.

Encore faut-il connaître ou avoir une estimation de l'écart type σ(X). En pratique, on prend comme estimation de σ(X) la valeur s, l'écart-type de la série de mesures issues de l'échantillon.

Ainsi l'on voit que pour augmenter la confiance, il faut élargir l'intervalle et pour obtenir un intervalle plus fin avec même degré de confiance, il faut augmenter la taille de l'échantillon.

On cherche à estimer le pourcentage de personnes ayant une voiture rouge. Pour cela on effectue un sondage. Comme on ne sonde pas toute la population, on a de bonnes chances de ne pas tomber exactement sur la bonne valeur mais de faire une erreur. On veut alors donner un intervalle qui a 95 % de chances de contenir la vraie valeur.

Pour cela on effectue un sondage sur 1 000 personnes. Les résultats sont les suivants : 150 personnes ont une voiture rouge, 850 n’en ont pas.

On appelle p la « vraie » proportion de personnes dans la population totale qui ont une voiture rouge. On cherche à estimer p. On appelle N le nombre de personnes ayant été sondées, ici N = 1000. On appelle S le nombre de personnes ayant une voiture rouge parmi les N personnes sondées. L’idée est de présenter comme estimation de p la valeur S/N.

On applique le théorème central limite aux variables aléatoires X₁, …, X_n où X_i vaut 1 si la i-ème personne sondée a une voiture rouge et 0 sinon. Chaque variable X_i suit une loi de Bernoulli de moyenne p et de variance p(1–p). Ces variables aléatoires ne sont mathématiquement indépendantes que si l’on laisse la possibilité de sonder éventuellement plusieurs fois la même personne dans le sondage (ce qui s’identifie à un tirage avec remise). Compte tenu de cette remarque, on applique le théorème central limite. Alors :

${\displaystyle {\frac {S-Np}{\sqrt {Np(1-p)}}}}$ tend vers une loi normale de moyenne 0 et de variance 1 (car S = X₁ + … + X_N et N est assez grand).

Pour une loi normale de moyenne 0 et de variance 1 on a : P(−1,96 < Z < 1,96) = 0,95. La valeur -1,96 est le quantile d’ordre 2,5 % de la loi normale. Ces valeurs peuvent se trouver dans des tables de quantiles ou être calculées à partir de la fonction d’erreur réciproque : q = √2 erf^-1(P) par exemple, q = √2 erf^-1(0,95) = 1,9599… (voir par exemple les quantiles de la loi de Student pour un exemple de table de quantile.)

${\displaystyle P\left(-1,96<{\frac {S/N-p}{\sqrt {p(1-p)/N}}}<1,96\right)\approx 0,95.}$

Soit encore

${\displaystyle P\left({\frac {S}{N}}-1,96{\sqrt {p(1-p)/N}}<p<{\frac {S}{N}}+1,96{\sqrt {p(1-p)/N}}\right)\approx 0,95.}$

En estimant ${\displaystyle {\sqrt {p(1-p)}}}$ par ${\displaystyle {\sqrt {(S/N)(1-(S/N))}}}$ on peut alors encadrer p :

Pourquoi l’on peut bien faire cette estimation

En fait si on appelle ${\displaystyle {\overline {\sigma }}={\sqrt {{\frac {N}{N-1}}{\frac {S}{N}}\left(1-{\frac {S}{N}}\right)}}}$ l’estimateur de la variance constatée, la variable ${\displaystyle {\frac {S-Np}{{\overline {\sigma }}{\sqrt {N}}}}}$ suit une loi de Student à N-1 degrés de libertés. Ici, (N-1)=999 donc les quantiles d’ordre 999 de la loi de Student sont les mêmes d’un point de vue numérique que ceux d’ordre infini qui correspondent à la loi normale. On peut donc remplacer la variance par l’estimateur de la variance constatée.

Ensuite l’on peut remplacer ${\displaystyle {\overline {\sigma }}\approx {\sqrt {{\frac {S}{N}}\left(1-{\frac {S}{N}}\right)}}}$ l’erreur en pourcentage sur la variance constatée en omettant la normalisation N/N–1 qui pour N = 1 000 est de l’ordre de 5/10 000 que l’on néglige pour ne pas alourdir la présentation.

${\displaystyle P\left({\frac {S}{N}}-1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}<p<{\frac {S}{N}}+1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}\ \right)\approx 0,95}$.

L’intervalle de confiance à 95 % vaut alors [0,127 ; 0,173]. On est sûr à environ 95 % qu’entre 12,7 % et 17,3 % de personnes ont une voiture rouge avec ce sondage[9].

Pour avoir une plus grande précision, il faudrait sonder plus de personnes. On remarque en effet l’existence d’un N apparaissant au dénominateur des deux racines carrées. Si on sonde plus de personnes (N plus grand), ces deux termes auront tendance à devenir plus petits et l’intervalle sera plus petit.

Remarque

À la suite des diverses approximations du raisonnement, le résultat d’une confiance à 95 % n’est pas toujours assuré. On arrive à un résultat inférieur à 95 % pour certaines valeurs de p et N. Par exemple :

si N = 100 et p = 0,5, alors ${\displaystyle P\left({\frac {S}{N}}-1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}<p<{\frac {S}{N}}+1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}\ \right)\simeq 0,9431}$ ;

si N = 100 et p = 0,37, alors ${\displaystyle P\left({\frac {S}{N}}-1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}<p<{\frac {S}{N}}+1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}\ \right)\simeq 0,9370}$ ;

si N = 150 et p = 0,4245, alors ${\displaystyle P\left({\frac {S}{N}}-1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}<p<{\frac {S}{N}}+1,96{\sqrt {\frac {(S/N)(1-(S/N))}{N}}}\ \right)\simeq 0,9426}$…

Cas particulier où le sondage porte sur un échantillon de taille non négligeable par rapport à celle de la population totale

On effectue un sondage sur N personnes différentes, prises aléatoirement dans une population totale de M individus. On suppose que N n’est pas négligeable devant M (par exemple ${\displaystyle N/M=1/3}$), si bien que le théorème central limite ne s’applique plus vraiment (pour cause de non-indépendance des variables aléatoires ${\displaystyle X_{i}}$ décrites au-dessus). On appelle p la « vraie » proportion de personnes dans la population totale, et on appelle N le nombre de personnes ayant été sondées (par exemple ${\displaystyle N=1000}$). On appelle S le nombre de personnes ayant une voiture rouge parmi les N personnes différentes. Alors S suit une loi proche de la loi normale d’espérance ${\displaystyle Np}$ et, non pas de variance ${\displaystyle Np(1-p)}$, mais de variance ${\displaystyle Np(1-p)(1-N/M)}$. Cette dernière est plus petite et réduit ainsi d’autant la longueur de l’intervalle de confiance, lequel est alors : ${\displaystyle \left({\frac {S}{N}}-1,96{\sqrt {\frac {(S/N)(1-S/N)(1-N/M)}{N}}}<p<{\frac {S}{N}}+1,96{\sqrt {\frac {(S/N)(1-S/N)(1-N/M)}{N}}}\ \right)}$

Cas particulier avec de faibles (ou fortes) probabilités

Si le résultat du sondage est qu’aucune personne n’a de voiture rouge sur les 1 000 interrogés, cela ne signifie pas qu’il n’existe aucune voiture rouge. Selon « la règle de trois (en)»[10], l’estimation de la borne supérieure de l’intervalle de confiance est de 3/n, soit 3/1 000 dans l’exemple. D’où l’estimation de 0 % de personnes possédant une voiture rouge avec un intervalle de confiance de [0 % ; 0,3 %].

On cherche à estimer l'espérance X où X suit la loi exponentielle. On se fixe un niveau de confiance P ∈ ]0;1[ et on calcule q = √2 erf^-1(P) (quantile d'ordre de la loi normale). Si on mesure la moyenne x sur un échantillon de taille n pris au hasard, alors l'intervalle ${\displaystyle I(n,q)=\left[{\frac {\overline {x}}{1+q/{\sqrt {n}}}};{\frac {\overline {x}}{1-q/{\sqrt {n}}}}\right]}$ est un intervalle de confiance de X à un niveau de confiance proche de P, cela quels que soient le niveau P ∈ ]0;1[ et la taille de l'échantillon n > q².

Par exemple, si la moyenne d'un échantillon de taille n = 20 est x = 3, alors l'intervalle de confiance à P=95 % est ${\displaystyle I(20,1{,}96)=\left[{\frac {3}{1+1{,}96/{\sqrt {20}}}};{\frac {3}{1-1{,}96/{\sqrt {20}}}}\right]\simeq [2{,}09;5{,}34]}$. Cela étant, lorsque la taille de l'échantillon et le niveau de confiance sont fixés, on peut calculer facilement un intervalle de confiance J de longueur inférieure à celle de I(n,q) et de manière exacte : par exemple, si on fixe n = 20 et P = 95 %, alors on obtient l'intervalle de confiance ${\displaystyle J=\left[{\frac {\overline {x}}{1{,}63}};{\frac {\overline {x}}{0{,}68}}\right]}$ (qui donne environ [1,84 ; 4,41] lorsque x = 3). Le lecteur en trouvera la preuve dans le premier exemple de la page 295 du livre de Delmas "Introduction au calcul des probabilités et à la statistique" (en référence ci-dessous).

• Erreur (métrologie)
• Critères de dispersion

• « Expérience numérique interactive d'intervalles de confiance », sur experiences.math.cnrs.fr
• Introduction au calcul des probabilités et à la statistique, livre de 315 pages.

• Schenker N & Gentleman JF (2001) On judging the significance of differences by examining the overlap between confidence intervals. Am. Stat. 55, 182–186.