Interconnexions entre la théorie des probabilités et la statistique

Classons les homonymies de probabilités et statistique par domaine.

• En théorie des probabilités, les probabilistes s'intéressent aux issues théoriques d'une expérience régie par de l'aléatoire, aléatoire que l'on modélise par des lois adéquates, des lois qu'on estime correspondre au modèle réel. On peut parler d'une « connaissance a priori »[6] puisque l'étude se fait sans données.

« À mon avis la théorie des probabilités est une discipline tout à fait du même genre que la géométrie ou la mécanique rationnelle. Elle a pour but la description systématique de certains phénomènes réels et se sert d'une construction idéalisée des notions et définitions abstraites. »

— Richard von Mises, 1932[4]

• En statistique, les statisticiens étudient des données empiriques (c'est-à-dire des données issues de situations concrètes). En les recueillant (lors d'un sondage par exemple), en les analysant qualitativement et/ou quantitativement (par des tableaux de données par exemple), en les interprétant pour leur trouver des propriétés, puis en les extrapolant pour émettre des hypothèses sur les données futures.
  On peut parler d'une « connaissance a posteriori »[6] puisque l'étude se fait après collecte de données.
  • Certains utilisent le terme « probabilité statistique »[6] pour désigner la statistique. Dans ce cas, la statistique est considérée comme une branche de la théorie des probabilités.
  • Pour analyser les données statistiques, des outils probabilistes sont utilisés (comme l'espérance mathématique ou la variance), certains considèrent alors que la théorie des probabilités n'est qu'un outil pour la statistique.

« La statistique est un mode de pensée permettant de recueillir, de traiter et d’interpréter les données qu’on rencontre dans divers domaines, et tout particulièrement dans les sciences de la vie, du fait que ces données présentent une caractéristique essentielle : la variabilité. »

— Daniel Schwartz, 1994

Ici nous considérons que les probabilités et la statistique sont deux domaines des sciences de l'aléatoire qui sont en interaction l'une avec l'autre.

« La théorie des probabilités et la statistique sont deux domaines importants, intégrés à nos activités quotidiennes. Le monde de l’industrie, les compagnies d’assurance sont largement tributaires des lois probabilistes. La physique elle-même est de nature essentiellement probabiliste. Il en est de même des fondements de la biologie. »

— Warren Weaver, 1963[7]

« Vous avez voulu témoigner que les statisticiens ne regardaient pas les mathématiciens comme des frères ennemis : soyez assurés que ces bons sentiments sont réciproques. »

— Émile Borel, extrait de son discours inaugural pour la présidence de la SSP en 1922

Prenons un exemple simple : celui du jeu de pile ou face.

Une question statistique serait : La pièce est-elle équilibrée? C'est-à-dire, plus mathématiquement, La probabilité d'obtenir pile est-elle 1/2? (voir cette section)

Détaillons le déroulement d'un test statistique. On commence par se fixer une hypothèse statistique : (H0) La probabilité d'obtenir pile est 1/2. On se donne également un risque seuil, c'est-à-dire un pourcentage en dessous duquel on accepte de rejeter H0. Par exemple on accepte que dans 5 % des cas où H0 est vraie, le test affirme que H0 est fausse. On se fixe un nombre significatif d'expériences à réaliser pour que le test statistique soit valide (voir par exemple cette section). Ce nombre doit être suffisamment petit pour être réalisable. On réalise les expériences et on recueille les résultats, c'est-à-dire que l'on compte la fréquence du résultat pile. On utilise alors un test statistique pour comparer cette valeur empirique avec la vraie valeur espérée : 1/2. On conclut sur l'acceptation ou le refus de H0 en fonction du seuil fixé.

• 
  Proportion de face dans un jeu de pile ou face. Pour chacun des 10 000 jeux de 200 lancers, on compte la proportion de face.
• 
  Courbe, dite « en cloche », de la loi normale qui est la représentation théorique de la fréquence de face.

Pour une étude probabiliste, on considère que la probabilité d'obtenir pile est 1/2. Puis on étudie une loi de probabilité ou la valeur d'une probabilité à partir du jeu aléatoire. Par exemple : Lorsque l'on réalise une infinité de lancers de pile ou face, quelle est la probabilité d'obtenir uniquement le résultat pile? (voir cette section)

Dans ce cas, on connait déjà la loi de probabilité associée au jeu de pile ou face. Par la loi du zéro un de Kolmogorov on sait que cette probabilité vaut soit 0 soit 1. Elle vaut donc 0 puisque son complémentaire (obtenir au moins une fois face) est de probabilité positive.

Autre question probabiliste : Si N désigne le numéro du premier lancer auquel apparait pile pour la première fois, quelle est la loi de N?

Connaissant l'indépendance des lancers et la probabilité d'obtenir pile (1/2), on déduit que cette loi est une loi géométrique. C'est-à-dire que la probabilité que N soit k est ${\displaystyle \scriptstyle 1/2^{k}}$ (1/2 pour N=1, 1/4 pour N=2, 1/8 pour N=3, etc) .