Série d'Edgeworth

On considère une variable aléatoire continue. On note ${\displaystyle {\hat {f}}}$ la fonction caractéristique de sa distribution dont la fonction de densité est f, et ${\displaystyle \kappa _{r}}$ ses cumulants. On développe en termes de distribution connue avec la fonction de densité de probabilité ψ, sa fonction caractéristique ${\displaystyle {\hat {\psi }}}$, et ses cumulants ${\displaystyle \gamma _{r}}$ . La densité ψ est généralement choisie comme étant celle de la distribution normale, mais d'autres choix sont également possibles. Par la définition des cumulants, on a (voir Wallace, 1958) [3]:

${\displaystyle {\hat {f}}(t)=\exp \left[\sum _{r=1}^{\infty }\kappa _{r}{\frac {(\mathrm {i} t)^{r}}{r!}}\right]}$ et

${\displaystyle {\hat {\psi }}(t)=\exp \left[\sum _{r=1}^{\infty }\gamma _{r}{\frac {(\mathrm {i} t)^{r}}{r!}}\right],}$

qui donne l'identité formelle suivante :

${\displaystyle {\hat {f}}(t)=\exp \left[\sum _{r=1}^{\infty }(\kappa _{r}-\gamma _{r}){\frac {(\mathrm {i} t)^{r}}{r!}}\right]{\hat {\psi }}(t)\,.}$

Par les propriétés de la transformée de Fourier, ${\displaystyle (\mathrm {i} t)^{r}{\hat {\psi }}(t)}$ est la transformée de Fourier de ${\displaystyle (-1)^{r}[D^{r}\psi ](-x)}$, où D est l' opérateur différentiel par rapport à x . Ainsi, après avoir changé ${\displaystyle x}$ avec ${\displaystyle -x}$ des deux côtés de l'équation, on trouve pour f le développement formel

${\displaystyle f(x)=\exp \left[\sum _{r=1}^{\infty }(\kappa _{r}-\gamma _{r}){\frac {(-D)^{r}}{r!}}\right]\psi (x)\,.}$

Si ψ est choisi comme la densité normale

${\displaystyle \phi (x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\exp \left[-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right]}$

avec la moyenne et la variance données par f, c'est-à-dire comme moyenne ${\displaystyle \mu =\kappa _{1}}$ et comme variance ${\displaystyle \sigma ^{2}=\kappa _{2}}$, alors le développement devient

${\displaystyle f(x)=\exp \left[\sum _{r=3}^{\infty }\kappa _{r}{\frac {(-D)^{r}}{r!}}\right]\phi (x),}$

puisque ${\displaystyle \gamma _{r}=0}$ pour tout r > 2, car les cumulants d'ordres supérieurs de la distribution normale sont nuls. En développant les termes exponentiels et réunissant les termes selon l'ordre des dérivées, on arrive à la série A de Gram-Charlier. Un tel développement peut être écrit de manière compacte avec les polynômes de Bell ainsi :

${\displaystyle \exp \left[\sum _{r=3}^{\infty }\kappa _{r}{\frac {(-D)^{r}}{r!}}\right]=\sum _{n=0}^{\infty }B_{n}(0,0,\kappa _{3},\ldots ,\kappa _{n}){\frac {(-D)^{n}}{n!}}.}$

Puisque la dérivée n-ième de la fonction gaussienne ${\displaystyle \phi }$ est donnée en termes de polynôme d'Hermite par

${\displaystyle \phi ^{(n)}(x)={\frac {(-1)^{n}}{\sigma ^{n}}}He_{n}\left({\frac {x-\mu }{\sigma }}\right)\phi (x),}$

on obtient l'expression finale de la série A de Gram-Charlier comme

${\displaystyle f(x)=\phi (x)\sum _{n=0}^{\infty }{\frac {1}{n!\sigma ^{n}}}B_{n}(0,0,\kappa _{3},\ldots ,\kappa _{n})He_{n}\left({\frac {x-\mu }{\sigma }}\right).}$

L'intégration de la série donne la fonction de répartition :

${\displaystyle F(x)=\int _{-\infty }^{x}f(u)\,\mathrm {d} u=\Phi (x)-\phi (x)\sum _{n=3}^{\infty }{\frac {1}{n!\sigma ^{n-1}}}B_{n}(0,0,\kappa _{3},\ldots ,\kappa _{n})He_{n-1}\left({\frac {x-\mu }{\sigma }}\right),}$

où ${\displaystyle \Phi }$ est la fonction de répartition de la loi normale.

Si on n'inclut que les deux premiers termes de correction à la loi normale, il vient :

${\displaystyle f(x)\approx {\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left[-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right]\left[1+{\frac {\kappa _{3}}{3!\sigma ^{3}}}He_{3}\left({\frac {x-\mu }{\sigma }}\right)+{\frac {\kappa _{4}}{4!\sigma ^{4}}}He_{4}\left({\frac {x-\mu }{\sigma }}\right)\right]\,,}$

avec ${\displaystyle He_{3}(x)=x^{3}-3x}$ et ${\displaystyle He_{4}(x)=x^{4}-6x^{2}+3}$ .

On notera que cette expression n'est pas assurée d'être positive et ne définit donc pas une loi de probabilité valide. La série A de Gram – Charlier diverge dans de nombreux cas classiques - elle ne converge que si ${\displaystyle f(x)}$ décroit plus vite que ${\displaystyle \exp(-(x^{2})/4)}$ à l'infini (Cramér 1957). Lorsqu'elle ne converge pas, la série n'est pas non plus un véritable développement asymptotique, car il n'est pas possible d'estimer l'erreur du développement. Pour cette raison, la série d'Edgeworth est généralement préférée à la série A de Gram-Charlier.

Edgeworth a établi un développement similaire en tant qu'amélioration du théorème central limite[4]. L'avantage de la série d'Edgeworth est que l'erreur est contrôlée, de sorte qu'il s'agit d'un véritable développement asymptotique .

Soient ${\displaystyle \{Z_{i}\}}$ une suite de variables aléatoires indépendantes et identiquement distribuées de moyenne ${\displaystyle \mu }$ et variance ${\displaystyle \sigma ^{2}}$, et soient ${\displaystyle X_{n}}$ leurs sommes standardisées :

${\displaystyle X_{n}={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}{\frac {Z_{i}-\mu }{\sigma }}.}$

On note ${\displaystyle F_{n}}$ les fonctions de répartition des variables ${\displaystyle X_{n}}$. Alors par le théorème central limite,

${\displaystyle \lim _{n\to \infty }F_{n}(x)=\Phi (x)\equiv \int _{-\infty }^{x}{\tfrac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}}q^{2}}dq}$

pour chaque ${\displaystyle x}$, tant que la moyenne et la variance sont finies.

La standardisation de ${\displaystyle \{Z_{i}\}}$ assure que les deux premiers cumulants de ${\displaystyle X_{n}}$ valent ${\displaystyle \kappa _{1}^{F_{n}}=0}$ et ${\displaystyle \kappa _{2}^{F_{n}}=1.}$ On suppose maintenant que, en plus d'avoir une moyenne ${\displaystyle \mu }$ et une variance ${\displaystyle \sigma ^{2}}$ finies, les variables aléatoires iid ${\displaystyle Z_{i}}$ ont des cumulants plus élevés ${\displaystyle \kappa _{r}}$ bien définis. A partir des propriétés d'additivité et d'homogénéité des cumulants, les cumulants de ${\displaystyle X_{n}}$ en termes de cumulants de ${\displaystyle Z_{i}}$ sont pour ${\displaystyle r\geq 2}$ ,

${\displaystyle \kappa _{r}^{F_{n}}={\frac {n\kappa _{r}}{\sigma ^{r}n^{r/2}}}={\frac {\lambda _{r}}{n^{r/2-1}}}\quad \mathrm {where} \quad \lambda _{r}={\frac {\kappa _{r}}{\sigma ^{r}}}.}$

Si on développe l'expression formelle de la fonction caractéristique ${\displaystyle {\hat {f}}_{n}(t)}$ de ${\displaystyle F_{n}}$ en termes de distribution normale standard, c'est-à-dire si l'on pose

${\displaystyle \phi (x)={\frac {1}{\sqrt {2\pi }}}\exp(-{\tfrac {1}{2}}x^{2}),}$

alors les différences entre cumulants dans le développement sont

${\displaystyle \kappa _{1}^{F_{n}}-\gamma _{1}=0,}$

${\displaystyle \kappa _{2}^{F_{n}}-\gamma _{2}=0,}$

${\displaystyle \kappa _{r}^{F_{n}}-\gamma _{r}={\frac {\lambda _{r}}{n^{r/2-1}}};\qquad r\geq 3.}$

La série A de Gram-Charlier pour la fonction de densité de ${\displaystyle X_{n}}$ est maintenant

${\displaystyle f_{n}(x)=\phi (x)\sum _{r=0}^{\infty }{\frac {1}{r!}}B_{r}\left(0,0,{\frac {\lambda _{3}}{n^{1/2}}},\ldots ,{\frac {\lambda _{r}}{n^{r/2-1}}}\right)He_{r}(x).}$

La série d'Edgeworth est développée de manière similaire à la série A de Gram-Charlier, sauf que maintenant les termes sont regroupés en fonction des puissances de n. Les coefficients du terme n^-m/2 peuvent être obtenus en rassemblant les monômes des polynômes de Bell correspondant aux partitions entières de m. Ainsi, on obtient la fonction caractéristique :

${\displaystyle {\hat {f}}_{n}(t)=\left[1+\sum _{j=1}^{\infty }{\frac {P_{j}(\mathrm {i} t)}{n^{j/2}}}\right]\exp(-t^{2}/2)\,,}$

où ${\displaystyle P_{j}(x)}$ est un polynôme de degré ${\displaystyle 3j}$. Ainsi, après transformée de Fourier inverse, la fonction de densité ${\displaystyle f_{n}}$ s'exprime comme suit :

${\displaystyle f_{n}(x)=\phi (x)+\sum _{j=1}^{\infty }{\frac {P_{j}(-D)}{n^{j/2}}}\phi (x)\,.}$

De même, en intégrant la série, on obtient la fonction de répartition :

${\displaystyle F_{n}(x)=\Phi (x)+\sum _{j=1}^{\infty }{\frac {1}{n^{j/2}}}{\frac {P_{j}(-D)}{D}}\phi (x)\,.}$

On peut écrire explicitement le polynôme ${\displaystyle P_{m}(-D)}$ comme

${\displaystyle P_{m}(-D)=\sum \prod _{i}{\frac {1}{k_{i}!}}\left({\frac {\lambda _{l_{i}}}{l_{i}!}}\right)^{k_{i}}(-D)^{s},}$

où la sommation est sur toutes les partitions entières de m telles que ${\displaystyle \sum _{i}ik_{i}=m}$ et ${\displaystyle l_{i}=i+2}$ et ${\displaystyle s=\sum _{i}k_{i}l_{i}.}$

Par exemple, si m = 3, alors il y a trois façons de partitionner ce nombre : 1 + 1 + 1 = 2 + 1 = 3. Il faut donc examiner trois cas :

• 1 + 1 + 1 = 1 · k₁, ce qui donne k₁ = 3, l₁ = 3 et s = 9.
• 1 + 2 = 1 · k₁ + 2 · k₂, ce qui donne k₁ = 1, k₂ = 1, l₁ = 3, l₂ = 4 et s = 7.
• 3 = 3 · k₃, ce qui donne k₃ = 1, l₃ = 5 et s = 5.

Ainsi, le polynôme recherché est

${\displaystyle {\begin{aligned}P_{3}(-D)&={\frac {1}{3!}}\left({\frac {\lambda _{3}}{3!}}\right)^{3}(-D)^{9}+{\frac {1}{1!1!}}\left({\frac {\lambda _{3}}{3!}}\right)\left({\frac {\lambda _{4}}{4!}}\right)(-D)^{7}+{\frac {1}{1!}}\left({\frac {\lambda _{5}}{5!}}\right)(-D)^{5}\\&={\frac {\lambda _{3}^{3}}{1296}}(-D)^{9}+{\frac {\lambda _{3}\lambda _{4}}{144}}(-D)^{7}+{\frac {\lambda _{5}}{120}}(-D)^{5}.\end{aligned}}}$

Les cinq premiers termes du développement sont

${\displaystyle {\begin{aligned}f_{n}(x)&=\phi (x)\\&\quad -{\frac {1}{n^{\frac {1}{2}}}}\left({\tfrac {1}{6}}\lambda _{3}\,\phi ^{(3)}(x)\right)\\&\quad +{\frac {1}{n}}\left({\tfrac {1}{24}}\lambda _{4}\,\phi ^{(4)}(x)+{\tfrac {1}{72}}\lambda _{3}^{2}\,\phi ^{(6)}(x)\right)\\&\quad -{\frac {1}{n^{\frac {3}{2}}}}\left({\tfrac {1}{120}}\lambda _{5}\,\phi ^{(5)}(x)+{\tfrac {1}{144}}\lambda _{3}\lambda _{4}\,\phi ^{(7)}(x)+{\tfrac {1}{1296}}\lambda _{3}^{3}\,\phi ^{(9)}(x)\right)\\&\quad +{\frac {1}{n^{2}}}\left({\tfrac {1}{720}}\lambda _{6}\,\phi ^{(6)}(x)+\left({\tfrac {1}{1152}}\lambda _{4}^{2}+{\tfrac {1}{720}}\lambda _{3}\lambda _{5}\right)\phi ^{(8)}(x)+{\tfrac {1}{1728}}\lambda _{3}^{2}\lambda _{4}\,\phi ^{(10)}(x)+{\tfrac {1}{31104}}\lambda _{3}^{4}\,\phi ^{(12)}(x)\right)\\&\quad +O\left(n^{-{\frac {5}{2}}}\right).\end{aligned}}}$

Ici, ϕ^(j)(x) est la dérivée j -ième de ϕ(·) au point x. En rappelant que les dérivées de la densité de la distribution normale sont liées à la densité normale par ${\displaystyle \phi ^{(n)}(x)=(-1)^{n}He_{n}(x)\phi (x)}$, (où ${\displaystyle He_{n}}$ est le polynôme d'Hermite d'ordre n), ceci explique les représentations alternatives en termes de fonction de densité. Blinnikov et Moessner (1998) ont donné un algorithme simple pour calculer les termes d'ordre supérieur du développement.

Il faut noter que dans le cas d'une distribution de réseau (qui a des valeurs discrètes), le développement d'Edgeworth doit être ajusté pour tenir compte des sauts discontinus entre les points du réseau[5].

Densité de la moyenne de l'échantillon de trois variables χ². Le graphique compare la densité réelle, l'approximation normale et deux développements d'Edgeworth.

On prend l'exemple de trois variables iid suivant toutes la loi du χ² à deux degrés de liberté :

${\displaystyle X_{i}\sim \chi ^{2}(k=2),\,i=1,2,3\,(n=3)}$ et la moyenne de l'échantillon ${\displaystyle {\overline {X}}={\frac {1}{3}}\sum _{i=1}^{3}X_{i}}$ .

On peut utiliser plusieurs distributions pour approcher ${\displaystyle {\overline {X}}}$ :

• la distribution exacte, qui suit une distribution gamma : ${\displaystyle {\overline {X}}\sim \mathrm {Gamma} \left(\alpha =n\cdot k/2,\theta =2/n\right)=\mathrm {Gamma} \left(\alpha =3,\theta =2/3\right)}$ .
• la distribution normale asymptotique : ${\displaystyle {\overline {X}}\xrightarrow {n\to \infty } {\mathcal {N}}(k,2\cdot k/n)={\mathcal {N}}(2,4/3)}$ .
• deux développements d'Edgeworth, de degrés 2 et 3.

• Pour les échantillons finis, une série d'Edgeworth n'est pas garantie d'être une loi de probabilité appropriée car les valeurs de la fonction de répartition à certains points peuvent aller au-delà de l'intervalle ${\displaystyle [0,1]}$ .
• Ils garantissent (asymptotiquement) des erreurs absolues, mais les erreurs relatives peuvent être facilement évaluées en comparant le terme principal d'Edgeworth dans le reste avec le terme principal global [6].

• Approximation de Cornish-Fisher
• Arbre binomial d'Edgeworth

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Edgeworth series » (voir la liste des auteurs).

• (en) Harald Cramér, Mathematical Methods of Statistics, Princeton, Princeton University Press, 1957.
• (en) D.L. Wallace, « Asymptotic approximations to distributions », Annals of Mathematical Statistics, vol. 29, n^o 3,‎ 1958, p. 635–654 (DOI 10.1214/aoms/1177706528 )
• (en) M. Kendall et A. Stuart, The advanced theory of statistics, vol. 1: Distribution theory, New York, Macmillan, 1977.
• (en) Peter McCullagh, Tensor Methods in Statistics, London, Chapman and Hall, 1987.
• (en) David Cox et Ole Barndorff-Nielsen, Asymptotic Techniques for Use in Statistics, London, Chapman and Hall, 1989.
• (en) P. Hall, The Bootstrap and Edgeworth Expansion, New York, Springer, 1992.
• (en) « Edgeworth series », dans Michiel Hazewinkel, Encyclopædia of Mathematics, Springer, 2002 (ISBN 978-1556080104, lire en ligne)
• (en) S. Blinnikov et R. Moessner, « Expansions for nearly Gaussian distributions », Astronomy and Astrophysics Supplement Series, vol. 130,‎ 1998, p. 193–205 (DOI 10.1051/aas:1998221, Bibcode 1998A&AS..130..193B, arXiv astro-ph/9711239, lire en ligne)
• (en) Douglas Martin et Rohit Arora, « Inefficiency and bias of modified value-at-risk and expected shortfall », Journal of Risk, vol. 19, n^o 6,‎ 2017, p. 59–84 (DOI 10.21314/JOR.2017.365)
• (en) J.E. Kolassa, Series Approximation Methods in Statistics, New York, Springer, 2006.