Jackknife

On dispose d'un échantillon ${\displaystyle X=x_{1},x_{2},\cdots ,x_{n}}$, iid selon une loi inconnue F. On souhaite estimer l'espérance, notée ${\displaystyle \theta }$ :

${\displaystyle \theta =\int x\,dF(x)}$

Un estimateur naturel est la moyenne empirique :

${\displaystyle {\hat {\theta }}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$.

Un moyen de mesurer l'impact d'une observation ${\displaystyle x_{j}}$ sur l'estimateur ${\displaystyle {\hat {\theta }}}$ est de calculer la moyenne empirique sur l'échantillon ${\displaystyle X_{-j}}$, à savoir l'échantillon initial X privé de sa j^e observation :

${\displaystyle {\hat {\theta }}_{j}={\frac {1}{n-1}}\sum _{i\neq j}x_{i}}$

On remarque que

${\displaystyle x_{j}=n{\hat {\theta }}-(n-1){\hat {\theta }}_{j}}$

et en passant à la moyenne que

${\displaystyle {\hat {\theta }}=n{\hat {\theta }}-(n-1){\hat {\theta }}^{\ast }}$

où ${\displaystyle {\hat {\theta }}^{\ast }}$ est la moyenne des estimations partielles ${\displaystyle {\hat {\theta }}_{j}}$ :

${\displaystyle {\hat {\theta }}^{\ast }={\frac {1}{n}}\sum _{j}{\hat {\theta }}_{j}.}$

Ainsi, on a ${\displaystyle {\hat {\theta }}^{\ast }={\hat {\theta }}}$ ce qui signifie qu'on a à disposition un nouvel estimateur de l'espérance : il s'agit de son estimation jackknife.

Dans l'exposé précédent, la méthode du jackknife n'apporte rien dans le sens où il est confondu avec l'estimateur naturel. La généralisation montre qu'il en va tout autrement lorsqu'on considère un paramètre quelconque ${\displaystyle \theta =\phi (x_{1},\cdots ,x_{n})}$ à estimer. Une estimation de ${\displaystyle \theta }$ est ${\displaystyle {\hat {\theta }}=\phi _{n}(x_{1},\cdots ,x_{n})=\phi _{n}(X)}$.

Comme précédemment, on considère l'estimation de ${\displaystyle \theta }$ sur l'échantillon privé de sa j^e observation ${\displaystyle X_{-j}}$ :

${\displaystyle {\hat {\theta }}_{j}=\phi _{n-1}(X_{-j}),}$

ce qui permet de poser

${\displaystyle {\hat {\theta }}_{j}^{\ast }=n{\hat {\theta }}-(n-1){\hat {\theta }}_{j},}$

comme étant la j^e pseudo-valeur.

Ces estimations partielles peuvent être vues comme des variables indépendantes et d'espérance ${\displaystyle \theta }$. On peut alors définir l'estimateur jackknife de ${\displaystyle \theta }$ en prenant la moyenne empirique :

${\displaystyle {\hat {\theta }}^{\ast }={\frac {1}{n}}\sum _{j}{\hat {\theta }}_{j}^{\ast }.}$

On peut généraliser cette approche en considérant un échantillon amputé non plus d'une seule observations, mais de plusieurs. Le point clé reste la définition des pseudo valeurs ${\displaystyle {\hat {\theta }}_{j}^{\ast }}$ et de leur moyenne ${\displaystyle {\hat {\theta }}^{\ast }}$.

Principe général

Maurice Quenouille a montré en 1949 que l'estimateur jackknife permet de réduire le biais de l'estimation initiale ${\displaystyle {\hat {\theta }}}$. Supposons pour cela que ${\displaystyle E({\hat {\theta }})=\theta (1+an^{-1})}$. Bien sûr, d'autres termes en ${\displaystyle n^{-2},n^{-3}}$ peuvent être considérés. Pour tout j, il en va de même pour l'estimateur partiel ${\displaystyle {\hat {\theta }}_{j}}$, à la différence près que n est remplacé par ${\displaystyle n-1}$.

L'élément clef est la transposition de

${\displaystyle {\hat {\theta }}_{j}^{\ast }=n{\hat {\theta }}-(n-1){\hat {\theta }}_{j}.}$

en

${\displaystyle E({\hat {\theta }}_{j}^{\ast })=nE({\hat {\theta }})-(n-1)E({\hat {\theta }}_{j}),}$

puis en développant

${\displaystyle E({\hat {\theta }}_{j}^{\ast })=\theta \left[n\left(1+{\frac {a}{n}}\right)-(n-1)\left(1+{\frac {a}{n-1}}\right)\right]=\theta ,}$

ce qui a permis d'ôter le biais du premier ordre. On pourrait itérer pour ôter les biais d'ordre supérieur.

Exemple (estimation sans biais de la variance)

Considérons l'estimateur de la variance :

${\displaystyle {\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{j}(x_{j}-{\bar {x}})^{2}}$

Il est bien connu que cet estimateur est biaisé. En considérant les pseudo-valeurs, on a :

${\displaystyle {\hat {\theta }}_{j}^{\ast }={\frac {n}{n-1}}\sum _{j}(x_{j}-{\bar {x}})^{2},}$

puis on en déduit que :

${\displaystyle {\hat {\theta }}^{\ast }={\frac {1}{n-1}}\sum _{j}(x_{j}-{\bar {x}})^{2},}$

ce qui est l'estimateur non-biaisé de la variance. Nous venons de résorber le biais.

Une autre utilisation de la méthode jackknife, due à John Tukey en 1958, est de fournir un intervalle de confiance pour l'estimateur ${\displaystyle {\hat {\theta }}^{\ast }}$ ; la variance de ce dernier est :

${\displaystyle {\widehat {\sigma ^{2}}}({\hat {\theta }}^{\ast })={\frac {1}{n}}{\widehat {\sigma ^{2}}}({\hat {\theta }}_{j}^{\ast })={\frac {(n-1)}{n}}\sum _{j}\left({\hat {\theta }}_{j}^{\ast }-{\hat {\theta }}^{\ast }\right)^{2}}$

On peut ainsi construire comme intervalle de confiance approximatif au seuil ${\displaystyle 1-\alpha }$ :

${\displaystyle {\hat {\theta }}^{\ast }\pm t_{\alpha /2;n-1}{\sqrt {{\widehat {\sigma ^{2}}}({\hat {\theta }}^{\ast })}}}$

où ${\displaystyle t_{\alpha /2;n-1}}$ est le quantile approprié d'une loi de Student.

Le jackknife peut aussi servir à tester une hypothèse ${\displaystyle (H_{0}):\;\theta =\theta _{0}}$ ; il suffit pour cela de comparer la variable normalisée

${\displaystyle Z={\dfrac {{\sqrt {n}}\left({\hat {\theta }}^{\ast }-\theta _{0}\right)}{\sqrt {{\widehat {\sigma ^{2}}}({\hat {\theta }}^{\ast })}}}}$

à une loi de Student de paramètre n-1.

• (en) M. H. Quenouille, « Notes on bias in estimation », Biometrika, vol. 43,‎ 1956, p. 353-360
• (en) J. W. Tukey, « Bias and confidence in not quite large samples », Annals of Mathematical Statistics, vol. 29,‎ 1958, p. 614