Inégalité de Bennett

Soient ${\displaystyle X_{1},\dots ,X_{n}}$ des variables aléatoires indépendantes (non nécessairement de même loi) de variance finie et tels que ${\displaystyle X_{i}\leq b}$ presque-sûrement pour tout ${\displaystyle 1\leq i\leq n}$ et ${\displaystyle b>0}$. On pose ${\displaystyle S=\textstyle \sum _{i=1}^{n}(X_{i}-\mathbb {E} [X_{i}])}$ et ${\displaystyle v=\textstyle \sum _{i=1}^{n}\mathbb {E} [X_{i}^{2}]}$. Pour tout ${\displaystyle \lambda >0}$,

${\displaystyle \log(\mathbb {E} e^{\lambda S})\leq n\log \left(1+{\frac {v}{nb^{2}}}\phi (b\lambda )\right)\leq {\frac {v}{b^{2}}}\phi (b\lambda ).}$

où ${\displaystyle \phi (u)=e^{u}-u-1}$ pour ${\displaystyle u\in \mathbb {R} }$. En appliquant l'inégalité de Chernoff on obtient en particulier que pour tout ${\displaystyle t>0}$,

${\displaystyle \mathbb {P} (S\geq t)\leq \exp \left(-{\frac {v}{b^{2}}}h\left({\frac {bt}{v}}\right)\right).}$

où ${\displaystyle h(u)=(1+u)\log(1+u)-u}$ pour ${\displaystyle u>0}$.