Inégalité de Bernstein (probabilités)
# Inégalité de Bernstein (probabilités)

L'inégalité de Bernstein est une inégalité de concentration démontrée par en 1926 par le mathématicien russe Sergueï Bernstein. Cette inégalité se base sur un majoration de la fonction génératrice des moments d'une variable aléatoire, d'une manière similaire aux inégalités de Hoeffding ou de Chernoff. Cette majoration se fait grâce à une hypothèse sur les moments de la variable aléatoire en question.

## Énoncé Général

L'énoncé le plus général de l'inégalité de Bernstein est donné ci-dessous. Cet énoncé peut se simplifier dans certains cas particuliers.

* Théorème — Soient $X_{1},\cdots ,X_{n}$, $n$ variables aléatoires indépendantes, de moyennes nulles et de variances respectives $v_{1},\cdots ,v_{n}$. S'il existe $c\in \mathbb {R^{+}}$ tel que pour tout $i\in \{1,\cdots ,n\}$, pour tout entier $k\geq 3$, $E[\mid X_{i}\mid ^{k}]\leq {\frac {v_{i}}{2}}k!c^{k-2}$, alors
* $P(X_{1}+\cdots +X_{n}\geq \varepsilon )\leq 2e^{-{\frac {\varepsilon ^{2}}{2V_{n}+2c\varepsilon }}}$
* où $V_{n}=v_{1}+\cdots +v_{n}$ .

La démonstration de cette inégalité se fait en 3 étapes.

1) Pour montrer le premier point, commençons par écrire que puisque les $X_{1},...,X_{n}$ sont indépendants,

${\begin{aligned}[lll]E\left[e^{t(X_{1}+\cdots +X_{n})}\right]&=E\left[e^{tX_{1}}\cdots e^{tX_{n}}\right]\\&=E\left[e^{tX_{1}}\right]\cdots E\left[e^{tX_{1}}\right]\end{aligned}}$

Le développement en série entière de l'exponentielle donne que, pour chaque $i$,

$e^{tX_{i}}=1+tX_{i}+\sum _{k=2}^{+\infty }{\frac {(tX_{i})^{k}}{k!}}$

Donc, en utilisant la linéarité de l'espérance :

${\begin{aligned}E\left[e^{tX_{i}}\right]&=1+tE[X_{i}]+\sum _{k=2}^{+\infty }{\frac {E\left[(tX_{i})^{k}\right]}{k!}}\\&=1+0+\sum _{k=2}^{+\infty }{\frac {t^{k}E(X_{i}^{k})}{k!}}\end{aligned}}$

puisque $E[X_{i}]=0$. Comme $E[X_{i}^{k}]\leq E[\left|X_{i}\right|^{k}]$, en utilisant l'hypothèse sur les moments des $X_{i}$, on obtient:

${\begin{aligned}E[e^{tX_{i}}]&\leq 1+\sum _{k=2}^{+\infty }{\frac {t^{k}v_{i}c^{k-2}}{2}}\\&=1+0+{\frac {v_{i}}{2c^{2}}}\sum _{k=2}^{+\infty }(tc)^{k}\\&=1+{\frac {v_{i}}{2c^{2}}}{\frac {(tc)^{2}}{1-tc}}\\&=1+{\frac {v_{i}}{2}}{\frac {t^{2}}{1-tc}}\\\end{aligned}}$

puisque $\sum _{k=2}^{+\infty }(tc)^{k}$ est une série géométrique de raison entre 0 et 1 (par hypothèse sur $t$). En prenant $u>tc$, on obtient que $E[e^{tX_{i}}]\leq 1+{\frac {(tc)^{2}}{1-u}}$ et enfin, en utilisant que $1+z\leq e^{z}$, on obtient que

$E[e^{tX_{i}}]\leq e^{\frac {v_{i}t^{2}}{2(1-u)}}$

$E[e^{t(X_{1}+\cdots +X_{n}}]\leq e^{\frac {v_{1}t^{2}}{2(1-u)}}\cdots e^{\frac {v_{n}t^{2}}{2(1-u)}}\leq e^{\frac {V_{n}t^{2}}{2(1-u)}}$

2) Le second point se démontre grâce à l'inégalité de Markov. Soit $s\in \mathbb {R}$. Remarquons d'abord que

$P\left(X_{1}+...+X_{n}>{\frac {V_{n}t}{2(1-u)}}+{\frac {s^{2}}{t}}\right)=P\left(e^{t(X_{1}+...+X_{n})}>e^{\frac {V_{n}t}{2(1-u)}}e^{\frac {s^{2}}{t}}\right)$

L'inégalité de Markov donne alors

$P\left(e^{t(X_{1}+...+X_{n})}>e^{\frac {V_{n}t}{2(1-u)}}e^{\frac {s^{2}}{t}}\right)\leq E\left[e^{t(X_{1}+...+X_{n})}\right]e^{-{\frac {V_{n}t}{2(1-u)}}}e^{-{\frac {s^{2}}{t}}}$

Comme d'après le point 1), $E\left[e^{t(X_{1}+...+X_{n})}\right]\leq e^{\frac {V_{n}t^{2}}{2(1-u)}}$, on obtient, après simplification,

$P\left(X_{1}+\cdots +X_{n}>{\frac {V_{n}t}{2(1-u)}}+{\frac {s^{2}}{t}}\right)\leq e^{-s^{2}}$

3) Soit $\varepsilon >0$. Prenons $t={\frac {\varepsilon }{V_{n}}}(1-u)$, $s={\frac {\varepsilon {\sqrt {1-u}}}{\sqrt {2V_{n}}}}$ et $u={\frac {c\varepsilon }{V_{n}+\varepsilon }}$ (on peut vérifier qu'on a alors bien $ct\leq u\leq 1$). L'inégalité obtenue au point 2) se réécrit alors

$P\left(X_{1}+\cdots +X_{n}>\varepsilon \right)\leq e^{-{\frac {\varepsilon ^{2}}{2V_{n}+2c\varepsilon }}}$

Comme le raisonnement précédent s'applique identiquement aux variables aléatoires $-X_{1},\cdots ,-X_{n}$, on a aussi

$P\left(-X_{1}-\cdots -X_{n}>\varepsilon \right)\leq e^{-{\frac {\varepsilon ^{2}}{2V_{n}+2c\varepsilon }}}$

D'où:

$P\left(X_{1}+\cdots +X_{n}<-\varepsilon \right)\leq e^{-{\frac {\varepsilon ^{2}}{2V_{n}+2c\varepsilon }}}$

On peut donc conclure:

$P\left(\left|X_{1}+\cdots +X_{n}\right|>\varepsilon \right)\leq 2e^{-{\frac {\varepsilon ^{2}}{2V_{n}+2c\varepsilon }}}$

## Cas de variables aléatoires bornées

Si les variables $X_{i}$ sont bornées alors, elles satisfont la condition des moments de l'inégalité de Bernstein.

* Théorème — Soient $X_{1},\cdots ,X_{n}$, $n$ variables aléatoires indépendantes, de moyennes nulles, de variances respectives $v_{1},\cdots ,v_{n}$ et telles qu'il existe $M\in \mathbb {R^{+}}$ tel que pour tout $i\in \{1,\cdots ,n\}$, $\left|X_{i}\right|\leq M$ avec probabilité 1. Alors,
* $P\left(X_{1}+\cdots +X_{n}\geq \varepsilon \right)\leq 2e^{-{\frac {\varepsilon ^{2}}{2V_{n}+2M\varepsilon /3}}}$.
* où $V_{n}=v_{1}+\cdots +v_{n}$ .

Comme les $X_{i}$ sont bornés, il est facile de montrer que pour tout entier $k\geq 3$,$E[\left|X_{i}\right|^{k}]\leq v_{i}M^{k-2}\leq {\frac {v_{i}}{2}}k!(M/3)^{k-2}$. L'inégalité de Bernstein peut donc être utilisée avec $c={\frac {M}{3}}$.

## Exemple: variables binaires

Soient $X_{1},\cdots ,X_{n}$ des variables aléatoires indépendantes suivant une loi de Bernouilli avec probabilité de succès $p$. Alors, comme ces variables aléatoires sont bornées en valeur absolue par $1$, on a

$P(\left|X_{1}+\cdots +X_{n}\right|>\varepsilon )\leq 2e^{-{\frac {\varepsilon ^{2}}{2V_{n}+2\varepsilon /3}}}$ où dans ce cas, $V_{n}=np(1-p)$, puisque les $X_{i}$ ont tous la même variance.

Si l'on préfère obtenir l'inégalité de concentration pour la moyenne empirique des $X_{i}$, il suffit de remarquer que $P\left(\left|{\frac {1}{n}}(X_{1}+\cdots +X_{n})\right|>\varepsilon \right)=P\left(\left|X_{1}+\cdots +X_{n}\right|>n\varepsilon \right)$. On peut donc simplement remplacer $\varepsilon$ par $n\varepsilon$ dans l'expression précédente. On obtient, après simplification:

$P\left(\left|{\frac {1}{n}}(X_{1}+\cdots +X_{n})\right|>\varepsilon \right)\leq 2e^{-{\frac {n\varepsilon ^{2}}{2p(1-p)+2\varepsilon /3}}}$.

