Teoremi centrali del limite
# Teoremi centrali del limite

I teoremi del limite centrale sono una famiglia di teoremi di convergenza debole nell'ambito della teoria della probabilità.

Una delle formulazioni più note del teorema è la seguente:

Sia $X_{j}$ una delle $n$ variabili aleatorie indipendenti e identicamente distribuite, e siano $E[X_{j}]=\mu$ e $\mathrm {Var} [X_{j}]=\sigma ^{2},$ per $j=1,\ldots ,n,$ con $0<\sigma ^{2}<+\infty$.

Posto $\displaystyle Y_{n}={\frac {{\frac {1}{n}}\sum _{j=1}^{n}X_{j}-\mu }{{\sigma }/{\sqrt {n}}}}$ allora $Y_{n}$ presenterà una distribuzione normale standard: $Y_{n}{\stackrel {D}{\to }}Y\sim N(0,1)$.

Ciò spiega l'importanza che la funzione gaussiana assume nelle branche matematiche della statistica e della teoria della probabilità in particolare. Fu dimostrato nel 1922 da Lindeberg nell'articolo "Eine neue Herleitung des Exponentialgesetzes in der Wahrscheinlichkeitsrechnung", e poi in modo indipendente da Turing.

## Teorema di Lindeberg-Lévy

La più nota formulazione del teorema del limite centrale è quella dovuta a Lindeberg e Paul Lévy; si consideri una successione di variabili casuali $\ \left\{x_{j}\right\}_{j=1}^{n}$ indipendenti e identicamente distribuite, definendo come variabile casuale complessiva:

    $x^{*}={\frac {1}{\sqrt {n}}}\sum _{j=1}^{n}{\frac {x_{j}-\langle x\rangle _{n}}{\sigma _{n}}}={\frac {1}{\sqrt {n}}}\sum _{j=1}^{n}y_{j}.$

Bisogna semplicemente dimostrare che la variabile complessiva $x^{*}$ converge in distribuzione alla gaussiana con valore atteso 0 e varianza 1, ovvero che:

    $\lim _{n\to +\infty }x^{*}={\frac {e^{-{\frac {\scriptscriptstyle 1}{\scriptscriptstyle 2}}x^{2}}}{\sqrt {2\pi }}}.$

Sempre per semplicità di notazione sono state definite esplicitamente anche le variabili normalizzate come:

    $y_{j}={\frac {x_{j}-\langle x\rangle _{n}}{\sigma _{n}}}.$

Si osservi che ${\textrm {E}}[y_{j}]=0,\ {\textrm {Var}}(y_{j})={\textrm {E}}[y_{j}^{2}]=1,\ \forall j$.

### Dimostrazione

La seguente dimostrazione fa uso della nozione di funzione caratteristica della $x^{*}$, definibile in modo equivalente come una particolare funzione valore atteso o come la trasformata di Fourier di una funzione di densità $\ f_{x^{*}}$ in una variabile (complessiva) $x^{*}$:

    $\varphi _{x^{*}}(t)={\textrm {E}}\left[e^{-itx^{*}}\right]=\int _{\mathbb {R} }e^{-itx^{*}}f(x^{*})dx^{*},$

dove $i$ è l'unità immaginaria. Nel dominio di Fourier, l'enunciato del teorema:

    $\lim _{n\to +\infty }f(x_{n}^{*})={\frac {e^{-{\frac {\scriptscriptstyle 1}{\scriptscriptstyle 2}}x^{*2}}}{\sqrt {2\pi }}},$

diventa equivalente a:

    $\lim _{n\rightarrow \infty }\varphi _{x^{*}}(t)=e^{-{\frac {t^{2}}{2}}},\qquad \forall f(x^{*}),$

infatti il secondo membro è la funzione caratteristica della distribuzione normale.

Nel caso presente, si ha:

dove l'ultima uguaglianza discende dalla indipendenza degli $\ x_{j}$ quindi anche degli $\ y_{j}$. Effettuando lo sviluppo di Maclaurin dell'esponenziale, si può calcolarne il valore atteso:

    $\ {\textrm {E}}\left[\exp \left\{{\frac {-it}{\sqrt {n}}}y_{j}\right\}\right]={\textrm {E}}\left[1-{\frac {i}{\sqrt {n}}}ty_{j}-{\frac {1}{n}}{\frac {t^{2}}{2}}y_{j}^{2}+o\left(t^{2}y_{j}^{2}\right)\right]=1-{\frac {1}{n}}\left({\frac {t^{2}}{2}}\right),\ \forall j.$

Segue che:

    $\varphi _{x^{*}}(t)=\prod _{j=1}^{n}\left(1-{\frac {1}{n}}\left({\frac {t^{2}}{2}}\right)\right)=\left(1-{\frac {1}{n}}\left({\frac {t^{2}}{2}}\right)\right)^{n}.$

Ma applicando il limite notevole: $\ \lim _{n\rightarrow \infty }\left(1-{\frac {x}{n}}\right)^{n}=e^{-x}$, si ha:

    $\lim _{n\rightarrow \infty }\varphi _{x^{*}}(t)=e^{-{\frac {t^{2}}{2}}},$

come volevasi dimostrare.

## Teorema di De Moivre-Laplace

Si tratta di un'applicazione del teorema di Lindeberg-Lévy al caso di distribuzione binomiale:

Se $Y=Bi(n,p)$ è una variabile casuale binomiale, che possiamo vedere come somma di $n$ variabili casuali bernoulliane. Allora per $n\to \infty$:

    $Y=N(np,np(1-p)),$

ossia una gaussiana con media $np$ e varianza $np(1-p)$.

Se standardizziamo:

    $\lim _{n\to \infty }{\frac {Y_{n}-np}{\sqrt {np(1-p)}}}=Z.$

Questo teorema è molto utile nel caso si vogliano valori approssimati del numero di successi nella ripetizione di un esperimento indipendente dagli esiti passati, visto che la variabile aleatoria binomiale risulta spesso difficile da calcolare con numeri elevati. L'approssimazione è tanto migliore quanto più è alto il numero di esperimenti.

### Dimostrazione

Il teorema di De Moivre-Laplace può essere dimostrato più facilmente del teorema del limite centrale, con una prova per la quale è necessaria la conoscenza degli sviluppi di Taylor e dell'approssimazione di Stirling. Per il fattoriale di un numero $n$ sufficientemente grande vale la formula di Stirling, secondo cui:

    $n!\simeq {\sqrt {2\pi n}}\left({\frac {n}{e}}\right)^{n},$

o equivalentemente:

    $n!\simeq n^{n}e^{-n}{\sqrt {2\pi n}}.$

La funzione di densità di $\mathrm {Bi} (n,p)$ si potrà scrivere allora come:

    ${\begin{aligned}{n \choose k}\,p^{k}q^{n-k}&={\frac {n!}{k!\left(n-k\right)!}}p^{k}q^{n-k}\\&\simeq {\frac {n^{n}e^{-n}{\sqrt {2\pi n}}}{k^{k}e^{-k}{\sqrt {2\pi k}}{(n-k)}^{n-k}e^{-(n-k)}{\sqrt {2\pi (n-k)}}}}p^{k}q^{n-k}\\&={\frac {\sqrt {2\pi n}}{{\sqrt {2\pi k}}{\sqrt {2\pi (n-k)}}}}\cdot {\frac {n^{n}}{k^{k}{(n-k)}^{n-k}}}\cdot {\frac {e^{-n}}{e^{-k}e^{-(n-k)}}}p^{k}q^{n-k}\\&={\frac {\sqrt {n}}{{\sqrt {k}}{\sqrt {2\pi (n-k)}}}}\cdot {\frac {n^{n}}{k^{k}{(n-k)}^{n-k}}}\cdot {\frac {e^{-n}}{e^{-k}e^{-n}{e}^{k}}}p^{k}q^{n-k}\\&={\sqrt {\frac {n}{2\pi k(n-k)}}}n^{n}{\left({\frac {p}{k}}\right)}^{k}{\left({\frac {q}{n-k}}\right)}^{(n-k)}e^{-n+k+n-k}\\&={\sqrt {\frac {n}{2\pi k(n-k)}}}n^{n-k+k}{\left({\frac {p}{k}}\right)}^{k}{\left({\frac {q}{n-k}}\right)}^{(n-k)}\\&={\sqrt {\frac {n}{2\pi k(n-k)}}}n^{n-k}n^{k}{\left({\frac {p}{k}}\right)}^{k}{\left({\frac {q}{n-k}}\right)}^{(n-k)}\\&={\sqrt {\frac {n}{2\pi k(n-k)}}}{\left({\frac {np}{k}}\right)}^{k}{\left({\frac {nq}{n-k}}\right)}^{(n-k)}\\&={\sqrt {\frac {n}{2\pi k(n-k)}}}{\left({\frac {k}{np}}\right)}^{-k}{\left({\frac {n-k}{nq}}\right)}^{-(n-k)}\\\end{aligned}}$

Sia ora

    $x={\frac {(k-np)}{\sqrt {npq}}}$
    $\Rightarrow \ k=np+x{\sqrt {npq}}\quad$ e $\quad n-k=nq-x{\sqrt {npq}}$
    $\Rightarrow \ {\frac {k}{np}}=1+x{\sqrt {\frac {q}{np}}}\quad$ e $\quad {\frac {n-k}{nq}}=1-x{\sqrt {\frac {p}{nq}}}$
    $\Rightarrow \ {n \choose k}p^{k}q^{n-k}\simeq {\sqrt {\frac {n}{2{\mathbf {\pi } }k(n-k)}}}{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-(n-k)}.$

Consideriamo dapprima il primo termine tra parentesi quadre nell'ultima uguaglianza:

    ${\begin{aligned}{\sqrt {\frac {n}{2\pi k\left(n-k\right)}}}&={\sqrt {{\frac {n}{2\pi k\left(n-k\right)}}\cdot {\frac {{1}/{n^{2}}}{{1}/{n^{2}}}}}}\\&={\sqrt {\frac {{1}/{n}}{{2\pi k(n-k)}/{n^{2}}}}}\\&={\sqrt {\frac {{1}/{n}}{2\pi {\frac {k}{n}}{\frac {(n-k)}{n}}}}}\\&={\sqrt {\frac {{1}/{n}}{2\pi {\frac {k}{n}}\left(1-{\frac {k}{n}}\right)}}}\\&={\sqrt {\frac {{1}/{n}}{2\pi p\left(1-p\right)}}}\qquad \qquad \qquad \left[\because k\to np\Rightarrow {\frac {k}{n}}\to p\right]\\&={\sqrt {\frac {{1}/{n}}{2\pi pq}}}\qquad \qquad \qquad \left[\because p+q=1\Rightarrow q=1-p\right]\\&={\sqrt {\frac {1}{2\pi npq}}}\\&={\frac {1}{\sqrt {2\pi npq}}}\end{aligned}}$
    $\Rightarrow {n \choose k}p^{k}q^{n-k}\simeq {\frac {1}{\sqrt {2{\mathbf {\pi } }npq}}}{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-(n-k)}.$

E quindi:

    ${\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}=e^{\ln \left[{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}\right]}.$

Per cui si ha che:

    ${n \choose k}p^{k}q^{n-k}\simeq {\frac {1}{\sqrt {2{\mathbf {\pi } }npq}}}e^{\ln \left[{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}\right]}.$

Consideriamo quindi il logaritmo naturale che appare nell'ultima uguaglianza.

    $\ln \left[{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}\right]=\ln {\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}+\ln {\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}=-k\ln \left(1+x{\sqrt {\frac {q}{np}}}\right)-\left(n-k\right)\ln \left(1-x{\sqrt {\frac {p}{nq}}}\right).$

Utilizzando le espansioni di Taylor seguenti:

    $\ln \left(1+y\right)=y-{\frac {y^{2}}{2}}+{\frac {y^{3}}{3}}-{\frac {y^{4}}{4}}+\cdots ,$
    $\ln \left(1-y\right)=-y-{\frac {y^{2}}{2}}-{\frac {y^{3}}{3}}-{\frac {y^{4}}{4}}-\cdots ,$

si ha:

    $\ln \left(1+x{\sqrt {\frac {q}{np}}}\right)=x{\sqrt {\frac {q}{np}}}-{\frac {x^{2}q}{2np}}+\cdots$

e

    $\ln \left(1-x{\sqrt {\frac {p}{nq}}}\right)=-x{\sqrt {\frac {p}{nq}}}-{\frac {x^{2}p}{2nq}}-\cdots$

da cui:

    ${\ln \left[{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}\right]}=-k\left(x{\sqrt {\frac {q}{np}}}-{\frac {x^{2}q}{2np}}+\cdots \right)-\left(n-k\right)\left(-x{\sqrt {\frac {p}{nq}}}-{\frac {x^{2}p}{2nq}}-\cdots \right)=-\left(np+x{\sqrt {npq}}\right)\left(x{\sqrt {\frac {q}{np}}}-{\frac {x^{2}q}{2np}}+\cdots \right)-\left(nq-x{\sqrt {npq}}\right)\left(-x{\sqrt {\frac {p}{nq}}}-{\frac {x^{2}p}{2nq}}-\cdots \right),$

per cui

    ${\begin{aligned}{\ln \left[{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}\right]}&=-\left(np\cdot x{\sqrt {\frac {q}{np}}}-np\cdot {\frac {x^{2}q}{2np}}+x{\sqrt {npq}}\cdot x{\sqrt {\frac {q}{np}}}-x{\sqrt {npq}}\cdot {\frac {x^{2}q}{2np}}+\cdots \right)\\&-\left(-nq\cdot x{\sqrt {\frac {p}{nq}}}-nq\cdot {\frac {x^{2}p}{2nq}}+x{\sqrt {npq}}\cdot x{\sqrt {\frac {p}{nq}}}+x{\sqrt {npq}}\cdot {\frac {x^{2}p}{2nq}}+\cdots \right)\\&=-\left(x{\sqrt {npq}}-{\frac {x^{2}q}{2}}+x^{2}q+\cdots \right)-\left(-x{\sqrt {npq}}-{\frac {x^{2}p}{2}}+x^{2}p+\cdots \right)\\&=-\left(x{\sqrt {npq}}+{\frac {x^{2}q}{2}}+\cdots \right)-\left(-x{\sqrt {npq}}+{\frac {x^{2}p}{2}}+\cdots \right)\\&=-x{\sqrt {npq}}-{\frac {x^{2}q}{2}}+x{\sqrt {npq}}-{\frac {x^{2}p}{2}}-\cdots \\&=-{\frac {x^{2}q}{2}}-{\frac {x^{2}p}{2}}-\cdots \\&=-{\frac {x^{2}}{2}}\left(q+p\right)-\cdots \\&=-{\frac {x^{2}}{2}}-\cdots \end{aligned}}$
    $\Rightarrow {\ln \left[{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}\right]}\simeq -{\frac {x^{2}}{2}}$
    $\Rightarrow {n \choose k}p^{k}q^{n-k}\simeq {\frac {1}{\sqrt {2{\mathbf {\pi } }npq}}}e^{\ln \left[{\left(1+x{\sqrt {\frac {q}{np}}}\right)}^{-k}{\left(1-x{\sqrt {\frac {p}{nq}}}\right)}^{-\left(n-k\right)}\right]}\simeq {\frac {1}{\sqrt {2{\mathbf {\pi } }npq}}}e^{{-x^{2}}/{2}}.$

Possiamo ignorare i termini di grado maggiore del secondo, essendo $x$ proporzionale a $(k-np)$ che tende a $0$ al crescere di $n$. Dunque, elevando al quadrato e dividendo per due $x,$ si ha:

    ${\frac {x^{2}}{2}}={\frac {{\left({\frac {(k-np)}{\sqrt {npq}}}\right)}^{2}}{2}}={\frac {{\left(k-np\right)}^{2}}{2npq}}.$

Quindi,

    ${n \choose k}p^{k}(1-p)^{n-k}\simeq {\frac {1}{\sqrt {2{\mathbf {\pi } }np(1-p)}}}e^{{-{\left(k-np\right)}^{2}}/{2np(1-p)}},$

che è esattamente l'asserto che volevamo provare, infatti il termine a destra è una distribuzione gaussiana con media $np$ e varianza $np(1-p).$

