Distribuzione Gamma
# Distribuzione Gamma

In teoria delle probabilità la distribuzione Gamma è una distribuzione di probabilità continua, che comprende, come casi particolari, anche le distribuzioni esponenziale e chi quadrato.

Viene utilizzata come modello generale dei tempi di attesa nella teoria delle code, soprattutto qualora siano importanti effetti che rimuovano "l'assenza di memoria" della distribuzione esponenziale. Nella statistica bayesiana è comune sia come distribuzione a priori che come distribuzione a posteriori.

## Definizione

La distribuzione Gamma è la distribuzione di probabilità della variabile aleatoria definita come la somma di variabili aleatorie indipendenti e con distribuzione esponenziale; la distribuzione Gamma è una distribuzione di probabilità definita sui numeri reali positivi, $\mathbb {R} ^{+}$. A seconda degli autori, viene parametrizzata in due modi diversi: sia tramite la coppia di numeri positivi $(k,\theta )$, sia tramite la coppia di numeri positivi $(\alpha ,\beta )$. Le due parametrizzazioni sono legate dalle relazioni $\alpha =k$ e $\beta =1/\theta$. Nel seguito si farà riferimento alla parametrizzazione Gamma$(k,\theta )$.

La sua funzione di densità di probabilità è

    $f(x)={\frac {1}{\theta ^{k}\Gamma (k)}}x^{k-1}e^{-{\frac {x}{\theta }}}={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}x^{\alpha -1}e^{-\beta x}$,

dove $\Gamma (k)=\int _{0}^{\infty }t^{k-1}e^{-t}dt$ è la funzione Gamma di Eulero.

Possiamo osservare che se $k\in \mathbb {N}$ vale che $\Gamma (k)=(k-1)!$

La sua funzione di ripartizione è la funzione gamma incompleta inferiore regolarizzata

    $F(x)=P(k,x)={\frac {\gamma (k,x/\theta )}{\Gamma (k)}}={\frac {\gamma (\alpha ,\beta x)}{\Gamma (\alpha )}}$,

dove $\gamma (k,x)=\int _{0}^{x}t^{k-1}e^{-t}dt$ è la funzione Gamma incompleta inferiore.

### Caratteristiche

I momenti semplici della distribuzione Gamma di parametri $(k,\theta )$ sono

    $\mu _{n}=\mathbb {E} [X^{n}]={\tfrac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }x^{k+n-1}e^{-{\frac {x}{\theta }}}dx$
    $\mu _{n}={\tfrac {\theta ^{k+n-1}}{\theta ^{k-1}\Gamma (k)}}\int _{0}^{\infty }u^{k+n-1}e^{-u}du=\theta ^{n}{\frac {\Gamma (k+n)}{\Gamma (k)}}=\theta ^{n}\prod _{i=0}^{n-1}(k+i),$

dove si effettua la solita sostituzione ${\frac {x}{\theta }}=u$ per ottenere la rappresentazione integrale della funzione Gamma di Eulero.

In particolare la distribuzione ha:

* valore atteso $\mathbb {E} [X]=k\theta ;$
* varianza $\mathrm {Var} (X)=k\theta ^{2};$
* indice di asimmetria $\gamma _{1}=2\,k^{-{\frac {1}{2}}};$
* indice di curtosi $\gamma _{2}=6\,k^{-1}.$

Funzione generatrice di momenti:

    $\mathbb {M} _{X}(t)=\mathbb {E} [e^{tX}]={\frac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }x^{k-1}e^{-x\left({\frac {1}{\theta }}-t\right)}dx={\frac {1}{\theta ^{k}\Gamma (k)({\tfrac {1}{\theta }}-t)^{k}}}\int _{0}^{\infty }u^{k-1}e^{-u}du$
    $\mathbb {M} _{X}(t)=(1-\theta t)^{-k}$ che esiste per ogni valore di t tale che $1-\theta t>0\Rightarrow t<\theta ^{-1}.$

### Proprietà (Teorema del cambiamento di scala)

Se $X$ segue la distribuzione Gamma$(k,\theta )$ allora $aX$ segue la distribuzione Gamma$(k,a\theta )$.

Se $X_{1},\ldots ,X_{n}$ sono variabili aleatorie indipendenti, ognuna con distribuzione Gamma$(k_{i},\theta )$, allora la loro somma $X_{1}+\ldots +X_{n}$ segue la distribuzione Gamma$(k_{1}+\ldots +k_{n},\theta )$.

## Altre distribuzioni

La distribuzione Gamma generalizza diverse distribuzioni (è conveniente ora utilizzare la seconda delle due parametrizzazioni presentate):

* se $k$ è un numero naturale si ottiene la distribuzione di Erlang;
* $\mathrm {Gamma} (1,{\theta })={\mathcal {E}}({1/\theta })$ è la distribuzione esponenziale;
* $\mathrm {Gamma} ({\tfrac {n}{2}},1/2)=\chi ^{2}(n)$ è la distribuzione chi quadrato;
* se $X$ segue una distribuzione di Maxwell-Boltzmann di parametro $a$ allora $X^{2}$è distribuito secondo $\mathrm {Gamma} ({\tfrac {3}{2}},2a^{2})$.

Nell'inferenza bayesiana la distribuzione Gamma può descrivere sia a priori che a posteriori di un'osservazione il parametro $X$ di diverse distribuzioni di probabilità, ad esempio della distribuzione esponenziale e della distribuzione di Poisson.

La distribuzione Gamma inversa è la distribuzione dell'inversa $X^{-1}$ di una variabile aleatoria $X$ che segue la distribuzione Gamma.

Se $X$ e $Y$ sono variabili aleatorie indipendenti con distribuzioni $\mathrm {Gamma} (k_{1},\theta )$ e $\mathrm {Gamma} (k_{2},\theta )$, allora $Z={\tfrac {X}{X+Y}}$ segue la distribuzione Beta $\mathrm {Beta} (k_{1},k_{2})$, mentre ${\tfrac {X}{Y}}={\tfrac {Z}{1-Z}}$ segue una distribuzione Beta del secondo tipo.

Più in generale il vettore ${\tfrac {1}{X_{1}+\ldots +X_{n}}}(X_{1},\ldots ,X_{n})$, descritto da $n$ variabili aleatorie indipendenti $X_{i}$ di distribuzioni $\mathrm {Gamma} (k_{i},\theta )$, segue una distribuzione di Dirichlet di parametri $(k_{1},\ldots ,k_{n})$.

Una generalizzazione della distribuzione Gamma è la distribuzione di Wishart, che generalizza anche la distribuzione $\chi ^{2}$.

## Stimatori

Calcoliamo ora degli stimatori che possano, dato un campione presumibilmente Gamma distribuito, restituirci una stima dei suoi parametri $\theta$ e $k$.

Uno stimatore corretto per $\theta$ è

    ${\hat {\theta }}={\frac {1}{nk}}\sum _{i=1}^{n}x_{i}.$

Stimatore asintoticamente corretto per $k$ è:

    ${\hat {k}}=\psi _{0}^{-1}\left[\ln \left({\sqrt[{n}]{\prod _{i=1}^{n}{\frac {x_{i}}{\theta }}}}\right)\right]=\psi _{0}^{-1}\left[{\frac {1}{n}}\sum _{i=1}^{n}\ln \left({\frac {x_{i}}{\theta }}\right)\right].$

dove $\psi _{0}^{-1}$ è la funzione inversa della funzione digamma $\psi _{0}(k)$ così definita:

    $\psi _{0}(x):={\frac {\Gamma '(x)}{\Gamma (x)}}={\frac {d}{dx}}\ln \Gamma (x).$

Le dimostrazioni adottano il metodo della massima verosimiglianza, dove la funzione di verosimiglianza dato il campione è

    $\{X_{i}\}_{i=1}^{n}\subset \mathbb {R} ^{+}$
    ${\mathcal {L}}(\{X_{i}\}|\theta ,k)={\frac {1}{\theta ^{nk}\Gamma ^{n}(k)}}\,\cdot \,\left(\prod _{i=1}^{n}x_{i}\right)^{k-1}\,e^{-{\frac {1}{\theta }}\sum _{i=1}^{n}x_{i}}.$

### Dimostrazione stimatore di θ

Il parametro $\theta$ è il più semplice da stimare.

Notiamo che la funzione di verosimiglianza è ovunque positiva e nel limite degli estremi di $\theta$, si annulla.

    $\lim _{\theta \rightarrow 0^{+}}{\mathcal {L}}=0$
    $\lim _{\theta \rightarrow +\infty }{\mathcal {L}}=0$

Pertanto se imponiamo la sua derivata uguale a zero, nel caso la soluzione sia unica, questa deve per forza essere un punto di massimo.

    $\left({\frac {\partial {\mathcal {L}}}{\partial \theta }}\right)_{\theta ={\hat {\theta }}}={\frac {e^{-{\frac {1}{\hat {\theta }}}\sum _{i=1}^{n}x_{i}}}{\Gamma ^{n}(k)}}\left(\prod _{i=1}^{n}x_{i}\right)^{k-1}\,\cdot \left({\hat {\theta }}^{-nk-2}\sum _{i=1}^{n}x_{i}-nk{\hat {\theta }}^{-nk-1}\right)$

Occorre adesso eguagliare a zero tale espressione

    $\left({\frac {\partial {\mathcal {L}}}{\partial \theta }}\right)_{\theta ={\hat {\theta }}}=0\,\Rightarrow \,{\hat {\theta }}^{-nk-2}\sum _{i=1}^{n}x_{i}-nk{\hat {\theta }}^{-nk-1}=0\,\Rightarrow \,{\hat {\theta }}={\frac {1}{nk}}\sum _{i=1}^{n}x_{i}$

Ed ecco il nostro stimatore di $\theta$, che ricorda molto una media aritmetica, riscalata sul parametro $k$ (che ricordiamo essere uguale a 1 nel caso particolare della distribuzione esponenziale). Si può notare facilmente che il valor atteso di questo stimatore è proprio $\theta$, data la linearità dell'operatore.

    $\mathbb {E} [{\hat {\theta }}]=\mathbb {E} \left[{\frac {1}{kn}}\sum _{i=1}^{n}x_{i}\right]={\frac {1}{kn}}\sum _{i=1}^{n}\mathbb {E} [x_{i}].$

Ricordiamo $\mathbb {E} [x_{i}]=k\theta$

    $\mathbb {E} [{\hat {\theta }}]={\frac {nk\theta }{kn}}=\theta .$

### Dimostrazione stimatore di k

Prendiamo ora in esame il calcolo dello stimatore per $k$.

Anche qui la funzione di verosimiglianza si annulla per il limite di $k\rightarrow 0^{+}$ e $k\rightarrow +\infty$, pertanto procediamo con il calcolo della derivata.

    $\left({\frac {\partial {\mathcal {L}}}{\partial k}}\right)_{k={\hat {k}}}\!\!\!\!\!=e^{-{\frac {1}{\theta }}\sum x_{i}}\left(\prod x_{i}\right)^{{\hat {k}}-1}\left[{\frac {\ln \left(\prod x_{i}\right)}{\theta ^{n{\hat {k}}}\Gamma ^{n}({\hat {k}})}}-n{\frac {\ln(\theta )+\psi _{0}({\hat {k}})}{\theta ^{n{\hat {k}}}\Gamma ^{n}({\hat {k}})}}\right]={\frac {e^{-{\frac {1}{\theta }}\sum x_{i}}\left(\prod x_{i}\right)^{{\hat {k}}-1}}{\theta ^{n{\hat {k}}}\Gamma ^{n}({\hat {k}})}}\left[\ln \left(\prod {\frac {x_{i}}{\theta }}\right)-n\psi _{0}({\hat {k}})\right].$

Con $\psi _{0}(k)$ indichiamo la funzione digamma così definita:

    $\psi _{0}(x):={\frac {\Gamma '(x)}{\Gamma (x)}}={\frac {d}{dx}}\ln \Gamma (x),$

che può essere espressa mediante una relazione integrale

    $\psi _{0}(x)=\int _{0}^{\infty }{\frac {e^{-t}-(1+t)^{-x}}{t}}dt.$

Eguagliando a zero la nostra funzione di verosimiglianza otteniamo il nostro punto di massimo

    $\left({\frac {\partial {\mathcal {L}}}{\partial k}}\right)_{k={\hat {k}}}\!\!\!\!\!=0\,\Rightarrow \,\ln \left(\prod {\frac {x_{i}}{\theta }}\right)-n\psi _{0}({\hat {k}})=0\,\Rightarrow \,\psi _{0}({\hat {k}})=\ln \left({\sqrt[{n}]{\prod {\frac {x_{i}}{\theta }}}}\right)$

La funzione digamma, nei reali positivi è strettamente crescente, per cui esiste la funzione inversa

    ${\hat {k}}=\psi _{0}^{-1}\left[\ln \left({\sqrt[{n}]{\prod _{i=1}^{n}{\frac {x_{i}}{\theta }}}}\right)\right]=\psi _{0}^{-1}\left[{\frac {1}{n}}\sum _{i=1}^{n}\ln \left({\frac {x_{i}}{\theta }}\right)\right].$

Questo stimatore ottenuto è asintoticamente corretto, ma per valori finiti andrebbe verificato il suo valore atteso che, se risultasse essere $k$, allora sarebbe un corretto stimatore.

Calcoliamo quindi

    $\mathbb {E} [\psi _{0}({\hat {k}})]=\mathbb {E} \left[{\frac {1}{n}}\sum _{i=1}^{n}\ln \left({\frac {x_{i}}{\theta }}\right)\right]={\frac {1}{n}}\sum _{i=1}^{n}\mathbb {E} \left[\ln \left({\frac {x_{i}}{\theta }}\right)\right]={\frac {1}{n}}\sum _{i=1}^{n}\int _{0}^{\infty }\ln \left({\frac {x_{i}}{\theta }}\right){\frac {x_{i}^{k-1}}{\theta ^{k}\Gamma (k)}}e^{-{\frac {x_{i}}{\theta }}}dx_{i},$

dove abbiamo usato la linearità del valore atteso e scritto la sua definizione su variabile aleatoria continua.

    $\mathbb {E} [\psi _{0}({\hat {k}})]={\frac {1}{n\theta ^{k}\Gamma (k)}}\sum _{i=1}^{n}\int _{0}^{\infty }\ln \left({\frac {x_{i}}{\theta }}\right)x_{i}^{k-1}e^{-{\frac {x_{i}}{\theta }}}dx_{i}={\frac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }\ln \left({\frac {t}{\theta }}\right)t^{k-1}e^{-{\frac {t}{\theta }}}dt$

Tutti gli integrali nella $i$-esima variabile sono uguali tra di loro, quindi la loro somma dà $n$ volte il singolo integrale nella generica variabile di integrazione $t$.

    $\mathbb {E} [\psi _{0}({\hat {k}})]={\frac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }\ln \left({\frac {t}{\theta }}\right)t^{k-1}e^{-{\frac {t}{\theta }}}dt={\frac {\theta ^{k-1}}{\theta ^{k-1}\Gamma (k)}}\int _{0}^{\infty }\ln(u)u^{k-1}e^{-u}du={\frac {1}{\Gamma (k)}}\int _{0}^{\infty }u^{k-1}\ln(u)e^{-u}du$

e il risultato di quest'ultimo integrale è proprio $\Gamma (k)\psi _{0}(k)$ per qualunque $k$ con parte reale positiva. Abbiamo quindi ottenuto l'identità

    $\mathbb {E} [\psi _{0}({\hat {k}})]=\psi _{0}(k),$

che non è sufficiente a dire che lo stimatore sia corretto (non solo asintoticamente), ma è tuttavia necessario.

In effetti dalla disuguaglianza di Jensen (secondo cui $\varphi (\mathbb {E} [X])\leq \mathbb {E} [\varphi (X)]$ per una qualunque variabile aleatoria X e una funzione convessa $\varphi$) si ottiene un risultato più forte grazie al fatto che la funzione $\psi _{0}^{-1}\colon \mathbb {R} \rightarrow \mathbb {R} ^{+}$ è convessa su tutto il suo dominio.

Infatti usando la disuguaglianza di Jensen per $X=\psi _{0}({\hat {k}})$ e $\varphi =\psi _{0}^{-1}$ risulterà

    $\psi _{0}^{-1}\left(\mathbb {E} \left[\psi _{0}({\hat {k}})\right]\right)\leq \mathbb {E} \left[\psi _{0}^{-1}\left(\psi _{0}({\hat {k}})\right)\right]=\mathbb {E} [{\hat {k}}].$

Dall'uguaglianza ottenuta in precedenza il membro di sinistra si semplifica così da avere:

    $k\leq \mathbb {E} [{\hat {k}}].$
