Scelta iperparametri della posterior


Articoli di approfondimento

Metodi di scelta degi iperparametri

Una volta arrivati a calcolare la posterior ci si pone la domanda su come stimare i parametri della posterior.


Assegnazione diretta

Quando ci sono molte informazioni i parametri si possono stimare direttamente e soggettivamente.

Assegnazione gerarchica

Assegnazione multifase stimando i parametri con un Hyper Prior tendenzialmente questa viene scelta non informativa.

In termini pratici è come se dovessi rifare il ragionamento di scelta della prior una seconda volta ma non sulla \(X\) per un parametro \(\theta\) bensì sulla v.c \(\theta\) (perchè in statistica Bayesiana il parametro è anch’esso una variabile aleatoria) con funzione di densità uguale alla prior \(\pi(\theta)\) per un parametro \(\alpha\) .

Assegnazione iperparametri basandosi sul campione

Scelgo gli iperparametri calcolando alcuni momenti e impostando un sistema di equazioni uguagliando i momenti teorici a quelli stimati con il campione.

Quindi:

\(hp. \space \space m(x)= \int_{\Theta}{f(\underline{x} | \theta) \pi(\theta)} \space \space d\theta\)

\[Momenti \space teorici\\ E^f[x]= E[x|\theta] =\mu_f(\theta)\\ Var^f(x)=Var(x|\theta)=\sigma^2_f(\theta)\] \[Momenti \space calcolati \space sul \space campione\\ E^m(x)= \int_{S_x} x \space m(x) \space \space dx = \mu_m \\ Var^m(x)= \int_{S_x} x^2 \space m(x) \space \space dx = \sigma^2_m\] \[Sistema \space di \space equazioni \\ \begin{cases} \mu_f(\theta) = \mu_m \\ \sigma^2_f(\theta)= \sigma^2_m \end{cases} \]

In generale utilizzando questo metodo è necessario un campione abbastanza numeroso inoltre è consigliabile utilizzare metodi di stima accurati valutando, ove possibile, la variabilità dei momenti del o dei parametri \(\theta\), ad esempio con un Double-Bootstrap.