Once we have calculated the posterior, the question arises on how to estimate the parameters of the posterior.
When there is a lot of information, the parameters can be estimated directly and subjectively.
Multi-phase assignment estimating the parameters with a Hyper Prior which is typically chosen to be non-informative.
In termini pratici è come se dovessi rifare il ragionamento di scelta della prior una seconda volta ma non sulla \(X\) per un parametro \(\theta\) bensì sulla v.c \(\theta\) (perchè in statistica Bayesiana il parametro è anch’esso una variabile aleatoria) con funzione di densità uguale alla prior \(\pi(\theta)\) per un parametro \(\alpha\) .
I choose the hyperparameters by calculating some moments and setting up a system of equations equating the theoretical moments to those estimated with the sample.
Therefore:
\(hp. \space \space m(x)= \int_{\Theta}{f(\underline{x} | \theta) \pi(\theta)} \space \space d\theta\)
\[Momenti \space teorici\\ E^f[x]= E[x|\theta] =\mu_f(\theta)\\ Var^f(x)=Var(x|\theta)=\sigma^2_f(\theta)\] \[Momenti \space calcolati \space sul \space campione\\ E^m(x)= \int_{S_x} x \space m(x) \space \space dx = \mu_m \\ Var^m(x)= \int_{S_x} x^2 \space m(x) \space \space dx = \sigma^2_m\] \[Sistema \space di \space equazioni \\ \begin{cases} \mu_f(\theta) = \mu_m \\ \sigma^2_f(\theta)= \sigma^2_m \end{cases} \]
In generale utilizzando questo metodo è necessario un campione abbastanza numeroso inoltre è consigliabile utilizzare metodi di stima accurati valutando, ove possibile, la variabilità dei momenti del o dei parametri \(\theta\), ad esempio con un Double-Bootstrap.