Ciao,
Ho un problema con il calcolo dell'errore standard delle stime dei parametri utilizzando minimizza () con il parametro opzionale << showdetails che restituisce alcuni valori extra tra cui la matrice hessiana.
La mia comprensione (piuttosto basilare) dell'Hessian è che gli elementi diagonali dovrebbero essere una buona approssimazione dell'inverso delle varianze. Tuttavia, non ottengo un buon accordo tra i valori così estratti e quelli che ottengo dalla semplice regressione lineare.
Per illustrare qui è un esempio:
x = [1.309, 1.471, 1.49, 1.565, 1.611, 1.68];
y = [2.138, 3.421, 3.597, 4.34, 4.882, 5.66];
b1 = 1; /*starting value for b1 */
b2 = 5; /*starting value for b2 */
sseExpr = Expr(
Summation( i = 1, 6, (y[i] - (b1 +b2*x[i] )) ^ 2 )
);
//Use Minimize
{objVal, iters, gradient, hessian} = Minimize( sseExpr, {b1, b2} ,<<SHOWDETAILS></SHOWDETAILS><BR />Il risultato da questo è mostrato di seguito
nParm=2 Newton ******************************************************
Iter nFree Objective RelGrad NormGrad2 Ridge nObj nGrad nHess Parm0 Parm1
0 2 128.6484 20788.83 4982.355 0 1 1 1 1 5
1 2 0.074605 7.56e-25 1.88e-25 0 1 1 1 -10.427 9.489346
Convergence SUCCESS: Gradient
Time: 0.0166666667209938
********************************************************************
************ Parameter Estimates **************************
********************************************************************
Term Estimates Std Error t Ratio Prob>|t|
********************************************************************
Intercept -10.42696 0.72006 -14.48064 0.00013
b1 9.48935 0.47199 20.10486 0.00004
********************************************************************
RSquare:0.990201015051942
RSquare Adj:0.987751268814928
"Parameter b1=";
Estimates[1] = -10.4269614637334;
b1 = -10.4269614637335;
"Parameter b2";
Estimates[2] = 9.48934569169413;
b2 = 9.48934569169416;
"Std_error in b1";
std_error[1] = 0.720062429496937;
min_stderror[1,1] = 1.5220348519284;
"Std_error in b2";
std_error[2] = 0.471992539497802;
min_stderror[2,2] = 0.997676125760012;
Sebbene le stime dei parametri siano in perfetto accordo, gli errori non lo sono.
quindi la domanda: Come calcolare l'errore std del parametro (o deviazione standard) dall'Hessian restituito dalla funzione Minimize ()?
Grazie per l'assistenza
Un collega mi ha aiutato a capire cosa c'era che non andava.
Il calcolo dell'errore standard non è corretto. Dovrebbe essere:
{objVal, iters, gradient, hessian} = Minimize( sseExpr, {b1, b2} ,<<SHOWDETAILS></SHOWDETAILS>if(!isempty(objVal),<BR />y_est=b1+b2*x;<BR />stderror=sqrt(sum((y-y_est)^2)*inverse(hessian/2)/(nrows(x)-nrows(Estimates)));<BR />);
che dà lo stesso errore std della regressione lineare.
