Bonjour,
J'ai un problème avec le calcul de l'erreur standard des estimations de paramètres en utilisant minimiser() avec le paramètre optionnel <
Ma compréhension (assez basique) de l'hessien est que les éléments diagonaux devraient être une bonne approximation de l'inverse des variances. Cependant, je n'obtiens pas une bonne concordance entre les valeurs ainsi extraites et celles que j'obtiens à partir d'une régression linéaire simple.
Pour illustrer, voici un exemple :
x = [1.309, 1.471, 1.49, 1.565, 1.611, 1.68];
y = [2.138, 3.421, 3.597, 4.34, 4.882, 5.66];
b1 = 1; /*starting value for b1 */
b2 = 5; /*starting value for b2 */
sseExpr = Expr(
Summation( i = 1, 6, (y[i] - (b1 +b2*x[i] )) ^ 2 )
);
//Use Minimize
{objVal, iters, gradient, hessian} = Minimize( sseExpr, {b1, b2} ,<<SHOWDETAILS></SHOWDETAILS><BR />Le résultat est indiqué ci-dessous
nParm=2 Newton ******************************************************
Iter nFree Objective RelGrad NormGrad2 Ridge nObj nGrad nHess Parm0 Parm1
0 2 128.6484 20788.83 4982.355 0 1 1 1 1 5
1 2 0.074605 7.56e-25 1.88e-25 0 1 1 1 -10.427 9.489346
Convergence SUCCESS: Gradient
Time: 0.0166666667209938
********************************************************************
************ Parameter Estimates **************************
********************************************************************
Term Estimates Std Error t Ratio Prob>|t|
********************************************************************
Intercept -10.42696 0.72006 -14.48064 0.00013
b1 9.48935 0.47199 20.10486 0.00004
********************************************************************
RSquare:0.990201015051942
RSquare Adj:0.987751268814928
"Parameter b1=";
Estimates[1] = -10.4269614637334;
b1 = -10.4269614637335;
"Parameter b2";
Estimates[2] = 9.48934569169413;
b2 = 9.48934569169416;
"Std_error in b1";
std_error[1] = 0.720062429496937;
min_stderror[1,1] = 1.5220348519284;
"Std_error in b2";
std_error[2] = 0.471992539497802;
min_stderror[2,2] = 0.997676125760012;
Bien que les estimations des paramètres soient en parfaite concordance, les erreurs ne le sont pas.
d'où la question : Comment calculer l'erreur type du paramètre (ou écart type) à partir de l'Hessien renvoyé par la fonction Minimize() ?
Merci pour toute aide
Un collègue m'a aidé à comprendre ce qui n'allait pas.
Le calcul de l'erreur standard est incorrect. Ça devrait être:
{objVal, iters, gradient, hessian} = Minimize( sseExpr, {b1, b2} ,<<SHOWDETAILS></SHOWDETAILS>if(!isempty(objVal),<BR />y_est=b1+b2*x;<BR />stderror=sqrt(sum((y-y_est)^2)*inverse(hessian/2)/(nrows(x)-nrows(Estimates)));<BR />);
ce qui donne la même erreur type que la régression linéaire.
