332747_zh-CN

liliconcom

如何从Minimize（）函数返回的Hessian计算参数std误差（或标准差）？

你好，

 

我在使用带有可选参数<< showdetails的minimum（）来计算参数估计值的标准误差时遇到问题，该参数返回一些额外的值，包括黑森州矩阵。  

我对Hessian的（基本的）理解是对角元素应该是方差的倒数的良好近似。 但是，这样提取的值与我从简单线性回归得到的值之间并没有很好的一致性。

为了说明这里是一个示例：

x = [1.309, 1.471, 1.49, 1.565, 1.611, 1.68];
y = [2.138, 3.421, 3.597, 4.34, 4.882, 5.66];
b1 = 1; /*starting value for b1 */
b2 = 5; /*starting value for b2 */
sseExpr = Expr(
       Summation( i = 1, 6, (y[i] - (b1 +b2*x[i] )) ^ 2 )
);
//Use Minimize 
{objVal, iters, gradient, hessian}  = Minimize( sseExpr, {b1, b2} ,<<SHOWDETAILS></SHOWDETAILS><BR />

结果如下所示

nParm=2  Newton   ******************************************************

Iter   nFree   Objective  RelGrad    NormGrad2  Ridge   nObj   nGrad   nHess   Parm0      Parm1      
0      2       128.6484   20788.83   4982.355   0       1      1       1       1          5          
1      2       0.074605   7.56e-25   1.88e-25   0       1      1       1       -10.427    9.489346   
Convergence SUCCESS: Gradient
Time: 0.0166666667209938


********************************************************************
************     Parameter Estimates      **************************
********************************************************************
Term           Estimates      Std Error      t Ratio        Prob>|t|       
********************************************************************
Intercept      -10.42696      0.72006        -14.48064      0.00013        
b1             9.48935        0.47199        20.10486       0.00004        
********************************************************************
RSquare:0.990201015051942
RSquare Adj:0.987751268814928

"Parameter b1=";
Estimates[1] = -10.4269614637334;
b1 = -10.4269614637335;
"Parameter b2";
Estimates[2] = 9.48934569169413;
b2 = 9.48934569169416;
"Std_error in b1";
std_error[1] = 0.720062429496937;
min_stderror[1,1] = 1.5220348519284;
"Std_error in b2";
std_error[2] = 0.471992539497802;
min_stderror[2,2] = 0.997676125760012;

尽管参数估计值完全吻合，但误差却不同。

因此，问题是：如何从Minimize（）函数返回的Hessian计算参数std误差（或标准差）？

 

感谢您的协助

 

 

分析工具脚本编写回复：如何根据Minimize（）函数返回的Hessian计算参数std误差（或标准差）？

一位同事帮助我找出问题所在。

标准误差的计算不正确。 它应该是：

{objVal, iters, gradient, hessian} = Minimize( sseExpr, {b1, b2} ,<<SHOWDETAILS></SHOWDETAILS>if(!isempty(objVal),<BR />y_est=b1+b2*x;<BR />stderror=sqrt(sum((y-y_est)^2)*inverse(hessian/2)/(nrows(x)-nrows(Estimates)));<BR />);

 

给出与线性回归相同的标准误差。