带线性约束的多元线性回归模型参数估计.pdfVIP

第 33 卷第 11 期 统计研究 Vol. 33 , No.ll 2016 年 11 月 Statistical Research Nov. 2016 带线性约束的多元线性回归模型参数估计 李小胜王中令 内容提要:本文首先构造线性约束条件下的多元线性回归模型的样本似然函数，利用 Lagrange 法证明其合理 性。其次，从似然函数的角度讨论线性约束条件对模型参数的影响，对由传统理论得出的参数估计做出贝叶斯与 经验贝叶斯的改进。做贝叶斯改进时，将矩阵正态-Wishart 分布作为模型参数和精度阵的联合共辄先验分布，结 合构造的似然函数得出参数的后验分布，计算出参数的贝叶斯估计:做经验贝叶斯改进时，将样本分组，从方差的 角度讨论由子样本得出的参数估计对总样本参数估计的影响，计算出经验贝叶斯估计。最后，利用 Matlab 软件生 成的随机矩阵做模拟。结果表明，两种改进后的参数估计均较由传统理论得出的参数估计更精确、拟合结果的误 差比更小、可信度更高，在大数据的情况下，改进后的计算方法速度更快。 关键词:线性约束;似然函数;贝叶斯估计;经验贝叶斯估计 DOI: 10. 19343/j. cnki. 11 - 1302/c. 2016. 11. 012 中图分类号:C81 文献标识码:A 文章编号:1002 -4565(2016)11 -0085 -08 The Parameter Estimation of Multivariate Linear Regression Model with Linear Restraint Li Xiaosheng Wang Shenling Abstract: Tthis paper firstly constructs the sample likelihood function of the multivariate linear regression model with linear restraint. We prove that this constructÌon is reliable by Lagrange multiplier method. Secondly , we discuss the influence of linear constraints to model parameters from the perspective of likelihood function , and then make the Bayesian improvement and the empirical Bayesian improvement respectively to the estimation of model parameter hy the traditional theo巧. Making the Bayesian improvement , we regard matrix normal- Wishart distribution as the joint conjugate prior distribution of model parameters. Comhining this prior distribution with the constructed likelihood function to calculate the posterior distributions of these parameters , we get their Bayesian estimations. When doing the empirical B