参数估计在建模中的应用上.pptxVIP

统计推断的过程;;估计量：用于估计总体参数的随机变量 如样本均值，样本比率、样本方差等 例如: 样本均值就是总体均值? 的一个估计量 参数用? 表示，估计量用 表示 估计值：估计参数时计算出来的统计量的具体值 如果样本均值 ?x =80，则80就是?的估计值;点估计;含义：在点估计的基础上，估计总体参数的区间范围，并给出区间估计成立的概率值。 其中： 1-α(0α1)称为置信水平 α是区间估计的显著性水平； 常用的置信水平值有 99%, 95%, 90% 相应的 ??为0.01，0.05，0.10 ;样本???计量 (点估计);置信区间;置信区间与置信水平 ;区间估计的图示;无偏性：估计量抽样分布的数学期望等于被估计的总体参数 ;评价估计量的标准——有效性;评价估计量的标准——一致性;一般常用? 表示参数，参数? 所有可能取值组成的集合称为参数空间，常用?表示。参数估计问题就是根据样本对上述各个未知参数作出估计。 参数估计的两种形式：点估计与区间估计。;设 x1, x2,…, xn 是来自总体 X 的一个样本，我们用一个统计量 的取值作为? 的估计值， 称为? 的点估计（量），简称估计。在这里如何构造统计量 并没有明确的规定，只要它满足一定的合理性即可。这就涉及到两个问题：;点估计 ;例 对某型号的20辆汽车记录其每加仑汽油的行驶里程(km)，观测数据如下： 29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9 经计算有 由此给出总体均值、方差和中位数的估计分别为: 28.695, 0.9185 和 28.6。 矩估计法的实质是用经验分布函数去替换总体分布，其理论基础是格里纹科定理。;二、概率函数P(x,θ)已知时未知参数的矩估计法;例设总体服从指数分布，由于EX=1/?， 即? =1/ EX，故? 的矩法估计为 另外，由于Var(X)=1/?2，其反函数为 因此，从替换原理来看，?的矩法估计也可取为 s 为样本标准差。这说明矩估计可能是不唯一的，这是矩估计法的一个缺点，此时通常应该尽量采用低阶矩给出未知参数的估计。;例x1, x2, …, xn是来自(a,b)上的均匀分布U(a,b)的样本，a与b均是未知参数，这里k=2，由于 不难推出 由此即可得到a, b的矩估计为：;极大似然估计 ;极大似然估计（续） ; 如果某统计量 满足 则称 是? 的最（极）大似然估计，简记为MLE（Maximum Likelihood Estimate）。 ;例 设一个试验有三种可能结果，其发生概率分别为 现做了n次试验，观测到三种结果发生的次数分别为 n1 , n2 , n3 (n1+ n2+ n3 = n)，则似然函数为 其对数似然函数为;将之关于? 求导，并令其为0得到似然方程 解之，得 由于 所以 是极大值点。 ;例 对正态总体N(?,? 2)，θ=(?,? 2)是二维参数，设有样本 x1, x2 , …, xn，则似然函数及其对数分别为 ; 将 lnL(?,? 2) 分别关于两个分量求偏导并令其为0, 即得到似然方程组 ; 解此方程组，可得? 的极大似然估计为 代入得出? 2的极大似然估计 利用二阶导函数矩阵的非正定性可以说明上述估计使得似然函数取极大值。 ; 虽然求导函数是求极大似然估计最常用的方法，但并不是在所有场合求导都是有效的。; 解 似然函数 要使L(? )达到最大，首先一点是指示函数取值应该为1，其次是1/? n尽可能大。由于1/? n是?的单调减函数，所以? 的取值应尽可能小，但指示函数为1决定了? 不能小于x(n)，由此给出?的极大似然估计： 。 ; 极大似然估计有一个简单而有用的性质：如果 是? 的极大似然估计，则对任一函数 g(? )，其极大似然估计为 。该性质称为极大似然估计的不变性，从而使一些复杂结构的参数的