几种非参数方法的比较分析.ppt

几种非参数方法的比较分析 *** 引言 ? 非参数模型的一般形式 ? 几种非参数估计方法 ? 核回归估计法 局部多项式估计法 多项式样条估计法 光滑样条估计法 几种非参数估计方法的优缺点比较 ? 非参数估计方法是近二十年来现代统计学发展的 一个重要方向，又称分布自由检验，主要是不受 总体分布的限制，不假定总体分布的具体形式， 尽量从数据或样本本身获得所需要的信息，通过 估计而获得分布的结构，并逐步建立对事物的数 学描述和统计模型的方法。 引言 特点：在实际应用中由于不需要预先设定模型的具体形式和 误差分布，可以获得较宽的非线性变化，同时，在抽取样 本对总体进行估计时，不必依赖于样本所从属的总体的分 布形式，可以广泛地应用于不同类型的总体，这对减小偏 差、提高预测精度、了解样本序列的动态结构都是极其有 用的。当总体分布很不规则时，经典的置信区间可能无效 ，即置信区间不是真的有所期望得那么高，即使经典的置 信区间可以合理地认为有效，非参数统计方法也可以提供 一个更精确的置信区间。 1. 非参数模型的一般形式 n i X m Y i i i , , 2 , 1 , ) ( ? ? ? ? ? 其中 是观测误差， 为样本点， m 为一任 意形式的未知实值函数，即 m 的形式完全未知，当 X i 为一维或多维时分别称为一维与多维非参数模型。 i ? n i i i Y X 1 )} , {( ? （ 1 ） ? 非参数模型 (1) 有两种情形，第一种情形称为随机设 定模型。随机变量 是独立同分布的，此时 回归曲线可以定义为：，如果联合密度 f(x,y) 存在， m(x) 可以表示为： ，其中 是 X 的边际密度。 n i i i Y X 1 )} , {( ? ) ( ) , ( ) ( x f dy y x yf x m ? ? ? ? dy y x f x f ) , ( ) ( 第二种情形称为固定设计模型，模型中 是非随机 变量，在许多情形中， 被假定为等分布于区间[a， b]上，不失一般性，可以假定[a，b]=[0，1]， 。 无论是随机变量还是非随机变量，他们的估计原理都是 对相邻变量进行平均。 n i i X 1 } { ? n i i X 1 } { ? n X i 1 ? 核回归估计法 局部多项式估计法 多项式样条估计法 光滑样条估计法 几种非参数估计方法 1 . 核回归估计法 核估计的权函数定义为： ) ( / ) ( ) ( x f X x K x W n n h i h ni ? ? 这里 ， 是窗宽，函数 称为 X 的密度的 Rosenblatt-Parzen 核 密度估计；核函数 K 是一个连续、有界、对称的实值函数且 其积分为 1 ，对于核函数的选择有很多种、像高斯核、三角 核、四次方核等。最优核函数 是由 Epanechnikov （ 1969 ）， Bartlett （ 1963 ）提出的，被称 为 Epanechnikov 核，同时它是一个万能的加权方式，并对 比较核提供一个有用的基准。前苏联的 E.A.Nadaraya 和美 国的 G 。 Watson 于 1964 年各自独立发表了一种被称为核函数 估计的统计方法，后来就以 Nadaraya-Watson 命名这种非 参数回归的核估计方法 ，广泛记为 Nadaraya-Watson 估计。 n n n i n h i h h h h U K h u K X x K n x f n n n ), / ( ) ( ), ( ) ( 1 1 1 ? ? ? ? ? ? ? ) ( ? fhn ) 1 ( ) 1 ( 75 . 0 ) ( 2 ? ? ? U I u u K Nadaraya-Watson 估计（也称赋权估计），估计如下： ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? n i i ni i n n i n n n Y x W i n i n i h i h n i h i n i h h Y X x K X x K X x K n Yi X x K n x m 1 ) ( 1 1 1 1 1 1 ) ( ) ( ) ( ) ( ) ( 其中 X i 可以为一维或多维。核估计是一种非常常用的非参数 估计方法，但是这种方法在使用时需要考虑边界点对其的影 响。 【 1 】鲁万波 1, 李竹渝 2. 股票收益率波动性的非参数核回归估计及对中国股市的实证 分析 [J]. 高校应用数学学报 A 辑 ,2005,20(1):9-16 【 2 】李新娜 . 基于二阶微分的 Nadaraya_Watson 核估计 [J]. 统计与决策 ,2014,10 【 2 】李新娜 .