序贯最小化方法（Sequential Minimal Optimization，SMO）.PPT

一类支持向量机（最小超球） Estimating the Support of a High-Dimensional Distribution (Scholkopf,1999)：数据集与原点之间的间隔最大化问题（当数据集中的样本，其范数都被归结为1时，完全等价于最小超球） Support Vector Data Description (DAVID,2004):包含数据集的最小超球问题 数据描述问题 给定一个训练数据集{x1,x2,…,xN},要求给出该数据集的数据描述，比如概率分布函数。这是个很难的问题，在此问题中考虑一个简单问题：给出描述这个数据集的有效区域，即该数据集以大概率分布在该有效区域内，以很小的概率或者分布在该有效区域外 One Class Model（最小超球模型） 模型（1）的对偶问题 KKT条件 模型（1）和其对偶模型（2）的最优解之间的关系和性质 球心、半径和决策函数 支持向量 核方法 由于上述模型中仅牵涉到样本的内积，因此类似于两类问题的SVM，可将核方法应用到一类问题的SVM,即 核的影响 多项式核：内积受样本范数的影响很大，大范数的样本将主导其内积，对最小超球的影响最大，多项式的阶数越高，这种影响越大。通过将样本数据规范化到均值为0，方差为1可减小大范数的影响 高斯径向基核：每个样本的范数都为1，因此内积完全由样本间的夹角余弦决定。 模型参数的影响 增大C，支持向量个数将减少，但最小超球的半径增加；减小C，支持向量的个数将增加，但最小超球的半径将减小 高斯核宽度参数sigma增大时，支持向量个数将减少，特别是当sigma趋于无穷大时，特征空间的最小超球将回归原空间的最小超球； sigma减小时，支持向量个数将增加，特别是当sigma趋于零时，所有样本都成为支持向量(?i=1/N). 负样本可用的最小超球问题 基于最小超球的多类SVM 训练：求出包含该类样本的最小超球（其余样本看成负类样本） 测试：用测试样本到每类最小超球的球心距离和球半径的比值大小对测试样本进行分类，将其分至该比值最小的类，即 一个注意点 若使用核函数，每一个超球应使用同样的核函数和核参数 * 罗林开 模式识别与智能系统研究所 * * * 罗林开 模式识别与智能系统研究所 *