《SVM.docVIP

数据挖掘，知识图谱： web文本挖掘（例如：观点分析）过程： 特征集{中阴，诱多，看多，空仓，下行，风险，下跌，预期，中阳，暴跌，强势，空方，做多，年线，冲高} eg：观点句=“ 飞扬 认为，周二 大盘 这么 走 的 概率 较大 ： 大盘 小幅 冲高 后 ， 盘 中 将 展开 震荡 的 走势 ，盘尾 报收 中阴 线 。 ” 则数据量化为=（1,0,0,0,0,0,0,0,0,0,0,0,0,0,1） 支持向量机SVM(Support Vector Machine） 1995年，由Vapnik等人在多年研究统计学习理论基础上对线性分类器提出了另一种设计最佳准则。其原理也从线性可分说起，然后扩展到线性不可分的情况。甚至扩展到使用非线性函数中去，这种分类器被称为支持向量机（Support Vector Machine，简称SVM）。支持向量机的提出有很深的理论背景。 SVM的主要思想可以概括为两点：⑴它是针对线性可分情况进行分析，对于线性不可分的情况，通过使用非线性映射算法将低维输入空间线性不可分的样本转化为高维特征空间使其线性可分，从而使得高维特征空间采用线性算法对样本的非线性特征进行线性分析成为可能；⑵它是基于结构风险最小化理论之上在特征空间中建构最优分割超平面，使得学习器得到全局最优化，并且在整个样本空间的期望风险以某个概率满足一定上界。 例如， 在一维空间的线性不可分数据，采用映射到二维空间之后，转换成了： 对于二维线性可分的数据，SVM分类情况大致如下所示： 找到分类超平面，如下： 然而，对于线性不可分的数据： 映射到高维空间，容易发生“维数灾难”的问题。然而对于SVM来说，SVM的求解是利用核函数技巧，即：向量之间的点积的运算，避免了在高维空间中出现“维数灾难”的问题。 常见的核函数： ⑴线性核函数K(x,y)=x·y； ⑵多项式核函数K(x,y)=[(x·y)+1]^d； ⑶径向基函数K(x,y)=exp(-|x-y|^2/d^2） ⑷二层神经网络核函数K(x,y)=tanh(a(x·y)+b） 应用核函数的展开定理，就不需要知道非线性映射的显式表达式；由于是在高维特征空间中建立线性学习机，所以与线性模型相比，不但几乎不增加计算的复杂性，而且在某种程度上避免了“维数灾难”．这一切要归功于核函数的展开和计算理论。 —————————————————————————————————— 详细介绍如下： 基于python的机器学习模块：sklearn、nltk、pybrain等可以轻松实现各种统计学习算法。 模型预测 模型训练 web 得出结论 文本表示 HTML解析 网页字符转换 特征选择 中文分词 人工标签