libsvm的原理及使用方法介绍.docVIP

LibSVM学习LibSVM学习 1 初识LibSVM 1 第一次体验libSvm 3 LibSVM使用规范 5 1. libSVM的数据格式 5 2. svmscale的用法 5 3. svmtrain的用法 6 4. svmpredict 的用法 7 逐步深入LibSVM 7 分界线的输出 11 easy.py和grid.py的使用 13 1. grid.py使用方法 13 2. easy.py使用方法 14 参考 16 LibSVM学习初识LibSVMChih-Jen Lins) 教授2001年开发的一套支持向量机的库，这套库运算速度还是挺快的，可以很方便的对数据做分类或回归。 由于libSVM程序小，运用灵活，输入参数少，并且是开源的，易于扩展，因此成为目前国内应用最多的SVM的库。 这套库可以从林智仁的home page上免费获得，目前已经发展到3.0版。下载.zip格式的版本，解压后可以看到，主要有5个文件夹和一些c++源码文件。 Java —— 主要是应用于java平台的源码和libsvm.jar包； Python —— 是用来参数优选的工具，稍后介绍； svm-toy —— 一个可视化的工具，用来展示训练数据和分类界面，里面是源码，其编译后的程序在windows文件夹下； tools —— 主要包含四个python文件，用来数据集抽样(subset.py)，参数优选（grid.py），集成测试(easy.py), 数据检查(checkdata.py)； windows —— 包含libSVM四个exe程序包，我们所用的库和程序就是它们。 其他.h和.cpp文件都是程序的源码，可以编译出相应的.exe文件。其中，最重要的是svm.h和svm.cpp文件，svm-predict.c、svm-scale.c和svm-train.c（还有一个svm-toy.cpp在svm-toy\qt文件夹中）都是调用的这个文件中的接口函数，编译后就是windows下相应的四个exe程序。另外，里面的 README 跟 FAQ 也是很好的文件，对于初学者如果E文过得去，可以看一下。 下面以svm-train为例，简单的介绍下，怎么编译：（这步很简单，也没必要，对于仅仅使用libsvm库的人来说，windows下的4个exe包已经足够了，之所以加这步，是为了那些做深入研究的人，可以按照自己的思路改变一下svm.cpp，然后编译验证） 我用的是VC 6.0，新建一个控制台（win32 console application）程序，程序名叫svmtrain（这个可以随意），点击OK后，选择empty。 进入程序框架后，里面什么都没有，然后找到你的程序目录，把svm-train.c、svm.h和svm.cpp拷贝过去（.c文件是c语言的，要是你习惯了c++，你尽可以改成.cpp），然后把这3个文件添加到工程，编译。。。如果没错误，到debug下面看看，是不是有个svm-train.exe。其实windows下的svm-train.exe就是这样编译出来的。 哈哈，怎么样是不是很简单。但是，这样的程序直接运行没意义，他要在dos下运行，接收参数才行。下面开始我们的libsvm的体验之旅。 第一次体验libSvmD:\libsvm\windows目录下，具体命令如下: (上面第一行是先定位到盘符d，第二行cd 是定位到相应盘符下的目录) 3. 进行libsvm训练，输入命令：(这里要注意文件的名字，2.89以前版本都是svmtrain.exe) svm-train heart_scale train.model PS：heart_scale ——是目录下的已经存在的样本文件（此处将下载的压缩文件中的heart_scale放置入D:\libsvm\windows下即可），要换成自己的文件，只需改成自己的文件名就可以了。 PS：train.model ——是创建的结果文件，保存了训练后的结果。 #iter为迭代次数; nu 是你选择的核函数类型的参数; obj为SVM文件转换为的二次规划求解得到的最小值，rho为判决函数的偏置项b; nSV 为标准支持向量个数(0a[i]c)，nBSV为边界上的支持向量个数(a[i]=c); Total nSV为支持向量总个数（对于两类来说，因为只有一个分类模型Total nSV = nSV，但是对于多类，这个是各个分类模型的nSV之和）。 在目录下，还可以看到产生了一个train.model文件，可以用记事本打开，记录了训练后的结果。 svm_type c_svc //所选择的svm类型，默认为c_svc kernel_type rbf