实验四支持向量机.doc

实验四：支持向量机 班级 姓名 学号 指导老师 实验目的 1.了解基有关支持向量机的基本原理 ? 2.能够使用支持向量机的代码解决分类与回归问题 3.了解图像分类的基本原理 二、实验的硬件、软件平台 硬件：计算机 软件：操作系统win10? 应用软件：Java 实验原理1.?LIBSVM?使用方法简介 LibSVM是以源代码和可执行文件两种方式给出的。如果是Windows系列操作系统，可以直接使用软件包提供的程序，也可以进行修改编译；如果是Unix类系统，必须自己编译。 LIBSVM?在给出源代码的同时还提供了Windows操作系统下的可执行文件，包括：进行支持向量机训练的svmtrain.exe；根据已获得的支持向量机模型对数据集进行预测的svmpredict.exe；以及对训练数据与测试数据进行简单缩放操作的svmscale.exe。它们都可以直接在DOS?环境中使用。如果下载的包中只有C++的源代码，则也可以自己在VC等软件上编译生成可执行文件。2.?LIBSVM?使用的一般步骤是：1）?按照LIBSVM软件包所要求的格式准备数据集；2）?对数据进行简单的缩放操作；3）?考虑选用RBF?核函数；4）?采用交叉验证选择最佳参数C与g?；5）?采用最佳参数C与g?对整个训练集进行训练获取支持向量机模型；6）?利用获取的模型进行测试与预测。3.?LIBSVM使用的数据格式1）训练数据和检验数据文件格式如下：????label?index1:value1?index2:value2?...????其中label?是训练数据集的目标值，对于分类，它是标识某类的整数(支持多个类)；对于回归，是任意实数。index?是以1开始的整数，可以是不连续的；value为实数，也就是我们常说的自变量。检验数据文件中的label只用于计算准确度或误差，如果它是未知的，只需用一个数填写这一栏，也可以空着不填。在程序包中，还包括有一个训练数据实例：heart_scale，方便参考数据文件格式以及练习使用软件。可以编写小程序，将自己常用的数据格式转换成这种格式2）Svmtrain和Svmpredict的用法???????LIBSVM软件提供的各种功能都是DOS命令执行方式。我们主要用到两个程序，svmtrain(训练建模)和svmpredict(使用已有的模型进行预测)，下面分别对这两个程序的使用方法、各参数的意义以及设置方法做一个简单介绍：??????（1）Svmtrain的用法：??????????svmtrain?[options]?training_set_file?[model_file]Options：可用的选项即表示的涵义如下-s?svm类型：SVM设置类型(默认0)?????????0?--?C-SVC?????????1?--v-SVC?????????2?–?一类SVM?????????3?--?e?-SVR?????????4?--?v-SVR-t?核函数类型：核函数设置类型(默认2)?????????0?–?线性：uv?????????1?–?多项式：(r*uv?+?coef0)^degree?????????2?–?RBF函数：exp(-r|u-v|^2)?????????3?–sigmoid：tanh(r*uv?+?coef0)-d?degree：核函数中的degree设置(默认3)-g?函数设置(默认1/?k)?r(gama)：核函数中的-r?coef0：核函数中的coef0设置(默认0)?-c?cost：设置C-SVC，?-SVR的参数(默认1)?-SVR和-?SVR的参数(默认0.5)?-SVC，一类SVM和?-n?nu：设置-SVR?-p?e：设置的值(默认0.1)?中损失函数-m?cachesize：设置cache内存大小，以MB为单位(默认40)-e?：设置允许的终止判据(默认0.001)?-h?shrinking：是否使用启发式，0或1(默认1)-wi?C(C-SVC中的C)(默认1)?weight：设置第几类的参数C为weight-v?n:?n-fold交互检验模式 其中-g选项中的k是指输入数据中的属性数。option?-v?随机地将数据剖分为n部分并计算交互检验准确度和均方根误差。以上这些参数设置可以按照SVM的类型和核函数所支持的参数进行任意组合，如果设置的参数在函数或SVM类型中没有也不会产生影响，程序不会接受该参数；如果应有的参数设置不正确，参数将采用默认值。training_set_file是要进行训练的数据集；model_file是训练结束后产生的模型文件，文件中包括支持向量样本数、支