线性分类器.pdf

数据分析中的线性分类器数据分析中的线性分类器： 模型和算法模型和算法 wenyu@iie.ac.cn 为什么是线性分类器为什么是线性分类器？？  机器学习技术是数据分析问题的重要解决方法机器学习技术是数据分析问题的重要解决方法  分类器技术在数据分析实战中应用最为广泛分类器技术在数据分析实战中应用最为广泛  线性分类器是机器学习理论中最基本的模型线性分类器是机器学习理论中最基本的模型  线性分类也是解决非线性分类问题的基础线性分类也是解决非线性分类问题的基础  线性分类器是实践证明最有效的分类方法线性分类器是实践证明最有效的分类方法 目录目录  线性分类器  非线性扩展非线性扩展  优化技术优化技术 线性分类问题线性分类问题 目录目录  线性分类器  支持向量机支持向量机  逻辑回归  非线性扩展非线性扩展  优化技术  总结 支持向量机支持向量机  解决二分分类问题的强有力的方法解决二分分类问题的强有力的方法  1965年由Vapnik提出，用于构建线性分类器  1995年由Coret和Vapnik正式提出支持向量机  自上世纪九十年代自上世纪九十年代，开始流行开始流行  泛化性好（避免过度学习）  有趣的思想  使用核函数，将训练数据集从低维转化为高维，用于 解决线性可分问题解决线性可分问题  使用二次规划方法，求解最优的超平面 线性分类器线性分类器 如何分类这些数如何分类这些数 据？ 线性分类器线性分类器 如何分类这些数如何分类这些数 据？ 线性分类器线性分类器 如何分类这些数如何分类这些数 据？ 线性分类器线性分类器 如何分类这些数如何分类这些数 据？ 线性分类器线性分类器 看起来多不 错 … 但是哪条是 最好的最好的？？ 线性分类器线性分类器 分类器间隔：指 分类器边界在抵 达数据点前的可 增加的宽度增加的宽度 线性分类器线性分类器