菊安酱的机器学习第1期-k-近邻算法（直播）.pdfVIP

菊安酱的直播间： k-近邻算法   更新日期：2018-11-5 作者：菊安酱 课件内容说明： 本文为作者原创内容，转载请注明作者和出处 如果想获得此课件或完整视频，可扫描下方二维码，回复k进群     k-近邻算法 一、概述 二、k-近邻算法的Python实现 1. 算法实现 2. 封装函数 三、k-近邻算法之约会网站配对效果判定 1. 准备数据 2. 分析数据 3. 数据归一化 4. 划分训练集和测试集 5. 分类器针对于约会网站的测试代码 四、算法总结 1. 优点 2. 缺点         菊安酱 1 菊安酱的直播间： 一、概述 k-近邻算法（k-Nearest Neighbour algorithm），又称为KNN算法，是数据挖掘技术中原理最简单的算法。KNN 的工作原理：给定一个已知标签类别的训练数据集，输入没有标签的新数据后，在训练数据集中找到与新数据最邻 近的k个实例，如果这k个实例的多数属于某个类别，那么新数据就属于这个类别。可以简单理解为：由那些离X最 近的k个点来投票决定X归为哪一类。 图1 图1中有红色三角和蓝色方块两种类别，我们现在需要判断绿色圆点属于哪种类别 当k=3时，绿色圆点属于红色三角这种类别； 当k=5时，绿色圆点属于蓝色方块这种类别。   举个简单的例子，可以用k-近邻算法分类一个电影是爱情片还是动作片。（打斗镜头和接吻镜头数量为虚构） 电影名称 打斗镜头 接吻镜头 电影类型 无问西东 1 101 爱情片 后来的我们 5 89 爱情片 前任3 12 97 爱情片 红海行动 108 5 动作片 唐人街探案 112 9 动作片 战狼2 115 8 动作片 新电影 24 67 ？ 表1 每部电影的打斗镜头数、接吻镜头数和电影分类 表1就是我们已有的数据集合，也就是训练样本集。这个数据集有两个特征——打斗镜头数和接吻镜头数。除此之 外，我们也知道每部电影的所属类型，即分类标签。粗略看来，接吻镜头多的就是爱情片，打斗镜头多的就是动作 片。以我们多年的经验来看，这个分类还算合理。如果现在给我一部新的电影，告诉我电影中的打斗镜头和接吻镜 头分别是多少，那么我可以根据你给出的信息进行判断，这部电影是属于爱情片还是动作片。而k-近邻算法也可以