《数据挖掘与机器学习》 课件6.2 优化运输车辆安全驾驶行为分析模型.pptx

8南宁职业技术学院

NCVTNANNINGCOLLEGEFORVOCATIONALTECHNOLOGY

厨

数据挖掘与机器学习

DATAMININGA°NDMACHINELEARNING

优化运输车辆安全驾驶行为分析模型

运输车辆安全驾驶行为分析——朴素贝叶斯、K近邻

创新思维和探索精神可以帮助个人更好地适应和应对不断变化的环境和挑战，创新

才能把握时代、引领时代。

通过不断地探索和尝试，个人可以更好地发现自己的优势和潜力，从而实现自我价值的最大化。

在本任务中将使用K近邻构建运输车辆安全驾驶模型，并与朴素贝叶斯分类进行对

比分析。

优化运输车辆安全驾驶行为分析模型

任务描述

使用sklearn库建立K近邻分类模型。

利用Matplotlib库实现结果的可视化。

使用准确率、精确率、召回率、F1得分评估K近邻分类模型。对比分析朴素贝叶斯分类模型和K近邻分类模型。

优化运输车辆安全驾驶行为分析模型

任务要求

Part1相关知识

·K近邻

·对比分析法

什么是K近邻算法?

·K近邻(K-NearestNeighbor,KNN)算法是一种常用的监督学习方法。

·其原理非常简单：对于给定测试样本，基于指定的距离度量找出训练集中与其最近的k个样本，然后基于这k个“邻居”的信息来进行预测。

·通常，在分类任务中用的是“投票法”,即选择k个“邻居”中出现最多的类别标记作为预测结果；在回归任务中使用“平均法”,即取k个邻居的实值，输出

标记的平均值作为预测结果；还可根据距离远近进行加权投票或加权平均，距

离越近的样本权重越大。

优化运输车辆安全驾驶行为分析模型

K近邻

与其他学习算法相比，K近邻分类有一个明显的不同之处：接收训练集之后没有

显式的训练过程。

实际上，它是“懒惰学习”(lazylearning)的著名代表，此类学习算法在训练

阶段只是将样本保存起来，训练时间为零，待接收到测试样本后再进行处理。

优化运输车辆安全驾驶行为分析模型

K近邻

等距线

当k=1时，“+”样本的个数为1,“-”样本的个数为0。“+”样本在范围内的样本中占比高于“-”样本，

因此会将测试样本判给占比最高的“+”类别.

K近邻

K近邻算法的示意图如下所示。

优化运输车辆安全驾驶行为分析模型

当k=3时，“+”样本在范

围中的样本所占的比例为1/3,“-”样本所占的比例为2/3。此时，“-”样本的占比高

于“+”样本比例，因此会将测试样本判给占比最大的“-”类别。

K近邻

K近邻算法的示意图如下所示。

当k=5时，“+”样本在范

围中的样本所占的比例为3/5,

“-”样本所占的比例为2/5。

此时，“+”样本占比高于“-”样本，因此会将测试样本判给占比最高的“+”类别。

K近邻

K近邻算法的示意图如下所示。

显然k是一个重要参数，当k

取不同值时，分类结果会显著不同。在实际的学习环境中要取不同的k值进行多次测试，选择误差最小的k值。

K近邻

K近邻算法的示意图如下所示。

使用sklearn库中neighbors模块的KNeighborsClassifier类可以实现K近邻算法对

数据进行分类。

KNeighborsClassifier类的基本使用格式如下。

classsklearn.neighbors.KNeighborsClassifier(n_neighbors=5,*,weights=uniform,algorithm=auto,

leaf_size=30,p=2,metric=minkowski,metric_params=None,n_jobs=None,**kwargs)

优化运输车辆安全驾驶行为分析模型

K近邻

参数名称

说明

n_neighbors

接收int。表示“邻居”数。默认为5

weights

接收str。表示分类判断时最近邻的权重，可选参数为uniform和distance,

uniform表示权重相等，distance表示按距离的倒数赋予权重。默认为uniform

algorithm

接收str。表示分类时采取的算法，可选参数为auto、ball_tree、kd_tree和

brute,一般选择auto自动选择最优的算法。默认为auto

优化运输车辆安全驾驶行为分析模型

KNeighborsClassifier类常用的参数及其说明如下。

K近邻

参数名称