能源大数据分析理论与实践 课件 4.分类分析.pptx

分类分析04CategoricalAnalysis

4.1分类分析概述分类的目标是构建模型，通过学习训练集中不同类别的特征差异，预测未知数据点的类别。在分类问题中，训练集由已知类别标签的数据组成，这些标签用于定义数据的组结构，常用于特定应用，如识别目标客户或特征数据对象。分类模型通过训练集学习数据模式，对测试数据进行预测，测试集由需分类的数据点组成。与聚类不同，分类问题是有监督学习，训练集中已知类别标签，模型可学习数据关系。而聚类是无监督学习，需自行发现数据间的相似结构，无需类别标签指引。

4.1分类分析概述大多数分类算法包括训练阶段和测试阶段。训练阶段使用训练集构建模型，学习特征和类别之间的关系；测试阶段则利用训练好的模型对测试集进行分类，预测其类别并评估模型性能。数据表示中，训练集D包含n个数据点和d个特征（或维度）。每个数据点属于??类别之一。在二分类问题（??=2）中，通常用0和1表示类别，而在多分类问题中，可采用任意编号作为类别标签，具体选择取决于分类模型和应用需求。

4.1分类分析概述分类的目标是根据训练集构建训练模型，用于预测未知的测试数据点的类别标签。分类算法的输出可以是以下两种类型之一：（1）标签预测：在这种情况下，对每个测试数据点进行类别标签的预测。将测试数据点输入训练好的模型中，得到对应的类别标签。（2）数值评分：在大多数情况下，算法会为每个“实例—标签”组合分配一个数值分数，来测量实例属于特定类别的倾向。通过使用最大值或不同类别的数值分数的成本加权最大值，可以将该分数转换为预测标签。数值分数在某个类别非常罕见的情况下特别有用，并且数值分数提供了一种方法，来确定属于该类别的排名最高的候选者。

4.1分类分析概述解决分类问题需要一系列处理流程，首先需要将原始数据进行收集、清洗和转换为标准格式。数据可能存储在商业数据库系统中，并需要通过使用分析方法进行最终处理。实际上，尽管数据挖掘经常让人联想到分析算法的概念，但事实是绝大多数工作都与数据准备部分的流程有关。这包括数据的预处理、特征工程和选择适当的算法等步骤，这些都是构建有效的分类模型的关键。分类分析的应用流程如图4-1所示。图4-1分类分析的应用流程

4.1分类分析概述当训练集较小时，分类模型容易过拟合，即学习了训练数据中的噪声和随机特征，导致在训练集上表现良好，但对新数据泛化能力差，容易做出错误预测。为解决过拟合问题，可以增加训练集规模，使用正则化来限制模型复杂度，或特征选择与特征提取减少噪声和冗余信息。常见分类算法包括Logistic回归（二分类）、KNN、支持向量机、决策树等，神经网络近年来应用广泛。

4.1分类分析概述①文档分类和过滤许多应用程序需要对文档进行实时分类，如新闻专线服务，分类分析用于组织门户网站中特定主题下的文档。特征对应于文档中的单词，而类别标签对应于不同主题，如政治、体育、时事等②多媒体数据分析在多媒体数据分析中，通常需要对大量的多媒体数据（如照片、视频、音频等）进行分类。通过训练示例，可以确定特定多媒体数据是否描述了特定活动。这种问题可以建模为二分类问题，其中类别标签对应于特定活动的发生或不发生。③客户目标营销在这种情况下，组（或标签）对应于客户对特定产品的兴趣。通过先前购买行为的训练示例，企业可以了解已知人口统计概况但未知购买行为的客户，是否可能对特定产品感兴趣。④医疗疾病管理数据挖掘方法在医学研究中的使用越来越受到关注，通过从患者的医学测试和治疗中提取特征，可以建立一个模型来预测治疗效果，这种分类方法有助于医疗决策和治疗规划。分类分析的广泛应用使其成为数据分析和决策领域中不可或缺的工具。通过构建有效的分类模型，可以从数据中提取有用的信息，并用于各种实际应用。

4.2.1贝叶斯分类的原理下面举一个例子来解释贝叶斯定理。某慈善组织进行募捐活动，根据历史数据，所有参与募捐活动的人群中年龄大于50岁的人群占6/11，全部年龄段的整体募捐成功率为3/11，而在捐赠成功的个人中，年龄大于50岁的人占5/6。请问，在已知年龄大于50岁的情况下，一个人会捐赠的概率是多少？在这个例子中，可以定义事件E表示个人的年龄大于50岁，事件表示个人是捐赠者。目标是计算后验概率，即在已知年龄大于50岁的情况下，个人捐赠的概率。根据贝叶斯定理，后验概率表示为：（4-1）式中，是已知是捐赠者的情况下个人年龄大于50岁的概率；是个人是捐赠者的先验概率（在观察年龄之前的概率）；是年龄大于50岁的先验概率。

4.2.1贝叶斯分类的原理由前面给出的信息可以得到：个人是捐赠者的先验概率，已知是