《机器学习基础》课件.ppt

机器学习基础：从入门到实践

什么是机器学习简单来说机器学习是让计算机能够像人一样学习和思考的技术。它赋予计算机从数据中学习的能力，并通过学习结果进行预测或决策。具体而言

机器学习的定义与范畴机器学习是人工智能的一个分支，它使计算机系统能够从数据中学习，而无需显式编程。机器学习涵盖了许多算法和技术，从简单的线性回归到复杂的深度学习模型，应用于各种领域，如计算机视觉、自然语言处理、数据挖掘等等。

机器学习在现代技术中的重要性自动化机器学习可以自动化许多原本需要人工完成的任务，例如数据分析、预测建模、图像识别等等，提高效率并降低成本。智能化机器学习可以使产品和服务更加智能，例如个性化推荐、智能客服、自动驾驶等等，提升用户体验和满意度。创新机器学习推动了人工智能领域的创新发展，为各行各业带来了新的机遇，例如医疗诊断、金融风控、智慧城市等等。

机器学习的发展历程1早期(1950s-1960s)神经网络的雏形，感知机算法诞生，但计算能力有限2知识驱动(1970s-1980s)专家系统兴起，依靠人工构建知识库，但难以应对复杂问题3统计学习(1990s-2000s)支持向量机、决策树等算法出现，数据驱动成为主流4深度学习(2010s-至今)神经网络的复兴，深度学习模型取得突破性进展，应用范围不断扩大

机器学习的主要分类监督学习通过已知数据标签进行训练，例如分类和回归非监督学习从无标签数据中学习，例如聚类和降维强化学习通过试错学习，例如游戏AI和机器人控制

监督学习概述训练阶段利用已标记数据训练模型，学习数据特征和标签之间的映射关系预测阶段将训练好的模型应用于新数据，预测其标签目标预测未知数据的标签或属性

非监督学习概述发现模式从数据中发现潜在的结构和模式1数据分组将数据划分到不同的类别或组别2数据压缩将高维数据降维，减少数据冗余3

强化学习概述1环境学习者所处的外部环境2代理学习算法的执行主体3动作代理在环境中采取的行动4奖励环境对代理动作的评价5学习目标通过学习最大化累积奖励

数据在机器学习中的核心地位1数据质量高质量的数据是机器学习成功的关键，数据质量决定了模型的准确性和可靠性2数据量充足的数据量能够提高模型的泛化能力，避免过拟合问题3数据类型不同类型的机器学习任务需要不同类型的数据，例如图像数据、文本数据、数值数据等等

数据预处理的基本步骤数据清洗处理缺失值、异常值、重复值等问题数据转换将数据转换成适合机器学习算法的格式，例如数值化、标准化等等数据降维减少数据维度，降低计算复杂度，提高模型效率

特征工程基础特征提取从原始数据中提取有意义的特征，例如图像特征、文本特征等等特征选择选择最具代表性的特征，提高模型效率和性能特征构建根据领域知识和经验，构建新的特征，增强模型的表现力

特征选择与数据降维1过滤式根据特征的统计学指标筛选特征2包裹式利用模型性能评估特征子集3嵌入式在模型训练过程中自动选择特征4主成分分析(PCA)将高维数据降维到低维空间，保留主要信息

机器学习算法的基本类型

线性回归算法详解原理通过线性函数拟合数据，预测连续型变量的值应用房价预测、股票价格预测、销量预测等等优点简单易懂，易于实现，计算速度快缺点对非线性数据拟合能力较差

逻辑回归算法原理1分类问题处理二元或多元分类问题，预测数据属于哪个类别2Sigmoid函数将线性函数转化为概率值，范围在0到1之间3最大似然估计通过最大化似然函数，寻找最佳模型参数

决策树算法树形结构将数据按照特征进行划分，形成树状结构节点类型根节点、内部节点、叶子节点，每个节点对应一个特征决策过程从根节点开始，根据特征值进行分支，最终到达叶子节点，得到预测结果优点易于理解，可解释性强，处理高维数据能力强缺点容易过拟合，对数据噪声敏感

随机森林算法多棵决策树构建多个决策树，每个决策树从原始数据中随机抽取样本和特征进行训练1投票机制对新数据进行预测时，多个决策树投票，最终得到预测结果2优点泛化能力强，不易过拟合，处理高维数据能力强3缺点模型复杂，计算量大，可解释性弱4

支持向量机(SVM)原理1最大间隔找到一个超平面将不同类别的数据分开，并且间隔最大2支持向量位于间隔边界上的样本，决定了超平面的位置3核函数将低维数据映射到高维空间，提高线性可分性4优点泛化能力强，不易过拟合，处理高维数据能力强5缺点对参数敏感，计算量大，可解释性弱

聚类算法基础1数据分组将数据划分成多个组别，每个组别中的数据具有相似性2距离度量用于衡量数据之间的相似程度，例如欧氏距离、曼哈顿距离等等3聚类中心每个组别的中心点，用于代表该组别的数据特征4目标找到最佳的聚类划分方案，使得组内相似度高，组间相似度低

K-means聚类算法初始化随机选择K个数据点作为聚类中心分配将每个数据点分配到距离其最近的聚类中心所在的组别更新重新