二零二三年 优质公开课Sklearn库模型介绍.pptx

Sklearn库模型介绍;1.掌握Sklearn模型库 2.掌握基础的Sklearn模型;1. Sklearn模型选择2. Sklearn模型使用;Sklearn模型选择;在sklearn中，bagging用统一的BaggingClassifier元分类器提供。以用户指定的基学习器及制定划分随机子集的策略的参数作为输入，特别地，max_samples 和 max_features控制子集的尺寸，bootstrap和bootstrap_features控制是否抽出样本和特征。当使用可用样本的子集时，可以通过设置是否用包外样本来估计准确率oob_score=Ture,下面的代码说明了怎样用Ｋ近邻分类器的集成模型，每个基学习器建立在50％样本和50％特征的随机子集上。 ;sklearn.ensemble模块包括了两个基于随机决策树的averaging算法：randomForest和Extra-Trees。这两种算法都是专门为树设计的扰动组合技术。通过在分类器构造中引入随机性来创建一组不同的分类器。集成模型的预测是每个分类器的平均输出。forest分类器必须配备两个矩阵：大小为[n_samples,n_features]的稀疏或密集矩阵X保存训练样本，大小为[n_samples]的矩阵Y保存训练样本的目标值 ;sklearn.ensemble模块包括了流行的提升算法，Adaboost。Adaboost的核心原则是在数据的反复修改版本上适应一系列弱学习器（仅比随机猜测略好的模型，如小决策树），然后将所有这些预测通过加权多数表决（或总和）合并产生最终预测。在每一个提升迭代的数据修改由每个训练样本施加权重的W1，W2，……Wn组成。最初，这些权重都被设置为1/N，所以第一步只是训练弱学习器的原始数据。对于每个连续的迭代，样本权重被单独修改，并将学习算法重新应用于重新加权的数据。在给定的步骤，那些在前一步骤导致提升模型不正确预测的训练样本的权重增加，而正确预测的训练样本的权重则会降低。随着迭代的进行，难以预测的示例将会受到越来越大的影响。因此，每个随后的弱学习器强制关注先前的错误样本。 ;from sklearn.model_selection import cross_val_score from sklearn.datasets import load_iris from sklearn.ensemble import AdaBoostClassifier iris = load_iris() clf = AdaBoostClassifier(n_estimators=100) scores = cross_val_score(clf, iris.data, iris.target) scores.mean() ;1.掌握Sklearn模型的选择2.理解Sklearn模型的使用