数据分析师-数据挖掘与机器学习-机器学习基础_数据预处理与特征工程.docxVIP

PAGE1

PAGE1

机器学习基础概览

1机器学习的定义与分类

机器学习是人工智能的一个分支，它使计算机能够在没有明确编程的情况下从数据中学习并做出预测或决策。机器学习的核心在于算法，这些算法能够通过数据的输入，自动调整其内部参数，以优化对特定任务的性能。

1.1分类

机器学习主要可以分为以下几类：

监督学习：在监督学习中，算法从带有标签的训练数据中学习，目标是预测新数据的标签。常见的监督学习任务包括分类和回归。

非监督学习：非监督学习处理的是没有标签的数据，目标是发现数据的内在结构或模式。常见的非监督学习任务包括聚类和降维。

半监督学习：介于监督和非监督学习之间，使用少量的标记数据和大量的未标记数据进行学习。

强化学习：算法通过与环境的交互来学习如何做出决策，以最大化某种奖励。

2监督学习与非监督学习

2.1监督学习

监督学习是最常见的机器学习类型之一，其目标是通过已知的输入-输出对来训练模型，以便模型能够对新的输入数据做出预测。在监督学习中，数据集通常被分为训练集和测试集，训练集用于训练模型，而测试集用于评估模型的性能。

2.1.1示例：线性回归

线性回归是一种简单的监督学习算法，用于预测连续值的输出。假设我们有一组房价数据，其中包含房屋的大小（平方米）和价格（万元）。

importnumpyasnp

fromsklearn.linear_modelimportLinearRegression

fromsklearn.model_selectionimporttrain_test_split

#示例数据

X=np.array([[50],[60],[70],[80],[90],[100],[110],[120],[130],[140]])

y=np.array([30,35,40,45,50,55,60,65,70,75])

#划分数据集

X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.2,random_state=42)

#创建线性回归模型

model=LinearRegression()

#训练模型

model.fit(X_train,y_train)

#预测

y_pred=model.predict(X_test)

#输出模型参数

print(模型权重:,model.coef_)

print(模型截距:,model.intercept_)

2.2非监督学习

非监督学习处理的是没有标签的数据，其目标是发现数据的内在结构或模式。常见的非监督学习算法包括聚类和降维。

2.2.1示例：K-means聚类

K-means是一种常用的聚类算法，用于将数据点分组到K个簇中，每个簇由其内部数据点的平均值（质心）表示。

importnumpyasnp

fromsklearn.clusterimportKMeans

#示例数据

X=np.array([[1,2],[1,4],[1,0],

[4,2],[4,4],[4,0]])

#创建K-means模型

kmeans=KMeans(n_clusters=2,random_state=0)

#训练模型

kmeans.fit(X)

#预测簇标签

labels=kmeans.predict([[0,0],[4,4]])

#输出簇中心

print(簇中心:,kmeans.cluster_centers_)

#输出预测的簇标签

print(预测的簇标签:,labels)

3机器学习算法的评估与选择

评估机器学习算法的性能是选择最佳模型的关键步骤。不同的任务可能需要不同的评估指标，例如，对于分类任务，我们可能关注准确率、精确率、召回率和F1分数；对于回归任务，我们可能关注均方误差（MSE）、均方根误差（RMSE）和R2分数。

3.1示例：评估分类模型

假设我们使用逻辑回归对鸢尾花数据集进行分类，并评估模型的性能。

fromsklearn.datasetsimportload_iris

fromsklearn.linear_modelimportLogisticRegression

fromsklearn.model_selectionimporttrain_test_split

fromsklearn.metricsimportaccuracy_score,classification_report

#加载数据

iris=load_ir