半监督学习综述-Read.PDF

半监督学习综述 半监督学习综述 klrxbest 摘要：近年来，半监督学习技术成为了机器学习领域的一个热点研究方向。本文首先简单地介绍了半监督 学习的发展历史，然后从经典的半监督学习算法、关于半监督学习的理论分析和半监督学习在实际问题中 的应用三个方面对近年来半监督学习研究的进展进行了简单介绍，最后指出了目前半监督学习领域存在的 一些亟待解决的问题。 关键字：半监督学习 Abstract: In recent years, semi-supervised learning technology has become a hot area of machine learning research. This article first briefly describes the history of development of semi-supervised learning, and then gives a brief introduction to some classic semi-supervised learning algorithms, theoretical analysis on semi-supervised learning and applications of semi-supervised learning techniques, and points out some existing problems to be solved in semi-supervised learning. Keywords: semi-supervised learning 1.引言 自从1946 年第一台电子计算机ENIAC 诞生至今，计算机技术得到了迅猛的发展，这使得人类采集、 存储数据的能力空前的提高，利用计算机对收集到的数据进行分析提取有价值信息的技术（机器学习技术） 也随之而生，并得到了很快的发展。传统的机器学习技术一般只利用有标记样本集或者只利用无标记样本 集进行学习，而在实际问题中大多是有标记样本与无标记样本并存，为了更好地利用这些数据，半监督学 习技术应运而生，近年来，半监督学习技术更成为机器学习领域一个被广泛研究的热点方向。 传统的机器学习技术可以分为两类，一类是无监督学习，另一类是监督学习。 无监督学习一般基于这样的数据设置： X X x ,x , ,x (i {1,2, n}) 假设数据集 包含 个样本点 ，其中x  ，一般假设 独立同分 n  1 2 n  i xi 布(i.i.d., independently and identically distributed)地取样于分布 。无监督学习技术的基本目标即是根据这些  样本点估计出分布 的密度，这类技术的典型代表有聚类、降维等。  监督学习有别于无监督学习的是数据不仅包含样本点本身，而且还包含这些样本点所对应的类别标记 (label)，一个样本点的表述形式为(x , y ) ，其中 为样本点 的类别标记。监督学习的目标即是从这些数 i i y i xi 据中学习建立一个从样本点到标记的映射。特别地，监督学习技术当 为实数值的时候称为回归(regression) y i 技术，否则，称为分类(classification)技术。这类技术的典型代表有支持向量机(SVM, Support Vector Machine) 等。 半监督学习则是介于两者之间的学习技