基于信息熵的特征选择方法.docx

《基于信息熵的特征选择方法》

摘要

伴随着当今社会中各种各样新技术的不断展现，技术发展中需要和产生的数据集的数量也在不断增加。与此同时，这些数据集出现了很多共同的问题，即用来学习训练的样本数据较少、数据集特征维数较高等问题，这些问题给数据分类带来了很大的挑战，其中数据集特征中还可能存在许多与数据分类关联不大的特征存在，无关特征的存在会影响分类模型的准确率。所以，如何从数据集中剔除对分类模型准确率提升影响不大或者会降低分类模型准确率的特征，是目前许多领域面临的一大难题。特征选择的提出就是为了解决上述难题，特征选择方法研究的是如何选择对分类问题重要的特征组合，使得特征组合里包含原始数据集的