机器学习及进化计算.ppt

2.5.2列表后消除算法List-Then-Eliminate:列出变型空间的其所有成员.特点:繁琐。表2-4列表后消除算法变型空间VersionSpace←包含H中所有假设的列表对每个训练样例x,c(x)从变型空间中移除所有h(x)≠c(x)的假设h输出VersionSpace中的假设列表第29页,共32页，星期六，2024年，5月2.5.4候选消除学习法候选消除：候选消除算法通过使用极大一般成员（G）和极大特殊成员（S）来表示变型空间。第30页,共32页，星期六，2024年，5月表2-5使用变型空间的候选消除算法（正例和反例同时影响S和G）将G集合初始化为H中极大一般假设将S集合初始化为H中极大特殊假设对每个训练样例d，进行以下操作：如果d是一正例从G中移去所有与d不一致的假设对S中每个与d不一致的假设s从S中移去s把s的所有的极小泛化式h加入到S中，其中h满足h与d一致，而且G的某个成员比h更一般从S中移去所有这样的假设：它比S中另一假设更一般如果d是一个反例从S中移去所有与d不一致的假设对G中每个与d不一致的假设g从G中移去g把g的所有的极小特化式h加入到G中，其中h满足h与d一致，而且S的某个成员比h更特殊从G中移去所有这样的假设：它比G中另一假设更特殊例表2-1第31页,共32页，星期六，2024年，5月2.7归纳偏置无偏学习器的无用性： 学习器如果不对目标概念的形式做预先的假定，它从根本上无法对未见实例进行分类。 因此，归纳学习需要某种形式的预先假定，或称为归纳偏置（Inductivebias）第32页,共32页，星期六，2024年，5月机器学习及进化计算主要教材及参考书目教材：《机器学习》,TomM.Mitchell著，曾华军，张银奎等译，机械工业出版社。参考书目：贝叶斯方法，TomasLeonaard,机械工业出版社。进化计算，王正志，薄涛，国防科技大学出版社。神经网络设计，MartinT.Hangan等，机械工业出版社。第2页,共32页，星期六，2024年，5月考核方式平时考核：课堂讨论选题：决策树、人工神经网络、评估假设、贝叶斯学习、计算学习理论(PAC相关内容等)、基于实例的学习(k-近邻，局部加权回归、RBF等)、遗传算法、学习规则集合(序列覆盖算法、学习一阶规则等)、学习分析、归纳和分析学习的结合、增强学习(Q学习、时间差分学习等)期末考核第3页,共32页，星期六，2024年，5月第一讲机器学习的基本概念

第1章引言什么是机器学习？为什么进行机器学习？如何利用机器学习解决问题？第4页,共32页，星期六，2024年，5月什么是机器学习？直观地理解：机器（计算机）的自我学习。例：计算机能从医疗记录中学习，获取治疗新疾病的最有效方法；住宅管理系统分析住户的用电模式，以降低能源消耗。第5页,共32页，星期六，2024年，5月为什么进行机器学习？包括人工智能、概率统计、信息论、神经生物学等学科的发展为机器学习提供了丰富的素材；不断增长的在线（实时）数据量；可以有效地利用计算机的计算性能；产业发展的推动；机器学习适用的三大领域:第6页,共32页，星期六，2024年，5月机器学习适用的三大领域数据挖掘：用历史数据提高决策能力。 例：医疗数据?诊断知识(data?knowledge)人们无法手工操作实现，而应用软件却可以。 例:自动驾驶；语音识别个性定制程序。 例：掌握用户兴趣的新闻广播员第7页,共32页，星期六，2024年，5月典型的数据挖掘实例数据：给定9714个病历记录，每条记录描述了怀孕及生产的信息每条病历记录包含215个特征第8页,共32页，星期六，2024年，5月数据特征Patient103time=1Age:23FirstPregnancy:noAnemia:noPreviousPrematureBirth:noDiabetes:noUltrasound:?ElectiveC?Section:?EmergencyC?Section:?...Patient103time=2Age:23FirstPregnancy:noAnemia:noPreviousPrematureBirth:noDiabetes:YESUltrasound:abnormalEmergencyC?Section:?ElectiveC?Section:no......Pat