机器学习与人工智能学习资源导引.docx

机器学习与人工智能学习资源导引

书籍：

《ProgrammingCollectiveIntelligence 》，近年出的入门好书，培养兴趣是最重要的一环，一上来看大部头很容易被吓走的:P

PeterNorvig的《AI,ModernApproach2nd 》（无争议的领域经典）。

《TheElementsofStatisticalLearning》，数学性比较强，可以做参考了。

《FoundationsofStatisticalNaturalLanguageProcessing》，自然语言处理领域公认经典。

《DataMining,ConceptsandTechniques 》，华裔科学家写的书，相当深入浅出。

《ManagingGigabytes 》，信息检索好书。

《InformationTheory ：InferenceandLearningAlgorithms》，参考书吧，比较深。

相关数学基础（参考书，不适合拿来通读）：

线性代数：这个参考书就不列了，很多。

矩阵数学：《矩阵分析》，RogerHorn。矩阵分析领域无争议的经典。

3. 概率论与统计：《概率论及其应用》，威廉·费勒。也是极牛的书，

3. 概率论与统计：《概率论及其应用》，威廉·费勒。也是极牛的书，

可数学味道太重，不适合做机器学习的。于是讨论组里的Du

Lei同学推荐了《AllOfStatistics 》并说到

机器学习这个方向，统计学也一样非常重要。推荐All of statistics，这是CMU的一本很简洁的教科书，注重概念，简化计算，简化与MachineLearning 无关的概念和统计内容，可以说是很好的快速

入门材料。

4.最优化方法：《NonlinearProgramming,2nd 》非线性规划的参考书。《ConvexOptimization》凸优化的参考书。此外还有一些书可以参考wikipedia 上的最优化方法条目。要深入理解机器

学习方法的技术细节很多时候（如SVM）需要最优化方法作为铺垫。

王宁同学推荐了好几本书：

《MachineLearning,TomMichell 》,1997.

老书，牛人。现在看来内容并不算深，很多章节有点到为止的感觉，但是很适合新手（当然，不能新到连算法和概率都不知道）入门。比如决策树部分就很精彩，并且这几年没有特别大的进展，所以并不过时。另外，这本书算是对97年前数十年机器学习工作的大综

述，参考文献列表极有价值。国内有翻译和影印版，不知道绝版否。

《ModernInformationRetrieval,RicardoBaeza-Yatesetal》.1999

老书，牛人。貌似第一本完整讲述IR的书。可惜IR这些年进展迅

猛，这本书略有些过时了。翻翻做参考还是不错的。另外，Ricardo同学现在是YahooResearchforEuropeandLatinAmeria 的头头。

《PatternClassification(2ed) 》,RichardO.Duda,PeterE.

Hart,DavidG.Stork

大约也是01年左右的大块头，有影印版，彩色。没读完，但如果想深入学习ML和IR，前三章（介绍，贝叶斯学习，线性分类器）必修。

还有些经典与我只有一面之缘，没有资格评价。另外还有两本小册

子，论文集性质的，倒是讲到了了不少前沿和细节，诸如索引如何压缩之类。可惜忘了名字，又被我压在箱底，下次搬家前怕是难见天日了。

（呵呵，想起来一本：《MiningtheWeb-DiscoveringKnowledgefromHypertextData 》）

说一本名气很大的书：《DataMining:PracticalMachineLearningToolsandTechniques 》。Weka的作者写的。可惜内

容一般。理论部分太单薄，而实践部分也很脱离实际。DM的入门

容一般。理论部分太单薄，而实践部分也很脱离实际。DM的入门

书已经不少，这一本应该可以不看了。如果要学习了解Weka ，看

文档就好。第二版已经出了，没读过，不清楚。

信息检索方面，DuLei 同学再次推荐：

信息检索方面的书现在建议看Stanford的那本《IntroductiontoInformationRetrieval》，这书刚刚正式出版，内容当然uptodate。另外信息检索第一大牛Croft老爷也正在写教科书，应该很快就要面世了。据说是非常pratical的一本书。

对信息检索有兴趣的同学，强烈推荐翟成祥博士在北大的暑期学校课程，这里有全sli