复旦商务智能概论--7Web挖掘基础Webmining-(精品课件).ppt

* Web Mining research can be classified into three categories: Web content mining refers to the discovery of useful information from Web contents, including text, images, audio, video, etc. Web structure mining studies the model underlying the link structures of the Web. It has been used for search engine result ranking and other Web applications. Web usage mining focuses on using data mining techniques to analyze search logs to find interesting patterns.One of the main applications of Web usage mining is its use to learn user profiles. Web挖掘基础 赵卫东 博士 复旦大学软件学院 wdzhao@ 提纲 Web挖掘的概念 Web内容挖掘 Web结构挖掘 Web日志挖掘 知识 WWW Web 挖掘的挑战 Web数据量太庞大：Server Level Collection、Client Level Collection和 Proxy Level Collection ?Web数据的复杂性高于传统的文本文档 Web是一个动态性极强的信息源 Web面对的是一个广泛的用户群体 Web上的信息只有很小的一部分是相关的或有用的 Web挖掘与IR Web上的IR是Web挖掘的一个方面，仅是对信息有序化。 Web挖掘是智能化的IR，IR出现早，技术成熟。 Web挖掘概念 Web挖掘是从大量Web文档的集合C中发现隐含的、有用的模式P的过程：C→P 。 Web挖掘主要处理文本、图形和图像等半结构、非结构化的数据，这些数据分布在Web文档、Web服务器的日志、用户cookies等 。 Web挖掘分类 Web挖掘类 项目 Web内容挖掘 Web结构挖掘 Web日志挖掘 处理数据 类型 IR方法：无结构数据、半结构数据 Web结构数据 用户访问Web数据 主要数据 自由化文本、HTML标记的超文本 Web文档内及文档间的超链 Serverlog, Proxy serverlog, Client log 表示方法 词集、段落、概念、IR的三种经典模型 图 关系表、图 处理方法 统计、机器学习、自然语言理解 机器学习、专有算法 统计、机器学习、关联规则 主要应用 分类、聚类、模式发现 页面权重 分类聚类 模式发现 Web站点重建，商业决策 Web内容挖掘 基于网页内容或其描述中抽取知识的过程。 Web内容挖掘主要包括文本挖掘和多媒体挖掘两类，其挖掘对象包括文本、图像、音频、视频和其他各种类型的数据。 日志的预处理 IP Address Time/Date Method/URI Referrer Agent 15:30:01/2-Jan-01 GET Index.htm /link.htm Mozilla/4.0(IE5.0W98) 15:30:01/2-Jan-01 GET 1.htm /index.htm Mozilla/4.0(IE5.0W98) 15:30:01/2-Jan-01 GET A.htm /index.htm Mozilla/4.0(IE5.0W98) 15:37:09/2-Jan-01 GET E.htm /C.htm Mozilla/4.0(IE5.0W98) 15:33:04/2-Jan-01 GET Index.htm /res.php Mozilla/4.0(IE4.0NT) 15:33:04/2-Jan-01 GET 1.htm /index.htm Mozilla/4.0(IE4.0NT) 15:33:04/2-Jan-01 GET A.htm /index.htm Mozilla/4.0(IE4.0NT) 15:35:11/2-Jan-01 GET B.htm /A.htm Mozilla/4.0(IE4.0NT) 15:35:11/2-Jan-01 GET C.htm /A.htm Mozilla/4.0(IE5.0W98) Web文本挖掘 Web文本挖掘