网络爬虫论文.doc

摘　要 网络爬虫（Web Crawler），通常被称为爬虫，是有哪些信誉好的足球投注网站引擎的重要组成部分。随着信息技术的飞速进步，作为有哪些信誉好的足球投注网站引擎的一个组成部分——网络爬虫，一直是研究的热点，它的好坏会直接决定有哪些信誉好的足球投注网站引擎的未来。目前，网络爬虫的研究包括Web有哪些信誉好的足球投注网站策略研究的研究和网络分析的算法，两个方向，其中在Web爬虫网络有哪些信誉好的足球投注网站主题是一个研究方向，根据一些网站的分析算法，过滤不相关的链接，连接到合格的网页，并放置在一个队列被抓取。 把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页，从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个网站，那么网络爬虫就可以用这个原理把互联网上所有的网页都抓取下来。 关键词网络爬虫；Linux Socket；C/C++;多线程；互斥锁 Abstract Web Crawler, usually called Crawler for short, is an important part of search engine. With the high-speed development of information, Web Crawler-- the search engine can not lack of-- which is a hot research topic those years. The quality of a search engine is mostly depended on the quality of a Web Crawler. Nowadays, the direction of researching Web Crawler mainly divides into two parts: one is the searching strategy to web pages; the other is the algorithm of analysis URLs. Among them, the research of Topic-Focused Web Crawler is the trend. It uses some webpage analysis strategy to filter topic-less URLs and add fit URLs into URL-WAIT queue. The metaphor of a spider web internet, then Spider spider is crawling around on the Internet. Web spider through web link address to find pages, starting from a one page website (usually home), read the contents of the page, find the address of the other links on the page, and then look for the next Web page addresses through these links, so has been the cycle continues, until all the pages of this site are crawled exhausted. If the entire Internet as a site, then you can use this Web crawler principle all the pages on the Internet are crawling down.. Keywords:Web crawler；Linux Socket；C/C++; Multithreading;Mutex  摘　要 I 第一章 概 述 1 1.1 课题背景 1 1.2 网络爬虫的历史和分类 1 1.2.1 网络爬虫的历史 1 1.2.2 网络爬虫的分类 2 1.3 网络爬虫的发展趋势 3 1.4 系统开发的必要性 3 1.5 本文的组织结构 3 第二章 相关技术和工具综述 5 2.1 网络爬虫的定义 5 2.2 网页有哪些信誉好的足球投注网站策略介绍 5 2.2.1 广度优先有哪些信誉好的足球投注网站策略 5 2.3 相关工具介绍 6 2.3.1 操作系统 6 2.3.2 软件配置 6 第三章 网络爬虫模型的分析和概要设计 8 3.1 网络爬虫的模型分析 8 3.2 网络爬虫的有哪些信誉好的足球投注网站策略 8 3.3 网络爬虫的概要设计