- 1、本文档共10页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
大数据导论
数据采集基于正则表达式的数据爬取
目录01任务描述02HTML源代码分析03抓取代码实现
任务描述在爬虫的开发中,需要把有用的信息从一大段文本中提取出来。正则表达式是提取信息的方法之一。本任务是使用Python正则表达式匹配豆瓣电影评分TOP250页面电影名字、电影介绍链接、电影评分等信息。思路如下:(1)引入使用正则表达式所需要的包。(2)模拟浏览器请求,请求豆瓣电影TOP250的数据。(3)使用compile方法,匹配出目标内容。(关键编写正确的正则表达式)
HTML源代码分析lidivclass=item***************divclass=infodivclass=hdahref=https:///subject/1292052/class=spanclass=title肖申克的救赎/span******************/a*******************divclass=star*************************spanclass=rating_numproperty=v:average9.7/span******************/div********************/div/div/div/lili.*?divclass=hd\n\s*?ahref=(.*?)class=.*?class=title(.*?)/span.*?property=v:average(.*?)/span.*?/li匹配正则表达式*颜色对应
爬取功能划分由于待解析的内容属于文本,因此可以使用正则表达式进行解析解析html文本内容从服务器获取html文档返回文本形式的内容获取html文档依次访问所有页面多页面读取调度
爬取代码实现多页面读取调度
爬取代码实现获取网页文本内容
爬取代码实现解析html文本内容
谢谢观看
您可能关注的文档
- 《船舶信号系统实训》课件——机舱组合报警系统安装与调试.pptx
- 《船舶信号系统实训》课件——冷库误锁病房呼叫系统.pptx
- 《船舶信号系统实训》课件——桥楼值班报警系统.pptx
- 《船舶信号系统实训》课件——热电阻传感器.pptx
- 《船舶信号系统实训》课件——任务6.3 广播对讲系统安装与调试.pptx
- 《船舶信号系统实训》课件——通用紧急报警系统安装与调试.pptx
- 《船舶信号系统实训》课件——压力传感器安装与调试.pptx
- 《船舶信号系统实训》课件——液位传感器安装与调试.pptx
- 《船舶信号系统实训》课件——主机遥控系统的逻辑与控制回路.pptx
- 《大数据导论》课件——3.3.2正则表达式使用.pptx
- 汽车4S店员工内训课件07奥迪4S店新员工培训.pdf
- 辽宁省第二届职业技能大赛(轨道车辆技术赛项)理论参考试题库(含答案).pdf
- 2024年第四届全国工业设计职业技能大赛决赛(包装设计师)理论考试题库(含答案).pdf
- 精品解析:2022年广西壮族自治区学业水平考试押题预测卷 (一)历史试题(原卷版).docx
- 2024版《立体构成》全套课件完整版.ppt
- 《机上应急医疗》习题及答案.docx
- 2024年儿童保健技能大赛理论考试题库500题(含答案).pdf
- 计算机整机装配调试员技能竞赛备考试题库(含答案).pdf
- 《机床电气控制与PLC》期末试卷-A卷及答案.doc
- C++程序设计教程课件-C++多态与虚函数课件.pdf
文档评论(0)