本篇文章给大家分享的是有关Python爬虫中的页面解析和数据处理,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。
页面解析和数据处理
爬虫一共就四个主要步骤:
1.明确目标 (要知道你准备在哪个范围或者网站去搜索)
2.爬 (将所有的网站的内容全部爬下来)
3.取 (去掉对我们没用处的数据)
4.处理数据(按照我们想要的方式存储和使用)
一般来讲对我们而言,需要抓取的是某个网站或者某个应用的内容,提取有用的价值。内容一般分为两部分,非结构化数据和结构化数据。
非结构化数据:先有数据,再有结构。
结构化数据:先有结构,再有数据。
1.非结构化的数据处理
1.文本、电话号码、邮箱地址 -->正则表达式 2.HTML文件 -->正则表达式,XPath,CSS选择器
2.结构化的数据处理
1.JSON文件 -->JSON Path -->转化成python类型进行操作 2.XML文件 -->转化成python类型(xmltodict) -->XPath -->CSS选择器 -->正则表达式
以上就是Python爬虫中的页面解析和数据处理,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注亿速云行业资讯频道。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。