这篇文章将为大家详细讲解有关如何python代码爬取美食网信息,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。
数据爬取三步曲之前方有坑
工作需求需要采集OTA网站的美食数据,某个城市的饭店类型情况等。对于老饕来说这不算个事。。。然而最后的结果是中午晚饭都没有时间去吃了。。。情况如下
Chrome F12直接定位get请求,response的结果是json,研究下get的参数发现有个奇怪的参数token?!
先不管他直接修改参数翻页请求数据!!!
数据爬取三步曲之开始填坑
问题来了!纠结半天后发现这个token是有时效的,而且是js生成的。。。这也不是问题,get请求行不通我们还有selenuim。悲催的是美团真的是大厂直接封杀selenuim
数据爬取三步曲之将坑填平
又回到原点。没办法只能从token下手了经过一番查找发现一个js文件
嗯。。。好吧继续,因为之前没有用python直接调用js,百度一番发现pyexecjs、PyV8等都可以。悲催的是我的python2.7安装pyexecjs后一直不能正常使用,PyV8没有问题。只是PyV8安装过程太心酸
废话不多说直接上代码:
我把js文件存放到本地python直接使用PyV8直接解析执行token的js事件
程序自动生成token,迫不及待接续解析json数据入库
测试完成先抓取北京和上海数据进行数据可视化
在统计师发现美团还是对数据经行了限制每个类型的餐饮场所最多显示每页32个一共32页。也就是32*32=1024个
数据可视化
北京、上海美食各类型数量占比情况
看以看出川湘、烧烤烤肉和西餐在两地的数量占比都是最多的。撸串、麻小果然不分南北。
数据中有每家店的品论数量我们可以从中分析出每一类美食的总评论情况来展示受欢迎情况,因展示效果我们只展示top10
北京、上海市top10美食情况
北京和上海两地火锅荣登榜首哈
下面我们对比下两地同类美食的平均价格的情况:
魔都消费水平已经超过帝都啦。。。哈哈哈
关于如何python代码爬取美食网信息就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。