温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

python如何爬取美团网站街道信息

发布时间:2022-01-13 15:07:19 来源:亿速云 阅读:201 作者:小新 栏目:大数据

这篇文章给大家分享的是有关python如何爬取美团网站街道信息的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。

python如何爬取美团网站街道信息

目前还在写代码中,模拟登陆,所以在慢慢更新

接着上一次的代码,接下来就是关于爬取区县以及街道的信息

有了上一次的省市信息,从数据库中拿出市一级的信息,根据美团的请求的url,发现只需要拼音的简写,就可以组成新的url去访问

python如何爬取美团网站街道信息

python如何爬取美团网站街道信息

依据此,去爬取数据

先去从数据库中获取数据,直接的截图,返回的是一个生成器,生成器的知识自己去了解,返回的是城市的id,及它的拼音简写

python如何爬取美团网站街道信息

接下来就是拼接url,发送请求,获取区县数据,源码的一部分

python如何爬取美团网站街道信息

重新拼接好的url放入列表中,重写start_requests方法,使用request.meta方法传递附加的数据,该方法可以传递任何数据,使用response获取传递的数据

接下来就是将所需要数据解析出来,根据items中定义的,去保存数据,通过管道将其保存到数据库中,下图中的数据是从数据中导出来的,区县的数据(3092)

python如何爬取美团网站街道信息

街道的数据(20593)

python如何爬取美团网站街道信息

感谢各位的阅读!关于“python如何爬取美团网站街道信息”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI