小编给大家分享一下使用python爬虫怎么处理有密码的网站,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
步骤一:查看要爬取的网站信息
进入登录页面 。你会看到如下图所示的页面。
然后进行查看元素,查看到name、password,最终我们得到以下内容
payload = { "username": "<USER NAME>", "password": "<PASSWORD>", "csrfmiddlewaretoken": "<CSRF_TOKEN>" }
步骤二、配置网站登录设置
创建一个登录对象。
session_requests = requests.session()
设置一个登录的url
result = session_requests.post( login_url, data = payload, headers = dict(referer=login_url) )
步骤三、爬取信息内容
到了这个步骤,我们已经成功进行登录了,用以下方式进行爬取:
url = '链接' result = session_requests.get( url, headers = dict(referer = url) )
以上是“使用python爬虫怎么处理有密码的网站”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注亿速云行业资讯频道!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。