温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

使用python爬虫怎么处理有密码的网站

发布时间:2020-11-25 09:22:53 来源:亿速云 阅读:322 作者:小新 栏目:编程语言

小编给大家分享一下使用python爬虫怎么处理有密码的网站,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

步骤一:查看要爬取的网站信息

进入登录页面 。你会看到如下图所示的页面

使用python爬虫怎么处理有密码的网站

然后进行查看元素,查看到name、password,最终我们得到以下内容

payload = {
"username": "<USER NAME>",
"password": "<PASSWORD>",
"csrfmiddlewaretoken": "<CSRF_TOKEN>"
}

步骤二、配置网站登录设置

创建一个登录对象。

session_requests = requests.session()

设置一个登录的url

result = session_requests.post(
login_url,
data = payload,
headers = dict(referer=login_url)

)

步骤三、爬取信息内容

到了这个步骤,我们已经成功进行登录了,用以下方式进行爬取:

url = '链接'
result = session_requests.get(
url,
headers = dict(referer = url)
)

以上是“使用python爬虫怎么处理有密码的网站”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注亿速云行业资讯频道!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI