使用requests库怎么实现一个python爬虫？相信很多没有经验的人对此束手无策，为此本文总结了问题出现的原因和解决方法，通过这篇文章希望你能解决这个问题。
利用pip安装:pip install requests
基本请求
计算
安全
数据库
网络和加速
企业服务
req = requests.get("https://www.baidu.com/")
req = requests.post("https://www.baidu.com/")
req = requests.put("https://www.baidu.com/")
req = requests.delete("https://www.baidu.com/")
req = requests.head("https://www.baidu.com/")
req = requests.options(https://www.baidu.com/)参数是字典，我们可以传递json类型的参数：
import requests
from fake_useragent import UserAgent#请求头部库
headers = {"User-Agent":UserAgent().random}#获取一个随机的请求头
url = "https://www.baidu.com/s"#网址
params={
"wd":"豆瓣" #网址的后缀
}
requests.get(url,headers=headers,params=params)
返回了状态码，所以我们要想获取内容，需要将其转成text：
#get请求
headers = {"User-Agent":UserAgent().random}
url = "https://www.baidu.com/s"
params={
"wd":"豆瓣"
}
response = requests.get(url,headers=headers,params=params)
response.text参数也是字典，也可以传递json类型的参数：
import requests
from fake_useragent import UserAgent
headers = {"User-Agent":UserAgent().random}
url = "https://www.baidu.cn/index/login/login" #登录账号密码的网址
params = {
"user":"1351351335",#账号
"password":"123456"#密码
}
response = requests.post(url,headers=headers,data=params)
response.text
因为这里需要一个登录的网页，我这里就随便用了一个，没有登录，所以显示的结果是这样的，如果想要测试登录的效果，请找一个登录的页面去尝试一下。
采集时为避免被封IP，经常会使用代理，requests也有相应 的proxies属性。
#IP代理
import requests
from fake_useragent import UserAgent
headers = {"User-Agent":UserAgent().random}
url = "http://httpbin.org/get" #返回当前IP的网址
proxies = {
"http":"http://yonghuming:123456@192.168.1.1:8088"#http://用户名:密码@IP:端口号
#"http":"https://182.145.31.211:4224"# 或者IP：端口号
}
requests.get(url,headers=headers,proxies=proxies)代理IP可以去：快代理去找，也可以去购买。
http://httpbin.org/get。这个网址是查看你现在的信息：
可以通过timeout属性设置超时时间，一旦超过这个时间还没获取到响应内容，就会提示错误。
#设置访问时间
requests.get("http://baidu.com/",timeout=0.1)
ssl验证。
import requests
from fake_useragent import UserAgent #请求头部库
url = "https://www.12306.cn/index/" #需要证书的网页地址
headers = {"User-Agent":UserAgent().random}#获取一个随机请求头
requests.packages.urllib3.disable_warnings()#禁用安全警告
response = requests.get(url,verify=False,headers=headers)
response.encoding = "utf-8" #用来显示中文，进行转码
response.text
import requests
from fake_useragent import UserAgent
headers = {"User-Agent":UserAgent().chrome}
login_url = "https://www.baidu.cn/index/login/login" #需要登录的网页地址
params = {
"user":"yonghuming",#用户名
"password":"123456"#密码
}
session = requests.Session() #用来保存cookie
#直接用session 歹意requests
response = session.post(login_url,headers=headers,data=params)
info_url = "https://www.baidu.cn/index/user.html" #登录完账号密码以后的网页地址
resp = session.get(info_url,headers=headers)
resp.text因为我这里没有使用需要账号密码的网页，所以显示这样：
我获取了一个智慧树的网页
#cookie
import requests
from fake_useragent import UserAgent
headers = {"User-Agent":UserAgent().chrome}
login_url = "https://passport.zhihuishu.com/login?service=https://onlineservice.zhihuishu.com/login/gologin" #需要登录的网页地址
params = {
"user":"12121212",#用户名
"password":"123456"#密码
}
session = requests.Session() #用来保存cookie
#直接用session 歹意requests
response = session.post(login_url,headers=headers,data=params)
info_url = "https://onlne5.zhhuishu.com/onlinWeb.html#/stdetInex" #登录完账号密码以后的网页地址
resp = session.get(info_url,headers=headers)
resp.encoding = "utf-8"
resp.text
| 代码 | 含义 |
|---|---|
| resp.json() | 获取响应内容 （以json字符串） |
| resp.text | 获取相应内容（以字符串） |
| resp.content | 获取响应内容（以字节的方式） |
| resp.headers | 获取响应头内容 |
| resp.url | 获取访问地址 |
| resp.encoding | 获取网页编码 |
| resp.request.headers | 请求头内容 |
| resp.cookie | 获取cookie |
看完上述内容，你们掌握使用requests库怎么实现一个python爬虫的方法了吗？如果还想学到更多技能或想了解更多相关内容，欢迎关注亿速云行业资讯频道，感谢各位的阅读！
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
