Python怎么实现分类保存所有文章图片

本篇内容介绍了“Python怎么实现分类保存所有文章图片”的有关知识，在实际案例的操作过程中，不少人都会遇到这样的困境，接下来就让小编带领大家学习一下如何处理这些情况吧！希望大家仔细阅读，能够学有所成！

项目目标

创建一个文件夹， 分类保存所有文章图片。下载成功，结果显示控制台。

项目分析

1、如何找到真正访问的地址，多网页请求?

滑动鼠标，观察网站，右键F12 。鼠标滚轮滑动加载新内容。

点开随机网页 , 点开Request URL ，观察网址的规律。

https://bh.sb/page/1/

https://bh.sb/page/2/

https://bh.sb/page/3/

https://bh.sb/page/4/

观察到，每增加一页page/{}/自增加1，用{}代替变换的变量，再用for循环遍历这网址，实现多个网址请求。

2. 反爬处理

1）获取正常的 http请求头，并在requests请求时，设置这些常规的http请求头。

2）使用 fake_useragent ，产生随机的UserAgent进行访问。

涉及的库和网站

1、网址如下：

https://www.doutula.com/photo/list/?page={}

2、涉及的库：requests、lxml、fake_useragent、time、os

3、软件：PyCharm

项目实施

1、我们定义一个class类继承object，然后定义init方法继承self，再定义一个主函数main继承self。导入需要的库和网址，创建保存文件夹。

import requests, os
from lxml import etree
from fake_useragent import UserAgent
import time
class bnotiank(object):
    def __init__(self):
        os.mkdir("图片")  # 在创建文件夹 记住只有第一次运行加上，如果多次运行请注释掉本行。
    def main(self):
          pass
if __name__ == '__main__':
    Siper=bnotiank()
    Siper.main()

2、随机UserAgent ，构造请求头，防止反爬。

    ua = UserAgent(verify_ssl=False)
    for i in range(1, 50):
        self.headers = {
            'User-Agent': ua.random
        }

3、发送请求 ，获取响应，页面回调，方便下次请求。

'''发送请求  获取响应'''
def get_page(self, url):
      res = requests.get(url=url, headers=self.headers)
      html = res.content.decode("utf-8")
      return html

4、定义parse_page函数，获取二级页面地址，for遍历获取需要的字段。

   def parse_page(self, html):
         parse_html = etree.HTML(html)
         image_src_list = parse_html.xpath('//p/a/@href')
         # print(image_src_list)

5、对二级页面发生请求，xpath解析数据，获取大图片链接。

    reo = parse_html1.xpath('//div//div[@class="content"]') #父结点
    for j in reo:
        d = j.xpath('.//article[@class="article-content"]//p/img/@src')[0]
        text = parse_html1.xpath('//h2[@class ="article-title"] //a/text()')[0].strip()

6、请求图片地址，写入文档。

    html2 = requests.get(url=d, headers=self.headers).content
    dirname = "./d/">

7、调用方法，实现功能。

    url = self.url.format(page)
    print(url)
    html = self.get_page(url)
    self.parse_page(html)

8、设置延时。（防止ip被封）。

  time.sleep(1) """时间延时"""

效果展示

1、点击绿色小三角运行输入起始页，终止页。

2、将下载成功信息显示在控制台。

3、text 作为图片命名，展示效果如下所示。

“Python怎么实现分类保存所有文章图片”的内容就介绍到这里了，感谢大家的阅读。如果想了解更多行业相关的知识可以关注亿速云网站，小编将为大家输出更多高质量的实用文章！