温馨提示×

如何使用Scrapy进行文件下载

小樊
212
2024-05-15 10:08:21
栏目: 编程语言

在Scrapy中,可以使用scrapy.Request对象来进行文件下载。以下是一个示例代码,演示如何在Scrapy中下载文件:

import scrapy

class FileDownloadSpider(scrapy.Spider):
    name = 'file_download'
    start_urls = ['http://example.com']

    def parse(self, response):
        # 获取文件的下载链接
        file_url = response.css('a.file::attr(href)').extract_first()

        # 使用scrapy.Request对象来下载文件
        yield scrapy.Request(url=file_url, callback=self.save_file)

    def save_file(self, response):
        # 将文件保存到本地
        with open('downloaded_file.pdf', 'wb') as file:
            file.write(response.body)

        self.log('File downloaded successfully')

在上面的示例中,首先定义了一个FileDownloadSpider类,该类继承自scrapy.Spider。在parse方法中,首先从响应中提取文件的下载链接,然后使用scrapy.Request对象来下载文件,并将下载后的内容传递给save_file方法。在save_file方法中,将下载的文件内容写入本地文件中。

要运行上述代码,可以使用以下命令:

scrapy crawl file_download

运行后,Scrapy将访问http://example.com页面,提取文件链接并下载文件到本地。

0