温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

如何在Pycharm中安装Scrapy

发布时间:2021-03-11 16:47:33 来源:亿速云 阅读:570 作者:Leah 栏目:开发技术

这期内容当中小编将会给大家带来有关如何在Pycharm中安装Scrapy,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。

Scrapy是一个开源的网络爬虫框架,Python编写的。最初设计用于网页抓取,也可以用来提取数据使用API或作为一个通用的网络爬虫。是数据采集不可必备的利器。

安装

pip install scrapy

如果使用上面的命令太慢。国内可以使用豆瓣源进行加速。

pip install -i https://pypi.douban.com/simple scrapy

注意要写错了,是 https://pypi.douban.com/simple 很多包都可以使用这个源进行加速,这也是pip的一个技巧,还可以使用阿里云进行加速。

安装完成之后在命令行输入

scrapy -v

如果出现了相应的版本号就说明安装成功。

创建项目

目前还没有IDE 能够创建scrapy的项目,我们必须手动初始化项目。

1、找一个目录

输入命令

scrapy startproject SpiderObject

命令行出现这样的结果说明创建成果

You can start your first spider with:
 cd SpiderObject
 scrapy genspider example example.com

去文件夹中看看

如何在Pycharm中安装Scrapy

初始化项目

使用pycharm打开该项目

如何在Pycharm中安装Scrapy

如果出现这个页面就说明对了。

如何在Pycharm中安装Scrapy

下面生成一个模板

打开pycharm的terminal

如何在Pycharm中安装Scrapy

输入

scrapy genspider BiduSpider http://www.baidu.com

我们的spider 包下面会多一个文件

如何在Pycharm中安装Scrapy

上述就是小编为大家分享的如何在Pycharm中安装Scrapy了,如果刚好有类似的疑惑,不妨参照上述分析进行理解。如果想知道更多相关知识,欢迎关注亿速云行业资讯频道。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI