这篇文章给大家分享的是有关python3爬虫中怎么搭建多线程环境的内容。小编觉得挺实用的,因此分享给大家做个参考。一起跟随小编过来看看吧。
开发环境:
ubuntu16.04,python3.6,bs4,virtualenv(虚拟环境)
创建虚拟环境:
创建项目文件夹,并为项目创建虚拟环境,利用pip安装相关包
mkdir mutiThreadCrawier cd mutiThreadCrawier mkdir content #存爬下来的页面 virtualenv env --python =python3.6 #创建虚拟环境 source env/bin/activate #使虚拟环境生效
导包:
import time import re import threading import urllib import requests from bs4 import BeautifulSoup
感谢各位的阅读!关于python3爬虫中怎么搭建多线程环境就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到吧!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。