温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

python爬虫中如何爬取网页新闻内容

发布时间:2021-04-29 10:12:42 来源:亿速云 阅读:1674 作者:小新 栏目:编程语言

小编给大家分享一下python爬虫中如何爬取网页新闻内容,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

python可以做什么

Python是一种编程语言,内置了许多有效的工具,Python几乎无所不能,该语言通俗易懂、容易入门、功能强大,在许多领域中都有广泛的应用,例如最热门的大数据分析,人工智能,Web开发等。

一、为什么需要用爬虫?

为其他程序提供数据源,如搜索引擎(百度、Google等)、数据分析、大数据等等。

二、爬虫设计思路 

1、首先确定需要爬取的网页URL地址 ;

2、通过HTTP协议来获取对应的HTML页面 ;

3、提取html页面里的有用数据 ;

4、如果是需要的数据就保存起来,如果是其他的URL,那么就执行第二部。

三、python爬虫实例:爬取网页新闻内容

1、确定爬取新闻内容的网络地址

https://k.sina.com.cn/article_6192937794_17120bb42020015u42.html?from=health

2、实施爬虫代码

import requests
from bs4 import BeautifulSoup
res =requests.get('https://k.sina.com.cn/article_6192937794_17120bb42020015u42.html?from=health')
res.encoding='utf-8'

soup=BeautifulSoup(res.text, 'html.parser') 
title=soup.select('#artibody')[0].text 

print(title)

以上是“python爬虫中如何爬取网页新闻内容”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注亿速云行业资讯频道!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI