「爬虫四步走」手把手教你使用Python抓取并存储网页数据


「爬虫四步走」手把手教你使用Python抓取并存储网页数据文章插图
爬虫是Python的一个重要的应用 , 使用Python爬虫我们可以轻松的从互联网中抓取我们想要的数据 , 本文将基于爬取B站视频热搜榜单数据并存储为例 , 详细介绍Python爬虫的基本流程 。 如果你还在入门爬虫阶段或者不清楚爬虫的具体工作流程 , 那么应该仔细阅读本文!
第一步:尝试请求
首先进入b站首页 , 点击排行榜并复制链接
现在启动Jupyter notebook , 并运行以下代码
import requestsurl = ''res = requests.get('url')print(res.status_code)#200在上面的代码中 , 我们完成了下面三件事

  • 导入requests
  • 使用get方法构造请求
  • 使用status_code获取网页状态码
可以看到返回值是200 , 表示服务器正常响应 , 这意味着我们可以继续进行 。
第二步:解析页面
在上一步我们通过requests向网站请求数据后 , 成功得到一个包含服务器资源的Response对象 , 现在我们可以使用.text来查看其内容
「爬虫四步走」手把手教你使用Python抓取并存储网页数据文章插图
可以看到返回一个字符串 , 里面有我们需要的热榜视频数据 , 但是直接从字符串中提取内容是比较复杂且低效的 , 因此我们需要对其进行解析 , 将字符串转换为网页结构化数据 , 这样可以很方便地查找HTML标签以及其中的属性和内容 。
在Python中解析网页的方法有很多 , 可以使用正则表达式 , 也可以使用BeautifulSouppyquerylxml , 本文将基于BeautifulSoup进行讲解.
Beautiful Soup是一个可以从HTML或XML文件中提取数据的第三方库.安装也很简单 , 使用pip install bs4安装即可 , 下面让我们用一个简单的例子说明它是怎样工作的
from bs4 import BeautifulSouppage = requests.get(url)soup = BeautifulSoup(page.content, 'html.parser')title = soup.title.textprint(title)# 热门视频排行榜 - 哔哩哔哩 (゜-゜)つロ 干杯~-bilibili在上面的代码中 , 我们通过bs4中的BeautifulSoup类将上一步得到的html格式字符串转换为一个BeautifulSoup对象 , 注意在使用时需要制定一个解析器 , 这里使用的是html.parser
接着就可以获取其中的某个结构化元素及其属性 , 比如使用soup.title.text获取页面标题 , 同样可以使用soup.bodysoup.p等获取任意需要的元素 。
第三步:提取内容
在上面两步中 , 我们分别使用requests向网页请求数据并使用bs4解析页面 , 现在来到最关键的步骤:如何从解析完的页面中提取需要的内容 。
在Beautiful Soup中 , 我们可以使用find/find_all来定位元素 , 但我更习惯使用CSS选择器.select , 因为可以像使用CSS选择元素一样向下访问DOM树 。
现在我们用代码讲解如何从解析完的页面中提取B站热榜的数据 , 首先我们需要找到存储数据的标签 , 在榜单页面按下F12并按照下图指示找到
「爬虫四步走」手把手教你使用Python抓取并存储网页数据文章插图
可以看到每一个视频信息都被包在class="rank-item"的li标签下 , 那么代码就可以这样写
all_products = products = soup.select('li.rank-item')for product in products:rank = product.select('div.num')[0].textname = product.select('div.info > a')[0].text.stripplay = product.select('span.data-box')[0].textcomment = product.select('span.data-box')[1].textup = product.select('span.data-box')[2].texturl = product.select('div.info > a')[0].attrs['href']all_products.append({"视频排名":rank,"视频名": name,"播放量": play,"弹幕量": comment,"up主": up,"视频链接": url})