Python爬取堆糖网优美古风头像(附源码)
前言本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理
【Python爬取堆糖网优美古风头像(附源码)】如果大家想要完成爬虫程序 , 先安装和导入几个包
- requests 网络库
- bs4 页面选择器 网页上筛选数据
- pip install requests
- pip install bs4
ssl工具包 https协议的网站是基于ssl加密从而传输数据的一种网站
一般爬虫的过程
- 模拟浏览器
- 强制取消证书认证 看情况去做的 http的协议网站 则不需要
- requests去做http请求 , 并且拿到网页数据
- 数据筛选 拿到我们想要的数据
- 下载
文章插图
爬虫代码导入工具
import sslimport os# 下载包import urllib.request# 网络包import requests# 网页选择器from bs4 import BeautifulSoup
请求头headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}
默认请求https网站不需要证书认证ssl._create_default_https_context = ssl._create_unverified_context
爬虫流程def get_images(url):images_html = requests.get(url, headers=headers).text# print(images_html)soup = BeautifulSoup(images_html, 'lxml')images_list = soup.find_all('div', class_='mbpho')# print(images_list)for image in images_list:image_data = http://kandian.youth.cn/index/image.find('a', class_='a')image_url = image_data.find('img')['src']# 获取图片名称 下载图片时需要给图片文件一个文件名image_id = image_data.find('img')['data-rootid']# print(image_url, image_id)print(os.path.splitext(image_url)[-1])try:urllib.request.urlretrieve(image_url, './古风头像/' + image_id + os.path.splitext(image_url)[-1])print('下载成功...')except:passurl = 'search/?kw=%E5%8F%A4%E9%A3%8E%E5%A4%B4%E5%83%8F --tt-darkmode-color: #FFFFFF;">效果图
文章插图
文章插图
文章插图
文章插图
文章插图
文章插图
- 告诉|阿里大佬告诉你如何一分钟利用Python在家告别会员看电影
- Python源码阅读-基础1
- Python调用时使用*和**
- 如何基于Python实现自动化控制鼠标和键盘操作
- 解决多版本的python冲突问题
- 学习python第二弹
- Python中文速查表-Pandas 基础
- 零基础小白Python入门必看:通俗易懂,搞定深浅拷贝
- Python 使用摄像头监测心率!这么强吗?
- 十分钟教会你使用Python操作excel,内附步骤和代码