博客
关于我
Python爬取堆糖网优美古风头像(附源码)
阅读量:634 次
发布时间:2019-03-14

本文共 1207 字,大约阅读时间需要 4 分钟。

前言

文中文字及图片均来源网络供学习交流使用,版权归原作者,若有问题请联系处理。

若想完成爬虫程序,需先安装以下工具包:

  • requests 网络库
  • bs4 页面选择器

安装步骤:

  • pip install requests
  • pip install bs4

os 是 Python 自带工具库,用于文件操作。

SSL 证书支持:

https 网站基于 SSL 加密传输,需注意证书验证。

一般爬虫流程

1. 模拟浏览器访问目标网站 2. 使用 requests 发起 HTTP 请求获取网页数据 3. 通过 bs4 筛选所需数据 4. 根据规则下载图片

本次目标

爬取堆糖网图片: 目标网站:https://www.duitang.com/

爬虫代码

导入工具: ```pythonimport requestsimport osfrom bs4 import BeautifulSoup```

设置请求头:

headers = {    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}

证书验证:

import sslssl._create_default_https_context = ssl._create_unverified_context

图片爬取函数:

def get_images(url):    images_html = requests.get(url, headers=headers).text    soup = BeautifulSoup(images_html, 'lxml')    images_list = soup.find_all('div', class_='mbpho')        for image in images_list:        image_data = image.find('a', class_='a')        image_url = image_data.find('img')['src']        image_id = image_data.find('img')['data-rootid']                try:            urllib.request.urlretrieve(image_url, f'./古风头像/{image_id}{os.path.splitext(image_url)[-1]}')            print('下载成功...')        except:            pass

效果图

(以下均为图片链接,已去除外部资源引用)

转载地址:http://cqioz.baihongyu.com/

你可能感兴趣的文章
Mysql之备份与恢复
查看>>
mysql之子查询
查看>>
MySQL之字符串函数
查看>>
mysql之常见函数
查看>>
Mysql之性能优化--索引的使用
查看>>
mysql之旅【第一篇】
查看>>
Mysql之索引选择及优化
查看>>
mysql之联合查询UNION
查看>>
mysql之连接查询,多表连接
查看>>
mysql乱码
查看>>
Mysql事务。开启事务、脏读、不可重复读、幻读、隔离级别
查看>>
MySQL事务与锁详解
查看>>
MySQL事务原理以及MVCC详解
查看>>
MySQL事务及其特性与锁机制
查看>>
mysql事务理解
查看>>
MySQL事务详解结合MVCC机制的理解
查看>>
MySQL事务隔离级别:读未提交、读已提交、可重复读和串行
查看>>
MySQL事务隔离级别:读未提交、读已提交、可重复读和串行
查看>>
mysql五补充部分:SQL逻辑查询语句执行顺序
查看>>
mysql交互式连接&非交互式连接
查看>>