博客
关于我
Python爬取堆糖网优美古风头像(附源码)
阅读量:634 次
发布时间:2019-03-14

本文共 1207 字,大约阅读时间需要 4 分钟。

前言

文中文字及图片均来源网络供学习交流使用,版权归原作者,若有问题请联系处理。

若想完成爬虫程序,需先安装以下工具包:

  • requests 网络库
  • bs4 页面选择器

安装步骤:

  • pip install requests
  • pip install bs4

os 是 Python 自带工具库,用于文件操作。

SSL 证书支持:

https 网站基于 SSL 加密传输,需注意证书验证。

一般爬虫流程

1. 模拟浏览器访问目标网站 2. 使用 requests 发起 HTTP 请求获取网页数据 3. 通过 bs4 筛选所需数据 4. 根据规则下载图片

本次目标

爬取堆糖网图片: 目标网站:https://www.duitang.com/

爬虫代码

导入工具: ```pythonimport requestsimport osfrom bs4 import BeautifulSoup```

设置请求头:

headers = {    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}

证书验证:

import sslssl._create_default_https_context = ssl._create_unverified_context

图片爬取函数:

def get_images(url):    images_html = requests.get(url, headers=headers).text    soup = BeautifulSoup(images_html, 'lxml')    images_list = soup.find_all('div', class_='mbpho')        for image in images_list:        image_data = image.find('a', class_='a')        image_url = image_data.find('img')['src']        image_id = image_data.find('img')['data-rootid']                try:            urllib.request.urlretrieve(image_url, f'./古风头像/{image_id}{os.path.splitext(image_url)[-1]}')            print('下载成功...')        except:            pass

效果图

(以下均为图片链接,已去除外部资源引用)

转载地址:http://cqioz.baihongyu.com/

你可能感兴趣的文章
Mysql学习总结(43)——MySQL主从复制详细配置
查看>>
Mysql学习总结(44)——Linux下如何实现mysql数据库每天自动备份定时备份
查看>>
Mysql学习总结(45)——Mysql视图和事务
查看>>
Mysql学习总结(46)——8种常被忽视的SQL错误用法
查看>>
Mysql学习总结(48)——MySql的日志与备份还原
查看>>
Mysql学习总结(49)——从开发规范、选型、拆分到减压
查看>>
Mysql学习总结(4)——MySql基础知识、存储引擎与常用数据类型
查看>>
Mysql学习总结(50)——Oracle,mysql和SQL Server的区别
查看>>
Mysql学习总结(51)——Linux主机Mysql数据库自动备份
查看>>
Mysql学习总结(52)——最全面的MySQL 索引详解
查看>>
Mysql学习总结(53)——使用MySql开发的Java开发者规范
查看>>
Mysql学习总结(54)——MySQL 集群常用的几种高可用架构方案
查看>>
Mysql学习总结(55)——MySQL 语句大全再温习
查看>>
Mysql学习总结(56)——MySQL用户管理和权限设置
查看>>
Mysql学习总结(57)——MySQL查询当天、本周、本月、上周、本周、上月、距离当前现在6个月数据
查看>>
Mysql学习总结(58)——深入理解Mysql的四种隔离级别
查看>>
Mysql学习总结(59)——数据库分库分表策略总结
查看>>
Mysql学习总结(5)——MySql常用函数大全讲解
查看>>
Mysql学习总结(60)——并发量大、数据量大的互联网业务数据库设计规范总结
查看>>
Mysql学习总结(61)——MySQL优化之DBA级优化整理汇总
查看>>