大家好，我是不温卜火，是一名计算机学院大数据专业大三的学生，昵称来源于成语—
不温不火，本意是希望自己性情温和。作为一名互联网行业的小白，博主写博客一方面是为了记录自己的学习过程，另一方面是总结自己所犯的错误希望能够帮助到很多和自己一样处于起步阶段的萌新。但由于水平有限，博客中难免会有一些错误出现，有纰漏之处恳请各位大佬不吝赐教！暂时只在csdn这一个平台进行更新，博客主页：https://buwenbuhuo.blog.csdn.net/。
PS：由于现在越来越多的人未经本人同意直接爬取博主本人文章，博主在此特别声明：未经本人允许，禁止转载！！！
目录
推荐
♥各位如果想要交流的话，可以加下QQ交流群：974178910，里面有各种你想要的学习资料。♥
♥欢迎大家关注公众号【不温卜火】，关注公众号即可以提前阅读又可以获取各种干货哦，同时公众号每满1024及1024倍数则会抽奖赠送机械键盘一份+IT书籍1份哟~♥
一、小小课堂
由于只是属于教学性质，学长本人在此以就以爬取Python相关的图书为例！
链接：https://search.douban.com/book/subject_search?search_text=python&cat=1001
首先我们需要先找下有没有接口
但是通过查看，我们发现是没有接口的。经过分析，这个网站展示的数据，不能通过之前的方式获取，猜想是通过加密解密得到的内容。这个时候有两种方式
a:找到加密解密的接口，使用python模拟（相当复杂，必须有解析js的能力）
b:使用selenium+driver直接获取解析后的页面数据内容（这种相对简单）
当然了，我们只是分析了接口这一部分，其实我们通过查看网页源码，使用xpath进行尝试解析，发现其实是可行的，但是由于本篇博文使用的是自动化工具selenium，所以就不过多解释xpath。
在这里，我们使用selenium+driver能模拟浏览器找到elements里的内容，这样再提取就没问题了。
接下来我们需要了解一些概念
-
1.什么是selenium？
selenium是网页自动化测试工具，可以自动化的操作浏览器。如果需要操作哪个浏览器需要安装对应的driver，比如你需要通过selenium操作chrome，那必须安装chromedriver，而且版本与chrome保持一致。 -
2、driver
操作浏览器的驱动，分为有界面和无界面的
有界面：与本地安装好的浏览器一致的driver（用户可以直接观看，交互比如单击、输入）
无界面：phantomjs（看不到，只能通过代码操作，加载速度比有界面的要快）
了解完之后，安装selenium：
pip install selenium -i https://pypi.tuna.tsinghua.edu.cn/simple
下载driver：
- 1. phantomjs
phantomjs下载网址https://phantomjs.org/download.html
- 2. chrome谷歌浏览器对应的driver
http://npm.taobao.org/mirrors/chromedriver/
下载好之后，放入项目中，方便找到。
二、selenium+driver初步尝试控制浏览器
说到模拟，那我们就先来模拟如何打开豆瓣图书并打开Python相关的图书
1from selenium import webdriver 2import time 3import requests 4 5start_url = "https://book.douban.com/subject_search?search_text=python&cat=1001&start=%25s0" 6 7# 控制chrome浏览器 8driver = webdriver.Chrome("./chromedriver/chromedriver.exe") 9# 输入网址 10driver.get(start_url) 11 12# 停一下，等待数据加载完毕 13time.sleep(2) 14# 获取网页内容Elements 15content = driver.page_source 16# 结束 17driver.quit()
🆗，说明我们能够控制浏览器进行操作，那么这样我们就可以进行下一步操作了。
我们首先先提取数据
1# 获取网页内容Elements 2content = driver.page_source 3 4# 提取数据 5print(content)
提取到数据后，我们查到里面是否存在我们所要爬取的图书，在此我们以《Python编程 : 从入门到实践》为切入点
这个时候，我们首先要查看这个页面内是否存在有iframe
通过查找，我们发现在我们要爬取的部分是没有iframe存在的，因此我们可以直接使用xpath进行解析。
先查看网页源码，然后尝试解析
- 1. 解析整体部分
- 2. 解析书名
- 3. 解析评分
- 4.解析其他
🆗到这里我们就解析完成了，但是我们如果直接这样写的话，其实是有点问题的，问题是什么呢？我们可以看下结果
代码如下：
1data_list = etree.HTML(content).xpath('//div[@class="item-root"]') 2# print(data_list) 3for data in data_list: 4 item = {} 5 item["name"] = data.xpath("./div/div[1]/a/text()") 6 item["score"] = data.xpath("./div/div[2]/span[2]/text()") 7 item["others"] = data.xpath("./div/div[3]/text()") 8 print(item)
我们可以看到标红处，有的数据是获取不到的，这难道是我们代码有问题吗？其实我们的代码并没有问题。我们看下网页
我们可以很清楚的看到，第一个<div class = "item-root"></div>并不是我们所要找的书籍，因此我们可以从第二个进行爬取。
修改后的代码如下
1data_list = etree.HTML(content).xpath('//div[@class="item-root"]')[1:] 2# print(data_list) 3for data in data_list: 4 item = {} 5 item["name"] = data.xpath("./div/div[1]/a/text()")[0] 6 item["score"] = data.xpath("./div/div[2]/span[2]/text()")[0] 7 item["others"] = data.xpath("./div/div[3]/text()")[0] 8 print(item)
这个时候，就是我们需要的内容了。内容的问题解决了，下面就需要考虑自动翻页了。
我们通过查看网页的翻页过程，如下：
通过观察翻页部分的网页就够，我们可以以后页为关键词选取其中的href自动翻转到下一页。顺便再加上一个判定如果没有就自动停止。
我们下用xpath进行分析
代码如下
1 # 找到后页 2 next = driver.find_element_by_xpath('//a[contains(text(),"后页")]') 3 # 判断 4 if next.get_attribute("href"): 5 # 单击 6 next.click() 7 else: 8 # 跳出循环 9 break
三、完整代码
1# encoding: utf-8 2''' 3 @author 李华鑫 4 @create 2020-10-09 11:34 5 Mycsdn：https://buwenbuhuo.blog.csdn.net/ 6 @contact: 459804692@qq.com 7 @software: Pycharm 8 @file: 豆瓣图书.py 9 @Version：1.0 10 11''' 12from selenium import webdriver 13from lxml import etree 14import os 15import time 16import requests 17import re 18import csv 19 20start_url = "https://book.douban.com/subject_search?search_text=python&cat=1001&start=%25s0" 21 22# 控制chrome浏览器 23driver = webdriver.Chrome("./chromedriver/chromedriver.exe") 24# 输入网址 25driver.get(start_url) 26while True: 27 # 停一下，等待加载完毕 28 time.sleep(2) 29 # 获取网页内容Elements 30 content = driver.page_source 31 # 提取数据 32 data_list = etree.HTML(content).xpath('//div[@class="item-root"]')[1:] 33 for data in data_list: 34 item = {} 35 item["name"] = data.xpath("./div/div[1]/a/text()")[0] 36 item["score"] = data.xpath("./div/div[2]/span[2]/text()")[0] 37 with open("./豆瓣图书.csv", "a", encoding="utf-8") as file: 38 writer = csv.writer(file) 39 writer.writerow(item.values()) 40 print(item) 41 # 找到后页 42 next = driver.find_element_by_xpath('//a[contains(text(),"后页")]') 43 # 判断 44 if next.get_attribute("href"): 45 # 单击 46 next.click() 47 else: 48 # 跳出循环 49 break 50# 结束 51driver.quit()
四、运行结果
美好的日子总是短暂的，虽然还想继续与大家畅谈，但是本篇博文到此已经结束了，如果还嫌不够过瘾，不用担心，我们下篇见！
好书不厌读百回，熟读课思子自知。而我想要成为全场最靓的仔，就必须坚持通过学习来获取更多知识，用知识改变命运，用博客见证成长，用行动证明我在努力。
如果我的博客对你有帮助、如果你喜欢我的博客内容，请“点赞” “评论”“收藏”一键三连哦！听说点赞的人运气不会太差，每一天都会元气满满呦！如果实在要白嫖的话，那祝你开心每一天，欢迎常来我博客看看。
码字不易，大家的支持就是我坚持下去的动力。点赞后不要忘了关注我哦！
本文转自 https://buwenbuhuo.blog.csdn.net/article/details/109380308，如有侵权，请联系删除。