一、项目概述
本项目主要是对领导留言板http://liuyan.people.com.cn/home?p=0内的所有留言的具体内容进行抓取，对留言详情、回复详情和评价详情进行提取保存，并用于之后的数据分析和进一步处理，可以对政府的决策和电子政务的实施提供依据。具体项目说明和环境配置可参考本系列的第一篇Python 爬取留言板留言（一）：单进程版+selenium模拟。 本篇在第二篇的基础上做了一个主要改进： 从多线程改变为多进程，设定同时运行的进程的数量为3，数量适中，这样在保证在同一时刻有多个进程在执行爬取的同时，也能避免进程过多对内存、CPU和网络带宽的高要求，从而大大降低了整体运行时间，这是该项目的主要改进。
二、项目实施
由于在实现过程中有2种常用的方法实现多线程，因此对应也有2种不同的具体实现。
1.导入所需要的库
1import csv 2import os 3import random 4import re 5import time 6 7 8import dateutil.parser as dparser 9from random import choice 10from multiprocessing import Pool 11from selenium import webdriver 12from selenium.webdriver.common.by import By 13from selenium.webdriver.support import expected_conditions as EC 14from selenium.webdriver.support.ui import WebDriverWait 15from selenium.webdriver.chrome.options import Options
主要导入在爬取过程中需要用到的处理库和selenium中要用到的类。
2.全局变量和参数配置
1# 时间节点 2start_date = dparser.parse('2019-06-01') 3# 浏览器设置选项 4chrome_options = Options() 5chrome_options.add_argument('blink-settings=imagesEnabled=false')
我们假设只爬取2019.6.1以后的留言，因为这之前的留言自动给好评，没有参考价值，因此设置时间节点，并禁止网页加载图片，减少对网络的带宽要求、提升加载速率。
3.产生随机时间和用户代理
1def get_time(): 2 '''获取随机时间''' 3 return round(random.uniform(3, 6), 1) 4 5 6def get_user_agent(): 7 '''获取随机用户代理''' 8 user_agents = [ 9 "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; AcooBrowser; .NET CLR 1.1.4322; .NET CLR 2.0.50727)", 10 "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; Acoo Browser; SLCC1; .NET CLR 2.0.50727; Media Center PC 5.0; .NET CLR 3.0.04506)", 11 "Mozilla/4.0 (compatible; MSIE 7.0; AOL 9.5; AOLBuild 4337.35; Windows NT 5.1; .NET CLR 1.1.4322; .NET CLR 2.0.50727)", 12 "Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US)", 13 "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Win64; x64; Trident/5.0; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET CLR 2.0.50727; Media Center PC 6.0)", 14 "Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET CLR 1.0.3705; .NET CLR 1.1.4322)", 15 "Mozilla/4.0 (compatible; MSIE 7.0b; Windows NT 5.2; .NET CLR 1.1.4322; .NET CLR 2.0.50727; InfoPath.2; .NET CLR 3.0.04506.30)", 16 "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN) AppleWebKit/523.15 (KHTML, like Gecko, Safari/419.3) Arora/0.3 (Change: 287 c9dfb30)", 17 "Mozilla/5.0 (X11; U; Linux; en-US) AppleWebKit/527+ (KHTML, like Gecko, Safari/419.3) Arora/0.6", 18 "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US; rv:1.8.1.2pre) Gecko/20070215 K-Ninja/2.1.1", 19 "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9) Gecko/20080705 Firefox/3.0 Kapiko/3.0", 20 "Mozilla/5.0 (X11; Linux i686; U;) Gecko/20070322 Kazehakase/0.4.5", 21 "Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.8) Gecko Fedora/1.9.0.8-1.fc10 Kazehakase/0.5.6", 22 "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11", 23 "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_3) AppleWebKit/535.20 (KHTML, like Gecko) Chrome/19.0.1036.7 Safari/535.20", 24 "Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; fr) Presto/2.9.168 Version/11.52", 25 "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.11 TaoBrowser/2.0 Safari/536.11", 26 "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.71 Safari/537.1 LBBROWSER", 27 "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E; LBBROWSER)", 28 "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E; LBBROWSER)", 29 "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.84 Safari/535.11 LBBROWSER", 30 "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E)", 31 "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E; QQBrowser/7.0.3698.400)", 32 "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E)", 33 "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; SV1; QQDownload 732; .NET4.0C; .NET4.0E; 360SE)", 34 "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E)", 35 "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E)", 36 "Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.89 Safari/537.1", 37 "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.89 Safari/537.1", 38 "Mozilla/5.0 (iPad; U; CPU OS 4_2_1 like Mac OS X; zh-cn) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8C148 Safari/6533.18.5", 39 "Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:2.0b13pre) Gecko/20110307 Firefox/4.0b13pre", 40 "Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:16.0) Gecko/20100101 Firefox/16.0", 41 "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11", 42 "Mozilla/5.0 (X11; U; Linux x86_64; zh-CN; rv:1.9.2.10) Gecko/20100922 Ubuntu/10.10 (maverick) Firefox/3.6.10", 43 "MQQBrowser/26 Mozilla/5.0 (Linux; U; Android 2.3.7; zh-cn; MB200 Build/GRJ22; CyanogenMod-7) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1", 44 "Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1", 45 "Mozilla/5.0 (Linux; Android 5.1.1; Nexus 6 Build/LYZ28E) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/48.0.2564.23 Mobile Safari/537.36", 46 "Mozilla/5.0 (iPod; U; CPU iPhone OS 2_1 like Mac OS X; ja-jp) AppleWebKit/525.18.1 (KHTML, like Gecko) Version/3.1.1 Mobile/5F137 Safari/525.20", 47 "Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)", 48 "Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html）" 49 ] 50 # 在user_agent列表中随机产生一个代理，作为模拟的浏览器 51 user_agent = choice(user_agents) 52 return user_agent 53
产生随机时间并随机模拟浏览器用于访问网页，降低被服务器识别出是爬虫而被禁的可能。
4.获取领导的fid
1def get_fid(): 2 '''获取所有领导id''' 3 with open('url_fid.txt', 'r') as f: 4 content = f.read() 5 fids = content.split() 6 return fids
每个领导都有一个fid用于区分，这里采用手动获取fid并保存到txt中，在开始爬取时再逐行读取。
5.获取领导所有留言链接
1def get_detail_urls(position, list_url): 2 '''获取每个领导的所有留言链接''' 3 user_agent = get_user_agent() 4 chrome_options.add_argument('user-agent=%s' % user_agent) 5 drivertemp = webdriver.Chrome(options=chrome_options) 6 drivertemp.maximize_window() 7 drivertemp.get(list_url) 8 time.sleep(2) 9 # 循环加载页面 10 try: 11 while WebDriverWait(drivertemp, 50, 2).until(EC.element_to_be_clickable((By.ID, "show_more"))): 12 datestr = WebDriverWait(drivertemp, 10).until( 13 lambda driver: driver.find_element_by_xpath( 14 '//*[@id="list_content"]/li[position()=last()]/h3/span')).text.strip() 15 datestr = re.search(r'\d{4}-\d{2}-\d{2}', datestr).group() 16 date = dparser.parse(datestr, fuzzy=True) 17 print('正在爬取链接 --', position, '--', date) 18 if date < start_date: 19 break 20 # 模拟点击加载 21 drivertemp.find_element_by_xpath('//*[@id="show_more"]').click() 22 time.sleep(get_time()) 23 detail_elements = drivertemp.find_elements_by_xpath('//*[@id="list_content"]/li/h2/b/a') 24 # 获取所有链接 25 for element in detail_elements: 26 detail_url = element.get_attribute('href') 27 yield detail_url 28 drivertemp.quit() 29 except TimeoutException: 30 drivertemp.quit() 31 get_detail_urls(position, list_url)
根据第4步提供的fid找到一个领导对应的所有留言的链接，由于领导的留言列表并未一次显示完，下方有一个加载更多按钮，如下
每次需要进行点击向下加载，所以要模拟点击的操作，向下滑动，等完全加载后再次点击，直到底部，有可能会滑倒页面最底部不再显示按钮或者由于被反爬或网络不好而未加载出来，此时定位元素会超时，增加异常处理，递归调用。
函数返回值时，不是一次返回一个列表，而是通过yield关键字生成生成器，按照程序执行的进度生成url，可以减少内存的压力。
6.获取留言详情
1def get_message_detail(driver, detail_url, writer, position): 2 '''获取留言详情''' 3 print('正在爬取留言 --', position, '--', detail_url) 4 driver.get(detail_url) 5 # 判断，如果没有评论则跳过 6 try: 7 satis_degree = WebDriverWait(driver, 2.5).until( 8 lambda driver: driver.find_element_by_class_name("sec-score_firstspan")).text.strip() 9 except: 10 return 11 # 获取留言各部分内容 12 message_date_temp = WebDriverWait(driver, 2.5).until( 13 lambda driver: driver.find_element_by_xpath("/html/body/div[6]/h3/span")).text 14 message_date = re.search(r'\d{4}-\d{2}-\d{2}', message_date_temp).group() 15 message_datetime = dparser.parse(message_date, fuzzy=True) 16 if message_datetime < start_date: 17 return 18 message_title = WebDriverWait(driver, 2.5).until( 19 lambda driver: driver.find_element_by_class_name("context-title-text")).text.strip() 20 label_elements = WebDriverWait(driver, 2.5).until(lambda driver: driver.find_elements_by_class_name("domainType")) 21 try: 22 label1 = label_elements[0].text.strip() 23 label2 = label_elements[1].text.strip() 24 except: 25 label1 = '' 26 label2 = label_elements[0].text.strip() 27 message_content = WebDriverWait(driver, 2.5).until( 28 lambda driver: driver.find_element_by_xpath("/html/body/div[6]/p")).text.strip() 29 replier = WebDriverWait(driver, 2.5).until( 30 lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[1]/h3[1]/i")).text.strip() 31 reply_content = WebDriverWait(driver, 2.5).until( 32 lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[1]/p")).text.strip() 33 reply_date_temp = WebDriverWait(driver, 2.5).until( 34 lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[1]/h3[2]/em")).text 35 reply_date = re.search(r'\d{4}-\d{2}-\d{2}', reply_date_temp).group() 36 review_scores = WebDriverWait(driver, 2.5).until( 37 lambda driver: driver.find_elements_by_xpath("/html/body/div[8]/ul/li[2]/h4[1]/span/span/span")) 38 resolve_degree = review_scores[0].text.strip()[:-1] 39 handle_atti = review_scores[1].text.strip()[:-1] 40 handle_speed = review_scores[2].text.strip()[:-1] 41 review_content = WebDriverWait(driver, 2.5).until( 42 lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[2]/p")).text.strip() 43 is_auto_review = '是' if (('自动默认好评' in review_content) or ('默认评价' in review_content)) else '否' 44 review_date_temp = WebDriverWait(driver, 2.5).until( 45 lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[2]/h4[2]/em")).text 46 review_date = re.search(r'\d{4}-\d{2}-\d{2}', review_date_temp).group() 47 # 存入CSV文件 48 writer.writerow( 49 [position, message_title, label1, label2, message_date, message_content, replier, reply_content, reply_date, 50 satis_degree, resolve_degree, handle_atti, handle_speed, is_auto_review, review_content, review_date])
我们只需要有评论的留言，因此在最开始要过滤掉没有评论的留言。然后通过xpath、class_name等方式定位到相应的元素获取留言的各个部分的内容，每条留言共保存14个属性，并保存到csv中。
7.获取并保存领导所有留言
1def get_officer_messages(index, fid): 2 '''获取并保存领导的所有留言''' 3 user_agent = get_user_agent() 4 chrome_options.add_argument('user-agent=%s' % user_agent) 5 driver = webdriver.Chrome(options=chrome_options) 6 list_url = "http://liuyan.people.com.cn/threads/list?fid={}#state=4".format(fid) 7 driver.get(list_url) 8 try: 9 position = WebDriverWait(driver, 10).until( 10 lambda driver: driver.find_element_by_xpath("/html/body/div[4]/i")).text 11 print(index, '-- 正在爬取 --', position) 12 start_time = time.time() 13 csv_name = position + '.csv' 14 # 文件存在则删除重新创建 15 if os.path.exists(csv_name): 16 os.remove(csv_name) 17 with open(csv_name, 'a+', newline='', encoding='gb18030') as f: 18 writer = csv.writer(f, dialect="excel") 19 writer.writerow( 20 ['职位姓名', '留言标题', '留言标签1', '留言标签2', '留言日期', '留言内容', '回复人', '回复内容', '回复日期', '满意程度', '解决程度分', '办理态度分', 21 '办理速度分', '是否自动好评', '评价内容', '评价日期']) 22 for detail_url in get_detail_urls(position, list_url): 23 get_message_detail(driver, detail_url, writer, position) 24 time.sleep(get_time()) 25 end_time = time.time() 26 crawl_time = int(end_time - start_time) 27 crawl_minute = crawl_time // 60 28 crawl_second = crawl_time % 60 29 print(position, '已爬取结束！！！') 30 print('该领导用时：{}分钟{}秒。'.format(crawl_minute, crawl_second)) 31 driver.quit() 32 time.sleep(5) 33 except: 34 driver.quit() 35 get_officer_messages(index, fid)
获取该领导的职位信息并为该领导创建一个独立的csv用于保存提取到的留言信息，增加异常处理递归调用，调用get_message_detail()方法获取每条留言的具体信息并保存，计算出每个领导的执行时间。
8.合并文件
1def merge_csv(): 2 '''将所有文件合并''' 3 file_list = os.listdir('.') 4 csv_list = [] 5 for file in file_list: 6 if file.endswith('.csv'): 7 csv_list.append(file) 8 # 文件存在则删除重新创建 9 if os.path.exists('DATA.csv'): 10 os.remove('DATA.csv') 11 with open('DATA.csv', 'a+', newline='', encoding='gb18030') as f: 12 writer = csv.writer(f, dialect="excel") 13 writer.writerow( 14 ['职位姓名', '留言标题', '留言标签1', '留言标签2', '留言日期', '留言内容', '回复人', '回复内容', '回复日期', '满意程度', '解决程度分', '办理态度分', 15 '办理速度分', '是否自动好评', '评价内容', '评价日期']) 16 for csv_file in csv_list: 17 with open(csv_file, 'r', encoding='gb18030') as csv_f: 18 reader = csv.reader(csv_f) 19 line_count = 0 20 for line in reader: 21 line_count += 1 22 if line_count != 1: 23 writer.writerow( 24 (line[0], line[1], line[2], line[3], line[4], line[5], line[6], line[7], line[8], 25 line[9], line[10], line[11], line[12], line[13], line[14], line[15]))
将爬取的所有领导的数据进行合并。
9.主函数调用
多线程的实现主要在这部分，有2种方式实现：
- 通过for循环遍历所有任务和参数，并调用
apply_async()函数将任务加入进程池
1def main(): 2 '''主函数''' 3 fids = get_fid() 4 print('爬虫程序开始执行：') 5 s_time = time.time() 6 # 创建进程池 7 pool = Pool(3) 8 # 将任务加入进程池并传入参数 9 for index, fid in zip(range(1, len(fids) + 1), fids): 10 pool.apply_async(get_officer_messages, (index, fid)) 11 pool.close() 12 pool.join() 13 print('爬虫程序执行结束！！！') 14 print('开始合成文件：') 15 merge_csv() 16 print('文件合成结束！！！') 17 e_time = time.time() 18 c_time = int(e_time - s_time) 19 c_minute = c_time // 60 20 c_second = c_time % 60 21 print('{}位领导共计用时：{}分钟{}秒。'.format(len(fids), c_minute, c_second)) 22 23 24if __name__ == '__main__': 25 '''执行主函数''' 26 main()
- 通过调用
map()函数将任务加入进程池并实现函数与参数的映射
1def main(): 2 '''主函数''' 3 fids = get_fid() 4 print('爬虫程序开始执行：') 5 s_time = time.time() 6 # 处理传入的参数，使之对应索引合并并且可迭代 7 itera_merge = list(zip(range(1, len(fids) + 1), fids)) 8 # 创建进程池 9 pool = Pool(3) 10 # 将任务传入进程池并通过映射传入参数 11 pool.map(get_officer_messages_enc, itera_merge) 12 print('爬虫程序执行结束！！！') 13 print('开始合成文件：') 14 merge_csv() 15 print('文件合成结束！！！') 16 e_time = time.time() 17 c_time = int(e_time - s_time) 18 c_minute = c_time // 60 19 c_second = c_time % 60 20 print('{}位领导共计用时：{}分钟{}秒。'.format(len(fids), c_minute, c_second)) 21 22 23if __name__ == '__main__': 24 '''执行主函数''' 25 main()
主函数中先通过多进程获取领导所有留言，再合并所有数据文件，完成整个爬取过程，并统计整个程序的运行时间，便于分析运行效率。
三、结果、分析及说明
1.结果说明
2个完整代码和测试执行结果可点击https://download.csdn.net/download/CUFEECR/12200752下载，欢迎进行测试和交流学习，请勿滥用。
整个执行过程相比于单线程大大缩短了时间，我选择了10个领导进行测试，它们的留言数量有差异，以便于发现多线程的优势，在云服务器中的运行结果分别如下
运行时间缩短到不到100分钟，与单进程相比大大缩短了时间、提高了效率，因为同一时刻有3个子进程执行。加入多进程之后，可以让运行时间较长和较短的相互补充，在任意时刻多个进程同时运行。但是也可以看出来与多线程相比，多进程的运行时间相对稍长，虽然差别不大，但是这可能就是性能的瓶颈。可能的原因是进程需要的资源更多，这对内存、CPU和网络的要求更高，从而对设备提出了更高的要求，有时可能设备性能跟不上程序要求，从而降低了效率。
最后得到了合并的DATA.csv：
对于多线程和多进程的简单对比分析如下：
一个线程至少有一个进程，一个进程至少有一个线程，线程的划分尺度小于进程（资源比进程少），使得多线程程序的并发性高，进程在执行过程中拥有独立的存储单元，而多个线程共享存储器，从而极大的提高了程序的运行效率。线程不能够独立执行，必须依存在进程中。
多线程：
- 线程执行开销小（占用的资源非常少）但是不利于资源的管理和保护；
- 如果需要共享数据，建议使用线程；
- 适用于IO密集型任务（Web和文档读写等），遇到IO阻塞，速度远远小于CPU的运行速度，可以多开辟一些线程，有线程阻塞了，其他线程依然正常工作。
多进程：
- 执行额开销比较大（占用的资源多），但是利于资源的管理和保护；
- 适用于计算密集型（视频的译码编码和科学数据计算等）。
显然，在爬虫中应该偏向使用多线程。
2.改进分析
（1）该版本的代码仍未实现自动爬取所有的fid，需要手动保存，是其中一点不足，可以在后期改进。 （2）爬取留言详情页仍然采用的selenium模拟，会降低请求效率，可以考虑用requests库请求。 （3）该版本对于反爬的措施较弱，因此很多时候会出现异常，比如得到的页面不正常找不到对应的元素，请求时间延长等，可以在之后的版本加入进一步的防反爬措施，进一步增加代码的健壮性。
3.合法性说明
- 本项目是为了学习和科研的目的，所有读者可以参考执行思路和程序代码，但不能用于恶意和非法目的（恶意攻击网站服务器、非法盈利等），如有违者请自行负责。
- 本项目所获取的数据都是在进一步的分析之后用于对电子政务的实施改进，对政府的决策能起到一定的参考作用，并非于恶意抓取数据来攫取不正当竞争的优势，也未用于商业目的牟取不法利益，运行代码只是用几个fid进行测试，并非大范围地爬取，同时严格控制爬取的速率、争取不对服务器造成压力，如侵犯当事者（即被抓取的网络主体）的利益，请联系更改或删除。
- 本项目是留言板爬取系列的第二篇，后期会继续更新，欢迎读者交流，以期不断改进。
本文原文首发来自博客专栏Python爬虫，由本人转发至https://www.helloworld.net/p/DyZC3LcLMCVO，其他平台均属侵权，可点击https://blog.csdn.net/CUFEECR/article/details/104573023查看原文，也可点击https://blog.csdn.net/CUFEECR浏览更多优质原创内容。