@[toc]

一、项目概述

1.项目说明

本项目主要是对领导留言板内的所有留言的具体内容进行抓取，对留言详情、回复详情和评价详情进行提取保存，并用于之后的数据分析和进一步处理，可以对政府的决策和电子政务的实施提供依据。网站链接是http://liuyan.people.com.cn/home?p=0，任意选择一条留言点击进入详情页后，如下爬取内容对于图中标出的数据，均要进行爬取，以此构成一条留言的组成部分。

2.环境配置

（1）Python：3.x （2）所需库：

dateutil
- 安装方法：
- pip install python-dateutil
selenium
- 安装方法：
- pip install selenium

（3）模拟驱动： chromedriver，可点击https://download.csdn.net/download/CUFEECR/12193208进行下载Google浏览器80.0.3987.16版对应版本，或点击http://chromedriver.storage.googleapis.com/index.html下载与Google对应版本，并放入Python对应安装路径下的Scripts目录下。

二、项目实施

1.导入所需要的库

1import csv
2import os
3import random
4import re
5import time
6
7import dateutil.parser as dparser
8from random import choice
9from selenium import webdriver
10from selenium.webdriver.common.by import By
11from selenium.webdriver.support import expected_conditions as EC
12from selenium.webdriver.support.ui import WebDriverWait
13from selenium.webdriver.chrome.options import Options

主要导入在爬取过程中需要用到的处理库和selenium中要用到的类。

2.全局变量和参数配置

1# 时间节点
2start_date = dparser.parse('2019-06-01')
3# 浏览器设置选项
4chrome_options = Options()
5chrome_options.add_argument('blink-settings=imagesEnabled=false')

我们假设只爬取2019.6.1以后的留言，因为这之前的留言自动给好评，没有参考价值，因此设置时间节点，并禁止网页加载图片，减少对网络的带宽要求、提升加载速率。

3.产生随机时间和用户代理

1def get_time():
2    '''获取随机时间'''
3    return round(random.uniform(3, 6), 1)
4
5
6def get_user_agent():
7    '''获取随机用户代理'''
8    user_agents = [
9        "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; AcooBrowser; .NET CLR 1.1.4322; .NET CLR 2.0.50727)",
10        "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; Acoo Browser; SLCC1; .NET CLR 2.0.50727; Media Center PC 5.0; .NET CLR 3.0.04506)",
11        "Mozilla/4.0 (compatible; MSIE 7.0; AOL 9.5; AOLBuild 4337.35; Windows NT 5.1; .NET CLR 1.1.4322; .NET CLR 2.0.50727)",
12        "Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US)",
13        "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Win64; x64; Trident/5.0; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET CLR 2.0.50727; Media Center PC 6.0)",
14        "Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET CLR 1.0.3705; .NET CLR 1.1.4322)",
15        "Mozilla/4.0 (compatible; MSIE 7.0b; Windows NT 5.2; .NET CLR 1.1.4322; .NET CLR 2.0.50727; InfoPath.2; .NET CLR 3.0.04506.30)",
16        "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN) AppleWebKit/523.15 (KHTML, like Gecko, Safari/419.3) Arora/0.3 (Change: 287 c9dfb30)",
17        "Mozilla/5.0 (X11; U; Linux; en-US) AppleWebKit/527+ (KHTML, like Gecko, Safari/419.3) Arora/0.6",
18        "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US; rv:1.8.1.2pre) Gecko/20070215 K-Ninja/2.1.1",
19        "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9) Gecko/20080705 Firefox/3.0 Kapiko/3.0",
20        "Mozilla/5.0 (X11; Linux i686; U;) Gecko/20070322 Kazehakase/0.4.5",
21        "Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.8) Gecko Fedora/1.9.0.8-1.fc10 Kazehakase/0.5.6",
22        "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11",
23        "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_3) AppleWebKit/535.20 (KHTML, like Gecko) Chrome/19.0.1036.7 Safari/535.20",
24        "Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; fr) Presto/2.9.168 Version/11.52",
25        "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.11 TaoBrowser/2.0 Safari/536.11",
26        "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.71 Safari/537.1 LBBROWSER",
27        "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E; LBBROWSER)",
28        "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E; LBBROWSER)",
29        "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.84 Safari/535.11 LBBROWSER",
30        "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E)",
31        "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E; QQBrowser/7.0.3698.400)",
32        "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E)",
33        "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; SV1; QQDownload 732; .NET4.0C; .NET4.0E; 360SE)",
34        "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E)",
35        "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E)",
36        "Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.89 Safari/537.1",
37        "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.89 Safari/537.1",
38        "Mozilla/5.0 (iPad; U; CPU OS 4_2_1 like Mac OS X; zh-cn) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8C148 Safari/6533.18.5",
39        "Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:2.0b13pre) Gecko/20110307 Firefox/4.0b13pre",
40        "Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:16.0) Gecko/20100101 Firefox/16.0",
41        "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11",
42        "Mozilla/5.0 (X11; U; Linux x86_64; zh-CN; rv:1.9.2.10) Gecko/20100922 Ubuntu/10.10 (maverick) Firefox/3.6.10",
43        "MQQBrowser/26 Mozilla/5.0 (Linux; U; Android 2.3.7; zh-cn; MB200 Build/GRJ22; CyanogenMod-7) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1",
44        "Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1",
45        "Mozilla/5.0 (Linux; Android 5.1.1; Nexus 6 Build/LYZ28E) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/48.0.2564.23 Mobile Safari/537.36",
46        "Mozilla/5.0 (iPod; U; CPU iPhone OS 2_1 like Mac OS X; ja-jp) AppleWebKit/525.18.1 (KHTML, like Gecko) Version/3.1.1 Mobile/5F137 Safari/525.20",
47        "Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)",
48        "Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html）"
49    ]
50    # 在user_agent列表中随机产生一个代理，作为模拟的浏览器
51    user_agent = choice(user_agents)
52    return user_agent
53

产生随机时间并随机模拟浏览器用于访问网页，降低被服务器识别出是爬虫而被禁的可能。

4.获取领导的fid

1def get_fid():
2    '''获取所有领导id'''
3    with open('url_fid.txt', 'r') as f:
4        content = f.read()
5        fids = content.split()
6    return fids

每个领导都有一个fid用于区分，这里采用手动获取fid并保存到txt中，在开始爬取时再逐行读取。

5.获取领导所有留言链接

1def get_detail_urls(position, list_url):
2    '''获取每个领导的所有留言链接'''
3    user_agent = get_user_agent()
4    chrome_options.add_argument('user-agent=%s' % user_agent)
5    drivertemp = webdriver.Chrome(options=chrome_options)
6    drivertemp.maximize_window()
7    drivertemp.get(list_url)
8    time.sleep(2)
9    # 循环加载页面
10    while True:
11        datestr = WebDriverWait(drivertemp, 10).until(
12            lambda driver: driver.find_element_by_xpath(
13                '//*[@id="list_content"]/li[position()=last()]/h3/span')).text.strip()
14        datestr = re.search(r'\d{4}-\d{2}-\d{2}', datestr).group()
15        date = dparser.parse(datestr, fuzzy=True)
16        print('正在爬取链接 --', position, '--', date)
17        if date < start_date:
18            break
19        # 模拟点击加载
20        try:
21            WebDriverWait(drivertemp, 50, 2).until(EC.element_to_be_clickable((By.ID, "show_more")))
22            drivertemp.execute_script('window.scrollTo(document.body.scrollHeight, document.body.scrollHeight - 600)')
23            time.sleep(get_time())
24            drivertemp.execute_script('window.scrollTo(document.body.scrollHeight - 600, document.body.scrollHeight)')
25            WebDriverWait(drivertemp, 50, 2).until(EC.element_to_be_clickable((By.XPATH, '//*[@id="show_more"]')))
26            drivertemp.find_element_by_xpath('//*[@id="show_more"]').click()
27        except:
28            break
29        time.sleep(get_time() - 1)
30    detail_elements = drivertemp.find_elements_by_xpath('//*[@id="list_content"]/li/h2/b/a')
31    # 获取所有链接
32    for element in detail_elements:
33        detail_url = element.get_attribute('href')
34        yield detail_url
35    drivertemp.quit()

根据第4步提供的fid找到一个领导对应的所有留言的链接，由于领导的留言列表并未一次显示完，下方有一个加载更多按钮，如下每次需要进行点击向下加载，所以要模拟点击的操作，向下滑动，等完全加载后再次点击，直到底部。函数返回值时，不是一次返回一个列表，而是通过yield关键字生成生成器，按照程序执行的进度生成url，可以减少内存的压力。

6.获取留言详情

1def get_message_detail(driver, detail_url, writer, position):
2    '''获取留言详情'''
3    print('正在爬取留言 --', position, '--', detail_url)
4    driver.get(detail_url)
5    # 判断，如果没有评论则跳过
6    try:
7        satis_degree = WebDriverWait(driver, 2.5).until(
8            lambda driver: driver.find_element_by_class_name("sec-score_firstspan")).text.strip()
9    except:
10        return
11    # 获取留言各部分内容
12    message_date_temp = WebDriverWait(driver, 2.5).until(
13        lambda driver: driver.find_element_by_xpath("/html/body/div[6]/h3/span")).text
14    message_date = re.search(r'\d{4}-\d{2}-\d{2}', message_date_temp).group()
15    message_datetime = dparser.parse(message_date, fuzzy=True)
16    if message_datetime < start_date:
17        return
18    message_title = WebDriverWait(driver, 2.5).until(
19        lambda driver: driver.find_element_by_class_name("context-title-text")).text.strip()
20    label_elements = WebDriverWait(driver, 2.5).until(lambda driver: driver.find_elements_by_class_name("domainType"))
21    try:
22        label1 = label_elements[0].text.strip()
23        label2 = label_elements[1].text.strip()
24    except:
25        label1 = ''
26        label2 = label_elements[0].text.strip()
27    message_content = WebDriverWait(driver, 2.5).until(
28        lambda driver: driver.find_element_by_xpath("/html/body/div[6]/p")).text.strip()
29    replier = WebDriverWait(driver, 2.5).until(
30        lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[1]/h3[1]/i")).text.strip()
31    reply_content = WebDriverWait(driver, 2.5).until(
32        lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[1]/p")).text.strip()
33    reply_date_temp = WebDriverWait(driver, 2.5).until(
34        lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[1]/h3[2]/em")).text
35    reply_date = re.search(r'\d{4}-\d{2}-\d{2}', reply_date_temp).group()
36    review_scores = WebDriverWait(driver, 2.5).until(
37        lambda driver: driver.find_elements_by_xpath("/html/body/div[8]/ul/li[2]/h4[1]/span/span/span"))
38    resolve_degree = review_scores[0].text.strip()[:-1]
39    handle_atti = review_scores[1].text.strip()[:-1]
40    handle_speed = review_scores[2].text.strip()[:-1]
41    review_content = WebDriverWait(driver, 2.5).until(
42        lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[2]/p")).text.strip()
43    is_auto_review = '是' if (('自动默认好评' in review_content) or ('默认评价' in review_content)) else '否'
44    review_date_temp = WebDriverWait(driver, 2.5).until(
45        lambda driver: driver.find_element_by_xpath("/html/body/div[8]/ul/li[2]/h4[2]/em")).text
46    review_date = re.search(r'\d{4}-\d{2}-\d{2}', review_date_temp).group()
47    # 存入CSV文件
48    writer.writerow(
49        [position, message_title, label1, label2, message_date, message_content, replier, reply_content, reply_date,
50         satis_degree, resolve_degree, handle_atti, handle_speed, is_auto_review, review_content, review_date])

我们只需要有评论的留言，因此在最开始要过滤掉没有评论的留言。然后通过xpath、class_name等方式定位到相应的元素获取留言的各个部分的内容，每条留言共保存14个内容，并保存到csv中。

7.获取并保存领导所有留言

1def get_officer_messages(index, fid):
2    '''获取并保存领导的所有留言'''
3    user_agent = get_user_agent()
4   	chrome_options.add_argument('user-agent=%s' % user_agent)
5    driver = webdriver.Chrome(options=chrome_options)
6    list_url = "http://liuyan.people.com.cn/threads/list?fid={}#state=4".format(fid)
7    driver.get(list_url)
8    position = WebDriverWait(driver, 10).until(
9        lambda driver: driver.find_element_by_xpath("/html/body/div[4]/i")).text
10    # time.sleep(get_time())
11    print(index, '-- 正在爬取 --', position)
12    start_time = time.time()
13    # encoding='gb18030'
14    csv_name = position + '.csv'
15    # 文件存在则删除重新创建
16    if os.path.exists(csv_name):
17        os.remove(csv_name)
18    with open(csv_name, 'a+', newline='', encoding='gb18030') as f:
19        writer = csv.writer(f, dialect="excel")
20        writer.writerow(
21            ['职位姓名', '留言标题', '留言标签1', '留言标签2', '留言日期', '留言内容', '回复人', '回复内容', '回复日期', '满意程度', '解决程度分', '办理态度分',
22             '办理速度分', '是否自动好评', '评价内容', '评价日期'])
23        for detail_url in get_detail_urls(position, list_url):
24            get_message_detail(driver, detail_url, writer, position)
25            time.sleep(get_time())
26    end_time = time.time()
27    crawl_time = int(end_time - start_time)
28    crawl_minute = crawl_time // 60
29    crawl_second = crawl_time % 60
30    print(position, '已爬取结束！！！')
31    print('该领导用时：{}分钟{}秒。'.format(crawl_minute, crawl_second))
32    driver.quit()
33    time.sleep(5)

获取该领导的职位信息并为该领导创建一个独立的csv用于保存提取到的留言信息，调用get_message_detail()方法获取每条留言的具体信息并保存，计算出每个领导的执行时间。

8.合并文件

1def merge_csv():
2    '''将所有文件合并'''
3    file_list = os.listdir('.')
4    csv_list = []
5    for file in file_list:
6        if file.endswith('.csv'):
7            csv_list.append(file)
8    # 文件存在则删除重新创建
9    if os.path.exists('DATA.csv'):
10        os.remove('DATA.csv')
11    with open('DATA.csv', 'a+', newline='', encoding='gb18030') as f:
12        writer = csv.writer(f, dialect="excel")
13        writer.writerow(
14            ['职位姓名', '留言标题', '留言标签1', '留言标签2', '留言日期', '留言内容', '回复人', '回复内容', '回复日期', '满意程度', '解决程度分', '办理态度分',
15             '办理速度分', '是否自动好评', '评价内容', '评价日期'])
16        for csv_file in csv_list:
17            with open(csv_file, 'r', encoding='gb18030') as csv_f:
18                reader = csv.reader(csv_f)
19                line_count = 0
20                for line in reader:
21                    line_count += 1
22                    if line_count != 1:
23                        writer.writerow(
24                            (line[0], line[1], line[2], line[3], line[4], line[5], line[6], line[7], line[8],
25                             line[9], line[10], line[11], line[12], line[13], line[14], line[15]))

将爬取的所有领导的数据进行合并。

9.主函数调用

1def main():
2    '''主函数'''
3    fids = get_fid()
4    print('爬虫程序开始执行：')
5    s_time = time.time()
6    for index, fid in enumerate(fids):
7        try:
8            get_officer_messages(index + 1, fid)
9        except:
10            get_officer_messages(index + 1, fid)
11    print('爬虫程序执行结束！！！')
12    print('开始合成文件：')
13    merge_csv()
14    print('文件合成结束！！！')
15    e_time = time.time()
16    c_time = int(e_time - s_time)
17    c_minute = c_time // 60
18    c_second = c_time % 60
19    print('{}位领导共计用时：{}分钟{}秒。'.format(len(fids), c_minute, c_second))
20
21
22if __name__ == '__main__':
23    '''执行主函数'''
24    main()

主函数中先获取领导所有留言，再合并所有数据文件，完成整个爬取过程，并统计整个程序的运行时间，便于分析运行效率。

三、结果、分析及说明

1.结果说明

完整代码和测试执行结果可点击https://download.csdn.net/download/CUFEECR/12198734下载，仅供交流学习，请勿滥用。整个执行过程较长，因为是单线程的，必须要等一个领导数据爬取完毕之后才能爬取下一个，我选择了10个领导进行测试，在云服务器中的运行结果分别如下 wmh ych gzy zzr wyg xjy result 显然，整个运行时间将近5小时，效率相对较低，有很大的提升空间。最终得到了合并的DATA.csv： result

2.改进分析

（1）该版本的代码未实现自动爬取所有的fid，需要手动保存，是其中一点不足，可以在后期改进。（2）爬取留言详情页也是采用的selenium模拟，会降低请求效率，可以考虑用requests库请求。（3）该版本是单进程（线程）的，必须要一个领导爬取完之后才能进行下一个领导的爬取，效率较低，特别是留言较多的领导耗时很长，可以考虑使用多进程或多线程进行优化。

3.合法性说明

本项目是为了学习和科研的目的，所有读者可以参考执行思路和程序代码，但不能用于恶意和非法目的（恶意攻击网站服务器、非法盈利等），如有违者请自行负责。
本项目所获取的数据都是在进一步的分析之后用于对电子政务的实施改进，对政府的决策能起到一定的参考作用，并非于恶意抓取数据来攫取不正当竞争的优势，也未用于商业目的牟取不法利益，运行代码只是用几个fid进行测试，并非大范围地爬取，同时严格控制爬取的速率、争取不对服务器造成压力，如侵犯当事者（即被抓取的网络主体）的利益，请联系更改或删除。
本项目是留言板爬取系列的第一篇，后期会继续更新，欢迎读者交流，以期不断改进。

本文原文首发来自博客专栏Python爬虫，由本人转发至https://www.helloworld.net/p/QPrHpgSpkFyz，其他平台均属侵权，可点击https://blog.csdn.net/CUFEECR/article/details/104515322查看原文，也可点击https://blog.csdn.net/CUFEECR浏览更多优质原创内容。

Python 爬取留言板留言（一）：单进程版+selenium模拟