手把手教你用Python获取新冠疫情数据并进行可视化

Hello,大家好。我叫“小屁孩i”。

前言

不知道大伙有没有看到过这一句话:“中国(疫苗研发)非常困难,因为在中国我们没有办法做第三期临床试验,因为没有病人了。”这句话是中国工程院院士钟南山在上海科技大学2021届毕业典礼上提出的。这句话在全网流传,被广大网友称之为“凡尔赛”发言。

今天让我们用数据来看看这句话是不是“凡尔赛”本赛。在开始之前我们先来说说今天要用到的python库吧!

1.数据获取部分

requests lxml json openpyxl

2.数据可视化部分

pandas  pyecharts(可视化库)

以上的库都可以通过在线下载:

pip instll xx 

ps:如果下载速度太慢的话也可以用国内镜像,使用命令,例如:

pip install xx(库名) -i https://pypi.tuna.tsinghua.edu.cn/simple gevent(清华镜像)

现在一起进入今天的代码部分吧!!!

数据获取

目标地址:

https://voice.baidu.com/act/newpneumonia/newpneumonia

进入目标地址我们可以看到如下所示:

现在让我们一起去解析网页结构找到我们要爬取到的数据如下所示:

现在我们找到想要的页面数据接下来就是通过Python来获取这些数据了,上代码:

1 2import requests 3from lxml import etree 4import json 5import openpyxl 6 7#通用爬虫 8url = 'https://voice.baidu.com/act/newpneumonia/newpneumonia' 9headers = { 10 "User-Agent": ".....(换成自己的)" 11} 12response = requests.get(url=url,headers=headers).text 13#在使用xpath的时候要用树形态 14html = etree.HTML(response) 15#用xpath来获取我们之前找到的页面json数据 并打印看看 16json_text = html.xpath('//script[@type="application/json"]/text()') 17json_text = json_text[0] 18# print(json_text)

之后我们来解析一下json数据,上代码:

1#用python本地自带的库转换一下json数据 2result = json.loads(json_text) 3# print(result) 4#通过打印出转换的对象我们可以看到我们要的数据都要key为component对应的值之下 所以现在我们将值拿出来 5result = result["component"] 6#再次打印看看结果 7# print(result) 8# 获取国内当前数据 9result = result[0]['caseList'] 10# print(result)

接着我们将获取到的数据保存到excel中,上代码:

1 2# 创建工作簿 3wb = openpyxl.Workbook() 4# 创建工作表 5ws = wb.active 6# 设置表的标题 7ws.title = "国内疫情" 8# 写入表头 9ws.append(["省份","累计确诊","死亡","治愈"]) 10#获取各省份的数据并写入 11for line in result: 12 line_name = [line["area"],line["confirmed"],line["died"],line["crued"]] 13 for ele in line_name: 14 if ele == '': 15 ele = 0 16 ws.append(line_name) 17#保存到excel中 18wb.save('./china.xlsx')

最后我们查看一下获取到的数据是什么样的,如图:

emmmm,终于我们把数据获取部分完成了,第二部分的数据可视化来了!!!

数据可视化

这次我们用到的库是pyecharts里面的Map,我们先展示一下本次可视化用到的库

1 2#可视化部分 3import pandas as pd 4from pyecharts.charts import Map,Page 5from pyecharts import options as opts

首先我们要先通过pandas库来获取到刚才我们爬取到的数据,上代码:

1 2# 设置列对齐 3pd.set_option('display.unicode.ambiguous_as_wide', True) 4pd.set_option('display.unicode.east_asian_width', True) 5# 打开文件 6df = pd.read_excel('china.xlsx') 7# 对省份进行统计 8data2 = df['省份'] 9data2_list = list(data2) 10data3 = df['累计确诊'] 11data3_list = list(data3) 12data4 = df['死亡'] 13data4_list = list(data4) 14data5 = df ['治愈'] 15data5_list = list(data5)

接着我们来做数据可视化,将在我国地图上的各个省份显示出对应的数值

我们以疫情发生以来治愈数为例,上代码:

1c = ( 2 Map() 3 .add("治愈", [list(z) for z in zip(data2_list, data5_list)], "china") 4 .set_global_opts( 5 title_opts=opts.TitleOpts(), 6 visualmap_opts=opts.VisualMapOpts(max_=200), 7 ) 8) 9c.render()

当然仅仅一个治愈情况当然说明不了什么,所以我们将三种情况都以这种形式显示出来,上代码:

1 2a = ( 3 Map() 4 .add("累计确诊", [list(z) for z in zip(data2_list, data3_list)], "china") 5 .set_global_opts( 6 title_opts=opts.TitleOpts(), 7 visualmap_opts=opts.VisualMapOpts(max_=200), 8 ) 9) 10 11b = ( 12 Map() 13 .add("死亡", [list(z) for z in zip(data2_list, data4_list)], "china") 14 .set_global_opts( 15 title_opts=opts.TitleOpts(), 16 visualmap_opts=opts.VisualMapOpts(max_=200), 17 ) 18) 19 20c = ( 21 Map() 22 .add("治愈", [list(z) for z in zip(data2_list, data5_list)], "china") 23 .set_global_opts( 24 title_opts=opts.TitleOpts(), 25 visualmap_opts=opts.VisualMapOpts(max_=200), 26 ) 27) 28 29page = Page(layout=Page.DraggablePageLayout) 30page.add( 31 a, 32 b, 33 c, 34) 35# 先生成render.html文件 36page.render()

当然如果是直接运行代码的话展现出来的地图不是这样的,这个是通过后期的排版来完成的。那么在最后我们来说说是怎么排版的吧。

首先你先将上面的代码运行之后会产生一个render.html的文件然后你打开文件之后可以调整整个页面的布局,根据自己的喜欢来调整,接着点击左上角的“Save Config”将这个json文件保存到跟render.html这个文件同一个路径之下,最后运行一下代码:

1#完成上一步之后把 page.render()这行注释掉 2# 然后循行这下面 3Page.save_resize_html("render.html", 4 cfg_file="chart_config.json", 5 dest="my_test.html")

这样以后会产生一个my_test.html这个文件就是我们上面展示的那样啦。

结束语

以上就是我们这次的结果。从数据的获取到数据可视化,怎么说呢pyecharts还具有其他强大的可视化功能。你还用这个库做过什么数据可视化呢,欢迎小伙伴在评论区交流一下。如果文章内容有出错的地方,希望大伙批评指正。下回见!

最后需要本文代码的小伙伴可以在后台回复"新冠病毒"关键字进行获取,有问题可以在公众号后台添加小编微信,小编帮助大家解决。

-------------------********************************** End **********-------------**-----********-**********************************

往期精彩文章推荐:

欢迎各位大佬点击链接加入群聊【helloworld开发者社区】:https://jq.qq.com/?_wv=1027&k=mBlk6nzX进群交流IT技术热点。

本文转自 https://mp.weixin.qq.com/s/aH6NW0Xi5oLEfId7gy_4rg,如有侵权,请联系删除。

点赞
收藏

评论区

加载中...

相关推荐

MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1

文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s

Oracle 分组与拼接字符串同时使用

SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(

MySQL部分从库上面因为大量的临时表tmp_table造成慢查询

背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_

皕杰报表之UUID

​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为

2020年前端实用代码段,为你的工作保驾护航

有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )

Python3:sqlalchemy对mysql数据库操作,非sql语句

Python3:sqlalchemy对mysql数据库操作,非sql语句python3authorlizmdatetime2018020110:00:00coding:utf8'''