盘点一个Python网络爬虫抓取股票代码问题(下篇)

大家好,我是皮皮。

一、前言

前几天在Python白银群【厚德载物】问了一个Python网络爬虫的问题,这里拿出来给大家分享下。

image.png

二、实现过程

这个问题其实for循环就可以搞定了,看上去粉丝的代码没有带请求头那些,导致获取不到数据。后来【瑜亮老师】、【小王子】给了具体思路,可以帮助粉丝解决问题。

后来他自己在运行的时候,还遇到了一个异常,报错如下:

image.png

这个问题看上去应该是没获取到数据,后来【魏哥】针对该问题,给了一个异常处理方案,如下所示:

1res = response.json() 2try: 3 data = res["data"] 4 symbol1 = data["quote"]["symbol"] 5 name = data["quote"]["name"] 6 current = data["quote"]["current"] 7 chg = data["quote"]["chg"] 8 percent = data["quote"]["percent"] 9 print(symbol1, name, current, chg, percent) 10 with open('股票.csv', 'a+', encoding='utf-8') as f: 11 f.write('{},{},{},{},{}\n'.format(symbol1, name, current, chg, percent)) 12except: 13 print("该股票url无具体信息: ", symbol 14

image.png

不过后来这个异常处理,不被看好。这里【瑜亮老师】给优化了下程序,代码如下:

1if res['data']['tags'] is not None: 2 data = res["data"] 3 symbol1 = data["quote"]["symbol"] 4 name = data["quote"]["name"] 5 current = data["quote"]["current"] 6 chg = data["quote"]["chg"] 7 percent = data["quote"]["percent"] 8 print(symbol1, name, current, chg, percent, " ==> 数据下载成功!") 9 with open('股票.csv', 'a+', encoding='utf-8') as f: 10 f.write('{},{},{},{},{}\n'.format(symbol1, name, current, chg, percent)) 11 else: 12 print(f"{symbol}无具体信息: ", res) 13 time.sleep(1)

后来测试发现,其实把if res['data']['tags'] is not None:中的 is not None可以去除,只不过加上的话,对新手比较友好。另外的话,用【瑜亮老师】代码中的if res['data']['tags']也是可以的,将判断中的标签改为if res['data']['quote']:,这样打印的时候,会更加直观一些。

image.png

顺利地解决了粉丝的问题。方法很多,条条大路通罗马,能解决问题就好。

最后【kim】还分享了一个知识点,常见的类型报错原因,希望对大家的学习有帮助。

image.png

三、总结

大家好,我是皮皮。这篇文章主要盘点了一个Python网络爬虫的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【此类生物】提问,感谢【瑜亮老师】、【魏哥】、【kim】、【巭孬嫑勥烎】给出的思路和代码解析,感谢【冫马讠成】、【Ineverleft】等人参与学习交流。

【提问补充】温馨提示,大家在群里提问的时候。可以注意下面几点:如果涉及到大文件数据,可以数据脱敏后,发点demo数据来(小文件的意思),然后贴点代码(可以复制的那种),记得发报错截图(截全)。代码不多的话,直接发代码文字即可,代码超过50行这样的话,发个.py文件就行。

image.png

点赞
收藏

评论区

加载中...

相关推荐

Python网络爬虫过程中,构建网络请求的时候,参数`stream=True`的使用

大家好,我是皮皮。一、前言前几天在Python最强王者交流群【德善堂小儿推拿瑜亮老师】分享了一个关于Python网络爬虫的问题,这里拿出来给大家分享下,一起学习。二、解决过程这里【PI】大佬提出了思路,的确可行。【皮皮】给了一份代码,取巧,这里就不展示了。后来【月神】给了一份可行的代码,如下所示:forurlinallurl:respr

我在比较时序数据时,程序报错说数据标签有问题

大家好,我是皮皮。一、前言前几天在Python白银群【黑白人生】问了一个Pandas数据处理的问题,这里拿出来给大家分享下。截图如下图所示:数据截图如下所示:二、实现过程这里【论草莓如何成为冻干莓】给了一个思路,如下所示:看上去还是有点深奥的。后来【瑜亮老

为啥chrome查看到网页,只有5000多行,应该有1万多行才对

大家好,我是皮皮。一、前言前几天在Python白银交流群【磐奚鸟】问了一个Python网络爬虫处理的问题,这里拿出来给大家分享下。二、实现过程这里【惜君】给了一个指导,可能网站有限制数据量。这里【瑜亮老师】发现了问题所在,如下图所示:数据方面确实存在,顺利

盘点一个Python网络爬虫抓取股票代码问题(上篇)

大家好,我是皮皮。一、前言前几天在Python白银群【厚德载物】问了一个Python网络爬虫的问题,这里拿出来给大家分享下。二、实现过程这个问题其实for循环就可以搞定了,看上去粉丝的代码没有带请求头那些,导致获取不到数据。后来【瑜亮老师】、【小王子】给了

推荐一个下载股票相关数据的库——tuhsare

大家好,我是皮皮。一、前言这个事情还得从前几天在Python白银群【厚德载物】问了一个Python股票网络爬虫的问题说起,因为这个股票数据抓取的问题,引发了大家激烈的探讨,以致于后来大佬们纷纷参与进来。图片二、实现过程这里【袁学东】分享了一个tushare

Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除

大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这