pymongo.errors.CursorNotFound: Cursor not found

1、使用MongoDB出现以下两种报错: (1)pymongo.errors.CursorNotFound: Cursor not found (2)pymongo.errors.AutoReconnect:: [WinError 10053] 你的主机中的软件中止了一个已建立的连接。

2、原因 import pymongo client = pymongo.MongoClient() db = client['db_name'] data = db['col_name'] for i in data.find(): process() db.insert("检测样本",x)

mongo server默认维护连接的时间窗口是十分钟,单次从server获取数据是101条或者大于1M小于16M的数据。 所以默认情况下,如果10分钟内未能处理完数据,比如process太耗时,循环数大,则会出现处理超时的问题。

3、解决办法:为find函数设置 no_cursor_timeout = True,表示游标连接不会主动关闭,处理完成需要我们手动关闭 import pymongo client = pymongo.MongoClient() db = client['db_name'] col = dbData['col_name']

data = col.find(no_cursor_timeout = True)#处理超时的问题

for i in data.find(): process() db.insert("检测样本",x)

data.close() # 关闭游标

4、代码优化 我自己出现这个问题就是在频繁访问MongoDB的时候出现的,我的process并不长,循环数也不大,处理数据总量就几百,但依旧出现了超时,经过调试发现,db.insert直接访问数据库耗费太多时间,可以先将要插入的数据存入列表,最后才统一插入数据库。 (1)改进前: for i in data.find(): process() db.insert("检测样本",x) (2)改进后: dbList=[] for i in data.find(): process() dbList.append(x) db.insert("检测样本",dbList)

处理总时间从分钟降低为了几秒钟,提升很大!

点赞
收藏

评论区

加载中...

相关推荐

MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1

文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s

Oracle 分组与拼接字符串同时使用

SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(

MySQL部分从库上面因为大量的临时表tmp_table造成慢查询

背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_

皕杰报表之UUID

​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为

java将前端的json数组字符串转换为列表

记录下在前端通过ajax提交了一个json数组的字符串,在后端如何转换为列表。前端数据转化与请求varcontracts{id:'1',name:'yanggb合同1'},{id:'2',name:'yanggb合同2'},{id:'3',name:'yang

2020年前端实用代码段,为你的工作保驾护航

有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )