Celery 和 Redis 入门

Celery 是一个广泛应用于网络应用程序的任务处理系统。

它可以在以下情况下使用:

在请求响应周期中做网络调用。服务器应当立即响应任何网络请求。如果在请求响应周期内需要进行网络调用,则应在周期外完成调用。例如当用户在网站上注册时,需要发送激活邮件。发送邮件是一种网络调用,耗时2到3秒。用户应该无需等待这2到3秒。因此,发送激活邮件应当在请求响应周期外完成,celery 就能实现这一点。

将一个由几个独立部分组成的大任务分成多个小任务。假设你想知道脸书用户的时间流。脸书提供不同的端点来获取不同的数据。譬如,一个端点用以获取用户时间流中的图片,一个端点获取用户时间流中的博文,一个端点得到用户的点赞信息等。如果你的函数需要和脸书的5个端点依此通信,每个网络调用平均耗时2秒,你将需要10秒完成一次函数执行。但是,你可以把这项工作分为5个独立的任务(你很快就会发现这很容易做到),并让 celery 来处理这些任务。Celery 可以并行地与这5个端点通信,在2秒之内就能得到所有端点的响应。

####简单的 celery 例子

假设我们有一个函数,并传给它一个网址列表。该函数需要获取这些网址的响应。

#####没有使用 celery 创建文件celery_blog.py

1import requests 2import time 3 4def func(urls): 5 start = time.time() 6 for url in urls: 7 resp = requests.get(url) 8 print resp.status_code 9 print "It took", time.time() - start, "seconds" 10 11if __name__ == "__main__": 12 func(["http://oneapm.com", "http://jd.com", "https://taobao.com", "http://baidu.com", "http://news.oneapm.com"])

运行:

python celery_blog.py

输出: Celery 和 Redis 入门

#####使用 celery

调用 celery 的程序中最重要的组成部分为 celery worker。

在 web 应用程序注册的例子中,celery worker 用于发送邮件。

在脸书的例子中, celery worker 用于获取不同的网址。

在我们的 celery_blog.py 例子中, celery worker 用于获取 URL。 celery worker 和你的应用程序/脚本是不同的进程,彼此独立运行。所以你的应用程序/脚本和 celery 需要一些方法来相互沟通。

应用程序代码需要把任务放在 celery worker 可以取出并执行的位置。譬如,应用程序代码将任务放在消息队列中,celery worker 从消息队列领取任务并执行任务。我们将使用 Redis 作为消息队列。

请确认你已安装 Redis,并可以运行redis-server

请确认你已安装 celery。

修改文件 celery_blog.py,如下:

1from celery import Celery 2 3app = Celery('celery_blog',bloker='redis://localhost:6379/1') 4 5@app.task 6def fetch_url(url): 7 resp = requests.get(url) 8 print resp.status_code 9 10def func(urls): 11 for url in urls: 12 fetch_url.delay(url) 13 14if __name__ == "__main__": 15 func(["http://oneapm.com", "http://jd.com", "https://taobao.com", "http://baidu.com", "http://news.oneapm.com"])

代码解释:我们需要一个 celery 实例来启动程序,因此创建了一个名为 app 的 celery 实例。

在3个终端中启动:

第一个终端,运行 redis-server

第二个终端,运行 celery worker -A celery_blog -l info -c 5 ,通过输出可以看到 celery 成功运行。

第三个终端,运行脚本 python celery_blog.py

可以看到第二个终端输出如下:

Celery 和 Redis 入门

#####将 celery 代码和配置保存在不同文件中

上面的例子中,我们只写了一个 celery 任务。但您的项目可能涉及多个模块,您可能希望在不同的模块中有不同的任务。所以让我们将 celery 配置移到单独的文件中。

创建 celery_config.py

1from celery import Celery 2 3app = Celery('celery_config', broker='redis://localhost:6379/0', include=['celery_blog'])

修改 celery_blog.py 代码如下:

1import requests 2from celery_config import app 3 4@app.task 5def fetch_url(url): 6 resp = requests.get(url) 7 print resp.status_code 8 9def func(urls): 10 for url in urls: 11 fetch_url.delay(url) 12 13if __name__ == "__main__": 14 func(["http://oneapm.com", "http://jd.com", "https://taobao.com", "http://baidu.com", "http://news.oneapm.com"])

停掉之前的 celery worker ,运行:

celery worker -A celery_config -l info -c 5

打开 ipython ,运行如下命令:

1In [1]: from celery_blog import func 2In [2]: func(["http://oneapm.com", "http://jd.com", "https://taobao.com", "http://baidu.com", "http://news.oneapm.com"])

输出如下:

Celery 和 Redis 入门

#####在不同文件中添加新的任务

您可以添加新的模块,并在该模块中定义一个任务。用以下内容创建一个模块 celery_add.py

1from celery_config import app 2 3@app.task 4def add(a, b): 5 return a + b

改变 celery_config.py 包含新的模块 celery_add.py,如下:

1from celery import Celery 2 3app = Celery('celery_config', broker='redis://localhost:6379/0', include=['celery_blog', 'celery_add'])

在 ipython 输入:

1In [1]: from celery_add import add 2In [2]: add.delay(4, 5)

输出如下:

Celery 和 Redis 入门

#####在不同的机器上分开使用 Redis 和 celery

到目前为止,我们的脚本、celery worker 和 Redis 都运行在同一机器中。其实并无这种必要,这三者可以运行在不同机器上。

celery 任务涉及到网络请求,因此,在网络优化的机器上使用 celery worker 能提高任务运行速度。Redis 是一种内存数据库,在内存优化的机器上运行效率更高。

在这个例子中,我将在本地系统运行脚本和 celery worker,在分开的服务器上运行 Redis。

修改 celery_config.py 为:

app = Celery('celery_config', broker='redis://192.168.118.148:6379/0', include=['celery_blog'])

Celery 和 Redis 入门

现在我运行任何任务,脚本都将把他放在 Redis 运行的服务器(192.168.118.148)上面。

celery worker 也与 192.168.118.148 沟通,在这个 Redis 服务器上得到任务并执行它。

注意:您必须使用正在运行 redis-server 的服务器地址。我的服务器已停止Redis,所以你将无法连接到 Redis。

参考文章:Getting started with Celery and Redis

本文系 OneAPM 工程师整理。OneAPM 是应用性能管理领域的新兴领军企业,能帮助企业用户和开发者轻松实现:缓慢的程序代码和 SQL 语句的实时抓取。想阅读更多技术文章,请访问 OneAPM 官方博客

点赞
收藏

评论区

加载中...

相关推荐

MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1

文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s

Oracle 分组与拼接字符串同时使用

SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(

MySQL部分从库上面因为大量的临时表tmp_table造成慢查询

背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_

皕杰报表之UUID

​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为

手写Java HashMap源码

HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22

swap空间的增减方法

(1)增大swap空间去激活swap交换区:swapoff v /dev/vg00/lvswap扩展交换lv:lvextend L 10G /dev/vg00/lvswap重新生成swap交换区:mkswap /dev/vg00/lvswap激活新生成的交换区:swapon v /dev/vg00/lvswap