Knative 实战：基于阿里云 Kafka 实现消息推送

在 Knative 中已经提供了对 Kafka 事件源的支持，那么如何在阿里云上基于 Kafka 实现消息推送，本文给大家解锁这一新的姿势。

背景

消息队列 for Apache Kafka 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。消息队列 for Apache Kafka 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，已成为大数据生态中不可或缺的部分。
另外 Knative 中提供了KafkaSource事件源的支持，通过这个事件源可以方便的对接 Kafka 消息服务。

在阿里云上创建 Kafka 实例

创建 Kafka 实例

登录消息队列Kafka控制台, 选择【购买实例】。由于当前Knative中Kafka事件源支持2.0.0及以上版本，在阿里云上创建 Kafka 实例需要选择包年包月、专业版本进行购买，购买之后升级到 2.0.0 即可。

部署实例并绑定 VPC

购买完成之后，进行部署，部署时设置 Knative 集群所在的 VPC 即可：

创建 Topic 和 Consumer Group

接下来我们创建 Topic 和消费组。
进入【Topic 管理】，点击创建Topic, 这里我们创建名称为demo的topic:

进入【Consumer Group 管理】,点击创建 Consumer Group, 这里我们创建名称为demo-consumer的消费组:

部署 Kafka 数据源

部署 Kafka addon 组件

登录容器服务控制台，进入【Knative 组件管理】，部署 Kafka addon 组件。

创建 KafkaSource 实例

首先创建用于接收事件的服务 event-display:

1apiVersion: serving.knative.dev/v1
2kind: Service
3metadata:
4  name: event-display
5spec:
6  template:
7    spec:
8      containers:
9      - image: registry.cn-hangzhou.aliyuncs.com/knative-sample/eventing-sources-cmd-event_display:bf45b3eb1e7fc4cb63d6a5a6416cf696295484a7662e0cf9ccdf5c080542c21d

接下来创建KafkaSource

1apiVersion: sources.eventing.knative.dev/v1alpha1
2kind: KafkaSource
3metadata:
4  name: alikafka-source
5spec:
6  consumerGroup: demo-consumer
7  # Broker URL. Replace this with the URLs for your kafka cluster,
8  # which is in the format of my-cluster-kafka-bootstrap.my-kafka-namespace:9092.
9  bootstrapServers: 192.168.0.6x:9092,192.168.0.7x:9092,192.168.0.8x:9092
10  topics: demo
11  sink:
12    apiVersion: serving.knative.dev/v1alpha1
13    kind: Service
14    name: event-display

说明：

bootstrapServers: Kafka VPC访问地址
consumerGroup：设置消费组
topics：设置Topic

创建完成之后，我们可以查看对应的实例已经运行：

1[root@iZ2zeae8wzyq0ypgjowzq2Z ~]# kubectl get pods
2NAME                                    READY   STATUS    RESTARTS   AGE
3alikafka-source-k22vz-db44cc7f8-879pj   1/1     Running   0          8h

验证

在Kafka 控制台，选择 topic 发送消息，注意这里的消息格式必须是 json：

我们可以看到已经接收到了发送过来的 Kafka 消息：

1[root@iZ2zeae8wzyq0ypgjowzq2Z ~]# kubectl logs event-display-zl6m5-deployment-6bf9596b4f-8psx4 user-container
2
3️  CloudEvent: valid 
4Context Attributes,
5  SpecVersion: 0.2
6  Type: dev.knative.kafka.event
7  Source: /apis/v1/namespaces/default/kafkasources/alikafka-source#demo
8  ID: partition:7/offset:1
9  Time: 2019-10-18T08:50:32.492Z
10  ContentType: application/json
11  Extensions: 
12    key: demo
13Transport Context,
14  URI: /
15  Host: event-display.default.svc.cluster.local
16  Method: POST
17Data,
18  {
19    "key": "test"
20  }

阅读原文

本文为云栖社区原创内容，未经允许不得转载。