我最新最全的文章都在南瓜慢说 www.pkslow.com,欢迎大家来喝茶!

1 简介

GCP的Pubsub是一种异步消息传递服务,可将生产事件的服务与处理事件的服务隔离开。消息队列的作用就不多作介绍了,与Kafka、RabbitMQ等差不多。使用Pubsub一个重要原因是不用自己去管理整个中间件的运维,将专业的事交给专业的团队去做。这样,其实也是一种节约成本的方式。

GCP还提供了更低费用的Pubsub Lite,这里不多作介绍了。

2 概念

2.1 基本概念

一些重要的核心概念:

  • 主题:生产者向其发送消息的资源;
  • 订阅:单个特定主题的消息流资源,任何一个订阅都要从属于某个主题,对哪个主题感兴趣,就订阅哪个主题;
  • 消息:传输的数据和特性;
  • 发布者:也叫生产者,负责将消息发到主题;
  • 订阅者:也叫消费者,负责将消息从订阅中读取。

他们的关系:发布者发消息到某个特定主题,而主题下有一个或多个订阅,订阅者从订阅读取消息。所以发布者和订阅者的关系有如下:

  • 一对一;
  • 一对多;
  • 多对一;
  • 多对多。

如下图所示:

2.2 消息传递过程

整个消息传递的流程大致如下:

(1)发布者向主题发送消息,消息包含要发送的数据和消息的特性;

(2)系统收到消息后,会存在GCP的系统中;

(3)系统将主题的消息转发到订阅中去;

(4)Pubsub将消息推送给订阅者,或者订阅者拉取消息;

(5)订阅者收到信息后,返回Ack确认信息;

(6)Pubsub移除已确认的消息。

2.3 集成其它组件

整个GCP的Stack可以相互集成,其它组件如Pubsub集成如下:

3 Pubsub快速入门

3.1 使用gcloud命令行

使用SDK命令行工具gcloud的入门操作如下:

# 创建主题
$ gcloud pubsub topics create pkslow-topic # 创建订阅
$ gcloud pubsub subscriptions create pkslow-sub --topic=pkslow-topic # 发布消息
$ gcloud pubsub topics publish pkslow-topic --message="www.pkslow.com" # 接收消息
$ gcloud pubsub subscriptions pull pkslow-sub --auto-ack

3.2 使用客户端库

Pubsub支持的语言很丰富,包括Python、Java、C++、Go、Node.js、PHP等,一般项目都可以使用得上。之前的文章《整合Spring Cloud Stream Binder与GCP Pubsub进行消息发送与接收》讲解了Java的整合,这里先不再展开讲解。

4 消息排序

消息排序是一个很有用的特性,它能保证消息的顺序,即发布者发的是消息A-B-C-D,接收就应该是A-B-C-D,而不是A-B-D-C或其它。Pubsub的消息排序需要发布者和订阅者双方配合:

(1)发布者必须在发消息时指定排序键(Ordering Key),这个Key不是告诉Pubsub按什么排序,而是告诉Pubsub我哪些消息要排序。排序都是按时间的,Key的作用是同一个Key的所有消息都要排序。不同Key的消息,没有顺序关系,不需要排序。所以,要为需要按时间顺序的消息指定同一个Key。

(2)订阅需要打开排序特性,不然即使消息有Ordering Key,也不会排序。

排序特性是很有用的,但会带来性能的损伤。

遇到的一些难点:

(1)对于Java开发,Spring Cloud Stream还没有支持Pubsub排序功能,所以需要使用Google的SDK来开发,或者对Spring Cloud Stream进行改造。

(2)对于多消费者的情况,Pubsub会尽量把同一个Key的消息分发到一个消息者中以保证有序性。这样会造成在Auto Scale的情况下,有时难以让其它消费者捡起消息来消费,这个可以通过配置Outstanding的大小来控制。

5 其它

5.1 监控

GCP有成熟的监控套件Cloud Monitoring,我们直接用就可以了。可以查看发送了多少消息、多少消息待消费等。

5.2 消费者自动扩容

如果消费者的处理速度太慢,可以增加它的数量来解决问题。方案是根据Pubsub滞留的消息数来自动扩容。可以有两个方案,一个是利用Keda来做,另一个是利用Cloud Monitor来做。两者都是类似的,获取队列的大小,然后通过Kubernetes的HPA进行弹性伸缩。

Keda的相关文章可以看:《Kubernetes使用Keda进行弹性伸缩,更合理利用资源

6 总结

Pubsub使用起来还是挺简单的,毕竟只用写生产者和消费者即可。但细节也很多,有空再慢慢道来吧。


欢迎关注微信公众号<南瓜慢说>,将持续为你更新...

多读书,多分享;多写作,多整理。

最新文章

  1. c#序列化json字符串及处理
  2. MVCC PostgreSQL实现事务和多版本并发控制的精华
  3. HTML DOM 元素对象
  4. CSS BOX模型
  5. eclipse 工程乱码问题
  6. 自己写一个jQuery垂直滚动栏插件(panel)
  7. Android 获取SDCard上图片和视频的缩略图
  8. c# web 删除时弹出提示框
  9. Delphi自写组件:可设置颜色的按钮(改成BS_OWNERDRAW风格,然后CN_DRAWITEM)
  10. bzoj4034[HAOI2015]树上操作 树链剖分+线段树
  11. mysql数据库的安装步骤
  12. django js引入失效问题
  13. 【机器学习】异常检测算法(I)
  14. Continued Fractions CodeForces - 305B (java+高精 / 数学)
  15. 自定义Dialog的详细步骤(实现自定义样式一般原理)
  16. python入门之字典
  17. asp.net core mvc 中间件之WebpackDevMiddleware
  18. C++ Primer读书笔记(3)
  19. sharepoint 2010 自定义页面布局
  20. WebService连接sql serever并使用Android端访问数据

热门文章

  1. Kibana常用语法
  2. zabbix监控之邮件报警通知
  3. DOCKER学习_012:Dockerfile配置指令详解
  4. JQuery 使用教程
  5. WEB页面下载内容导出excel
  6. devgridContral
  7. 只需5分钟!一文读懂CSS布局(二) -- flex布局
  8. lua type 获取 类型
  9. C# DeepClone 深拷贝
  10. Hadoop系列番外篇之一文搞懂Hadoop RPC框架及细节实现