增量实例管理

功能说明

当索引实例创建成功,并且向里面批量构建数据数据之后,如需要开启实时数据同步通道,就需要使用本页说介绍的增量实例管理功能

组件依赖

需要运行增量实时同步功能,需要TIS系统外围已经部署能够监听数据源中数据增量变更事件的消息中间件,TIS默认的数据源是Mysql,需要在链路上有以下组件:

私有云实现

  • Mysql

    目前TIS默认支持的数据源为Mysql

  • Canal

    兼容Mysql Master-Slaver数据同步协议,负责监听Master节点BinLog数据变更事件的日志。

  • RocketMQ 或者 kafka

    将Canal中采集到的数据变更事件的日志数据同步推送到MQ中间件的Producer中,TIS通过监听MQ Topic来获取数据增量更新事件,进行进一步流式计算

  • K8S容器

    本地环境中需要先启动一个K8S集群,增量通道会以ReplicationController方式启动

公有云实现

此处以阿里云为例

  • RDS

    将MySql包装成RDS服务,用户不需要关心部署等细节服务,且能保证9999的稳定性。

  • DTS

    提供监听RDS中数据变更的功能,通过简单配置,用户可以启动Kafka客户端订阅到RDS数据库中变更信息

  • K8S容器服务(ACK)

    老实说在私有云环境中搭建K8S集群是非常麻烦的一件事儿,不是专业运维同学来搞的话,不折腾一番肯定是搞不定的。幸好,阿里云提供了ACK服务,用户只需要一键开通就能享受便捷且稳定的服务了

使用说明

进入索引管理子页面,点击实时通道Tab,再点击创建增量通道按钮,开始创建增量通道流程
首先在第一步,需要设置订阅的MQ Topic信息Docker Image等相关信息,表单填写完成之后可点击保存&下一步 进入下一步
增量通道运行时环境是K8S,需要填写K8SReplicationController相关的属性参数,
如:
1.pod数量
2.CPU规格
3.Memory内存规格

全部填写完成之后,就可以点击部署按钮,将配置对应的增量通道实例部署到K8S容器中了
最终显示创建成功提示页面,点击进入按钮就能进入到增量通道维护及状态一览页面
进入增量通道维护及状态一览页面,可以查看各种增量执行的日志信息