温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Canal结合RocketMQ同步MySQL到Redis的方法步骤

发布时间:2021-09-06 09:47:02 来源:亿速云 阅读:353 作者:chen 栏目:大数据

本篇内容主要讲解“Canal结合RocketMQ同步MySQLRedis的方法步骤”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Canal结合RocketMQ同步MySQL到Redis的方法步骤”吧!

一、 安装Canal

Docker 安装单机 Canal

二、 安装RocketMQ

Docker安装单机RocketMQ

三、配置Canal的MQ

官方文档

3.1 修改 Canal Server配置

Canal结合RocketMQ同步MySQL到Redis的方法步骤

#################################################
######### 		common argument		#############
#################################################

# canal admin config
canal.admin.manager = 192.168.25.142:8089
canal.admin.port = 11110
canal.admin.user = admin
canal.admin.passwd = 4ACFE3202A5FF5CF467898FC58AAB1D615029441

canal.serverMode = RocketMQ

##################################################
######### 		     MQ 		     #############
##################################################
canal.mq.servers = 192.168.25.142:9876
canal.mq.retries = 0
canal.mq.batchSize = 16384
canal.mq.maxRequestSize = 1048576
canal.mq.lingerMs = 100
canal.mq.bufferMemory = 33554432
canal.mq.canalBatchSize = 50
canal.mq.canalGetTimeout = 100
canal.mq.flatMessage = true
canal.mq.compressionType = none
canal.mq.acks = all
#canal.mq.properties. =
canal.mq.producerGroup = test
# Set this value to "cloud", if you want open message trace feature in aliyun.
canal.mq.accessChannel = local
# aliyun mq namespace
#canal.mq.namespace =

##################################################
#########     Kafka Kerberos Info    #############
##################################################
canal.mq.kafka.kerberos.enable = false
canal.mq.kafka.kerberos.krb5FilePath = "../conf/kerberos/krb5.conf"
canal.mq.kafka.kerberos.jaasFilePath = "../conf/kerberos/jaas.conf"

修改好后,点击保存

3.2 核对instance配置

intance.properties不需要修改,此处列出配置,方便大家避坑

#################################################
## mysql serverId , v1.0.26+ will autoGen
# canal.instance.mysql.slaveId=0

# enable gtid use true/false
canal.instance.gtidon=false

# position info
canal.instance.master.address=192.168.25.1:3306
canal.instance.master.journal.name=
canal.instance.master.position=
canal.instance.master.timestamp=
canal.instance.master.gtid=

# rds oss binlog
canal.instance.rds.accesskey=
canal.instance.rds.secretkey=
canal.instance.rds.instanceId=

# table meta tsdb info
canal.instance.tsdb.enable=true
#canal.instance.tsdb.url=jdbc:mysql://127.0.0.1:3306/canal_tsdb
#canal.instance.tsdb.dbUsername=canal
#canal.instance.tsdb.dbPassword=canal

#canal.instance.standby.address =
#canal.instance.standby.journal.name =
#canal.instance.standby.position =
#canal.instance.standby.timestamp =
#canal.instance.standby.gtid=

# username/password
canal.instance.dbUsername=canal
canal.instance.dbPassword=canal
canal.instance.connectionCharset = UTF-8
# enable druid Decrypt database password
canal.instance.enableDruid=false
#canal.instance.pwdPublicKey=MFwwDQYJKoZIhvcNAQEBBQADSwAwSAJBALK4BUxdDltRRE5/zXpVEVPUgunvscYFtEip3pmLlhrWpacX7y7GCMo2/JM6LeHmiiNdH1FWgGCpUfircSwlWKUCAwEAAQ==

# table regex
canal.instance.filter.regex=.*\\..*
# table black regex
canal.instance.filter.black.regex=
# table field filter(format: schema1.tableName1:field1/field2,schema2.tableName2:field1/field2)
#canal.instance.filter.field=test1.t_product:id/subject/keywords,test2.t_company:id/name/contact/ch
# table field black filter(format: schema1.tableName1:field1/field2,schema2.tableName2:field1/field2)
#canal.instance.filter.black.field=test1.t_product:subject/product_image,test2.t_company:id/name/contact/ch

# mq config
canal.mq.topic=example
# dynamic topic route by schema or table regex
canal.mq.dynamicTopic=test.user,student\\..*,.*\\..*
canal.mq.partition=0
# hash partition config
canal.mq.partitionsNum=3
canal.mq.partitionHash=test.users:uid,.*\\..*
#################################################

四、 重启Canal Server和Canal Instance

Canal结合RocketMQ同步MySQL到Redis的方法步骤

Canal结合RocketMQ同步MySQL到Redis的方法步骤

查看Canal Server日志

Canal结合RocketMQ同步MySQL到Redis的方法步骤

Canal结合RocketMQ同步MySQL到Redis的方法步骤

查看Canal Instance日志

Canal结合RocketMQ同步MySQL到Redis的方法步骤

五、 启动Canal测试RocketExample

5.1 拉取代码

$ git clone https://github.com/alibaba/canal.git

5.2 启动测试代码

修改RocketMQ配置

Canal结合RocketMQ同步MySQL到Redis的方法步骤

启动Main方法,并查看控制台

Canal结合RocketMQ同步MySQL到Redis的方法步骤

注意: running now...不代表就连接Broker成功了,这里坑了好久

六、 测试发送

6.1 MySQL插入数据

Canal结合RocketMQ同步MySQL到Redis的方法步骤

6.2 查看RocketMQ运维控制台

Canal结合RocketMQ同步MySQL到Redis的方法步骤

点击Message Detail

Canal结合RocketMQ同步MySQL到Redis的方法步骤

6.3 查看RocketMQ Consume控制台

Canal结合RocketMQ同步MySQL到Redis的方法步骤

到此,相信大家对“Canal结合RocketMQ同步MySQL到Redis的方法步骤”有了更深的了解,不妨来实际操作一番吧!这里是亿速云网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI