Canal監(jiān)聽MySQL的實現(xiàn)步驟
1、Mysql數(shù)據(jù)庫開啟binlog模式
注意:Mysql容器,此處Mysql版本為5.7
#進入容器 docker exec -it mysql /bin/bash #進入配置目錄 cd /etc/mysql/mysql.conf.d #修改配置文件 vi mysqld.cnf
(1) 修改mysqld.cnf配置文件,添加如下配置:
log-bin=mysql-bin server-id=12345
(2) 創(chuàng)建賬號 用于測試使用,使用root賬號創(chuàng)建用戶并授予權(quán)限
create user canal@'%' IDENTIFIED by 'canal'; GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT,SUPER ON *.* TO 'canal'@'%'; FLUSH PRIVILEGES;
(3) 重啟mysql容器
docker restart mysql
2、Docker下Canal容器安裝
(1)拉取canal鏡像
docker pull docker.io/canal/canal-server
(2)創(chuàng)建Canal容器
docker run -p 11111:11111 --name canal -d docker.io/canal/canal-server
(3)進入容器,修改核心配置canal.properties 和instance.properties,canal.properties 是canal自身的配置,instance.properties是需要同步數(shù)據(jù)的數(shù)據(jù)庫連接配置。
#進入容器 docker exec -it canal /bin/bash cd canal-server/conf/ #修改 canal.properties vi canal.properties cd example/ #修改 instance.properties vi instance.properties
修改canal.properties的id,不能和mysql的server-id重復,如下圖:
修改instance.properties,配置數(shù)據(jù)庫連接地址:
這里的canal.instance.filter.regex
有多種配置,如下:
可以參考地址如下: https://github.com/alibaba/canal/wiki/AdminGuide
mysql 數(shù)據(jù)解析關注的表,Perl正則表達式.
多個正則之間以逗號(,)分隔,轉(zhuǎn)義符需要雙斜杠(\\)
常見例子:
1. 所有表:.* or .*\\..*
2. canal schema下所有表: canal\\..*
3. canal下的以canal打頭的表:canal\\.canal.*
4. canal schema下的一張表:canal.test1
5. 多個規(guī)則組合使用:canal\\..*,mysql.test1,mysql.test2 (逗號分隔)
注意:此過濾條件只針對row模式的數(shù)據(jù)有效(ps. mixed/statement因為不解析sql,所以無法準確提取tableName進行過濾)
配置完成后,設置開機啟動,并記得重啟canal。
docker update --restart=always canal docker restart canal
3、Canal Client項目搭建
(1)引入依賴
<parent> <artifactId>spring-boot-parent</artifactId> <groupId>org.springframework.boot</groupId> <version>2.1.4.RELEASE</version> </parent> <dependencies> <!--canal依賴--> <dependency> <groupId>com.xpand</groupId> <artifactId>starter-canal</artifactId> <version>0.0.1-SNAPSHOT</version> </dependency> </dependencies>
注意:canal依賴stater在中央倉庫是不存在的,需要手動放進本地倉庫或者你公司里面的nexus
這里以放進本地倉庫為例:
- 首先解壓spring-boot-starter-canal-master.zip
- 在spring-boot-starter-canal-master\starter-canal文件夾下執(zhí)行mvn clean install
- 此時在本地倉庫就會存在jar包
- 引入依賴
<!--canal依賴--> <dependency> <groupId>com.xpand</groupId> <artifactId>starter-canal</artifactId> <version>0.0.1-SNAPSHOT</version> </dependency>
(2)啟動類編寫
@SpringBootApplication @EnableCanalClient public class CanalApplication { public static void main(String[] args) { SpringApplication.run(CanalApplication.class,args); } }
(3)監(jiān)聽器編寫
@CanalEventListener public class CanalDataEventListener { /*** * 增加數(shù)據(jù)監(jiān)聽 * @param eventType * @param rowData */ @InsertListenPoint public void onEventInsert(CanalEntry.EventType eventType, CanalEntry.RowData rowData) { rowData.getAfterColumnsList().forEach((c) -> System.out.println("By--Annotation: " + c.getName() + " :: " + c.getValue())); } /*** * 修改數(shù)據(jù)監(jiān)聽 * @param rowData */ @UpdateListenPoint public void onEventUpdate(CanalEntry.RowData rowData) { System.out.println("UpdateListenPoint"); rowData.getAfterColumnsList().forEach((c) -> System.out.println("By--Annotation: " + c.getName() + " :: " + c.getValue())); } /*** * 刪除數(shù)據(jù)監(jiān)聽 * @param eventType */ @DeleteListenPoint public void onEventDelete(CanalEntry.EventType eventType) { System.out.println("DeleteListenPoint"); } /*** * 自定義數(shù)據(jù)修改監(jiān)聽 * @param eventType * @param rowData */ @ListenPoint(destination = "example", schema = "torlesse_test", table = {"tb_user", "tb_order"}, eventType = CanalEntry.EventType.UPDATE) public void onEventCustomUpdate(CanalEntry.EventType eventType, CanalEntry.RowData rowData) { System.err.println("DeleteListenPoint"); rowData.getAfterColumnsList().forEach((c) -> System.out.println("By--Annotation: " + c.getName() + " :: " + c.getValue())); } @ListenPoint(destination = "example", schema = "test_canal", //所要監(jiān)聽的數(shù)據(jù)庫名 table = {"tb_user"}, //所要監(jiān)聽的數(shù)據(jù)庫表名 eventType = {CanalEntry.EventType.UPDATE, CanalEntry.EventType.INSERT, CanalEntry.EventType.DELETE}) public void onEventCustomUpdateForTbUser(CanalEntry.EventType eventType, CanalEntry.RowData rowData){ getChangeValue(eventType,rowData); } public static void getChangeValue(CanalEntry.EventType eventType, CanalEntry.RowData rowData){ if(eventType == CanalEntry.EventType.DELETE){ rowData.getBeforeColumnsList().forEach(column -> { //獲取刪除前的數(shù)據(jù) System.out.println(column.getName() + " == " + column.getValue()); }); }else { rowData.getBeforeColumnsList().forEach(column -> { //打印改變前的字段名和值 System.out.println(column.getName() + " == " + column.getValue()); }); rowData.getAfterColumnsList().forEach(column -> { //打印改變后的字段名和值 System.out.println(column.getName() + " == " + column.getValue()); }); } } }
到此就可以實現(xiàn)Canal監(jiān)聽Mysql
項目gitee地址:test-canal
詳情可以查看:
https://github.com/alibaba/canal (阿里官方)
https://github.com/alibaba/canal/wiki/AdminGuide (阿里官方)
https://github.com/chenqian56131/spring-boot-starter-canal (自制starter)
到此這篇關于Canal監(jiān)聽MySQL的實現(xiàn)步驟的文章就介紹到這了,更多相關Canal監(jiān)聽MySQL內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Ubuntu?18.04.4安裝mysql的過程詳解?親測可用
這篇文章主要介紹了Ubuntu?18.04.4安裝mysql-親測可用,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-12-12Mysql數(shù)據(jù)庫名和表名在不同系統(tǒng)下的大小寫敏感問題
在 MySQL 中,數(shù)據(jù)庫和表對應于那些目錄下的目錄和文件。因而,操作系統(tǒng)的敏感性決定數(shù)據(jù)庫和表命名的大小寫敏感。2011-01-01MySQL 8.0.18 穩(wěn)定版發(fā)布! Hash Join如期而至
MySQL 8.0.18 穩(wěn)定版發(fā)布! Hash Join 如期而至,這篇文章帶大家快速瀏覽一下MySQL 8.0.18 穩(wěn)定版的各個亮點,感興趣的小伙伴們可以學習參考一下2019-10-10Mysql數(shù)據(jù)庫報錯2003?Can't?connect?to?MySQL?server?on?
最近在用mysql,打開mysql的圖形化界面要連接時出現(xiàn)2003錯誤,所以下面這篇文章主要給大家介紹了關于Mysql數(shù)據(jù)庫報錯2003?Can't?connect?to?MySQL?server?on?'localhost'?(10061)的解決方式,需要的朋友可以參考下2022-09-09Windows 8.1下MySQL5.7 忘記root 密碼的解決方法
最近學習碰到了一件挺令人尷尬的事情,我把MySQL的密碼給忘記了,所以MySQL登錄不進去。在網(wǎng)上找的解決方案都不靠譜,下面小編給大家分享Windows 8.1下MySQL5.7 忘記root 密碼的解決方法,需要的朋友一起看看吧2017-07-07mysql索引過長Specialed key was too long的解決方法
在創(chuàng)建要給表的時候遇到一個有意思的問題,提示Specified key was too long; max key length is 767 bytes,本文就來介紹一下解決方法,如果你也遇到此類問題,可以參考一下2021-11-11mysql error 1130 hy000:Host''localhost''解決方案
本文將詳細提供mysql error 1130 hy000:Host'localhost'解決方案,需要的朋友可以參考下2012-11-11