DBSyncer 一款开源的数据同步中间件

DBSyncer是一款开源的数据同步中间件,提供Mysql、Oracle、SqlServer、Elasticsearch(ES)、Kafka、SQL(Mysql/Oracle/SqlServer)等同步场景。支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

开源精选》是我们分享Github、Gitee等开源社区中优质项目的栏目,包括技术、学习、实用与各种有趣的内容。本期推荐的 DBSyncer是一款开源的数据同步中间件

项目介绍
DBSyncer是一款开源的数据同步中间件,提供Mysql、OracleSqlServerElasticsearch(ES)、KafkaSQL(Mysql/Oracle/SqlServer)等同步场景。支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

• 组合驱动,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系
• 实时监控,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志
• 开发插件,自定义转化同步逻辑
安装配置
步骤

安装JDK 1.8(省略详细)
• 下载安装包DBSyncer-1.0.0-Beta.zip
• 解压安装包,Window执行bin/startup.bat,Linux执行bin/startup.sh
• 打开浏览器访问:http://127.0.0.1:18686
• 账号和密码:admin/admin
增量同步配置(源库)

Mysql

• Dump Binlog二进制日志。Master同步Slave, 创建IO线程读取数据,写入relaylog,基于消息订阅捕获增量数据。
• 配置
修改my.ini文件

#服务唯一ID
server_id=1
log-bin=mysql_bin
binlog-format=ROW
max_binlog_cache_size = 256M
max_binlog_size = 512M
expire_logs_days = 7
#监听同步的库, 多个库使用英文逗号“,”拼接
replicate-do-db=test

Oracle

• CDN注册订阅。监听增删改事件,得到rowid,根据rowid执行SQL查询,得到变化数据。
• 授予账号监听权限, 同时要求目标源表必须定义一个长度为18的varchar字段,通过接收rowid值实现增删改操作。

grant change notification to 你的账号

定时

DBSyncer 一款开源的数据同步中间件
假设源表数据格式

DBSyncer 一款开源的数据同步中间件

预览

DBSyncer 一款开源的数据同步中间件
驱动管理

DBSyncer 一款开源的数据同步中间件

DBSyncer 一款开源的数据同步中间件
驱动表字段关系配置

DBSyncer 一款开源的数据同步中间件

更多内容:https://gitee.com/ghi/dbsyncer

转载作品,原作者:GitHub精选,文章来源:https://www.toutiao.com/i7068227625247867431

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022年2月21日 15:01
下一篇 2022年2月27日 15:08

相关推荐

  • mysql主从同步设置小记

    主服务器很好配置, 分配一个唯一的server-id, 开启log-bin如下 #开启bin日志 log-bin=mysql-bin #主库上限定需要同步的dbname binlo…

    MySQL 2021年12月4日
    01620
  • mysql 查询今天,昨天,上个月sql语句

    今天 select * from 表名 where to_days(时间字段名) = to_days(now()); 昨天Select * FROM 表名 Where TO_DAY…

    MySQL 2022年1月17日
    01070
  • 15个MySQL常用基本SQL语句

    在MySQL中,数据库称为database,数据表称为table,一个数据库软件中有多个数据库(databases),每个数据库中又可以有多个数据表(tables),最终,数据是存…

    2021年12月19日 MySQL
    11060
  • MySQL基本数据类型与约束条件

    数据存储的演变 # 方向: 朝着更加统一和方便管理 数据库的发展史 # 由本地保存逐步演变为线上保存 数据库的本质 # 本质上就是一款CS架构的软件 “”” 数据库: 在不同场景可…

    2022年2月20日 MySQL
    01360
  • 做好mysql运维,必须熟练掌握备份和恢复,实战一次不行多来几次

    一、 备份恢复策略 进行备份或恢复操作时需要考虑一些因素: 1、确定要备份的表的存储引擎是事务型还是非事务型,两种不同的存储引擎备份方式在处理数据一致性方面是不太一样的。 2、确定…

    MySQL 2021年12月5日
    0950
  • 掌握MySQL高级语言

    1.导入数据库 mysql> source /backup/hellodb_innodb.sql; #将脚本导入 source 加文件路径 2. select显示表格中的一个…

    2021年12月8日 MySQL
    02040

发表回复

登录后才能评论
分享本页
返回顶部