V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
lsk569937453
V2EX  ›  程序员

[学习]mysql 的同步问题, binlog 相关

  •  
  •   lsk569937453 · Jan 26, 2024 · 2049 views
    This topic created in 822 days ago, the information mentioned may be changed or developed.

    用阿里巴巴的canal把 binlog 解析出来是 eventData ,原来想着用otter做同步的。发现 otter 好久没维护了搭建个环境难得要死。

    如果不用 otter ,怎么做数据同步?自己手写的话是需要把 eventData 转换为 sql 吗?

    6 replies    2024-01-26 17:58:05 +08:00
    tairan2006
        1
    tairan2006  
       Jan 26, 2024
    你要同步到哪里
    bingobang
        2
    bingobang  
       Jan 26, 2024   ❤️ 1
    记得没错的话,canal 好像也是要写代码的吧,那不如直接换 flinkCdc 了
    flink cdc ,使用起来会简单很多,有纯 sql 的方案,但可能会感觉没有掌控感。 也可以用纯代码的方式解决,flink cdc 本身接入 dateSource 的时候就直接对接了 mysql 的 binlog ,在代码层面拿到的数据是,before 的值,after 的值,本次操作的类型,基本上你要的东西都会有
    potatowish
        3
    potatowish  
       Jan 26, 2024 via iPhone
    需要全过程掌控感,用 Debezium ,需要方便省事,用 Flink CDC Table/SQL API
    MIUIOS
        4
    MIUIOS  
       Jan 26, 2024
    它有一个 adapter ,可以写 sql 的方式同步,也有一个 client ,自己解析过来的数据,也有第三方开源的 clent ,github 上很多,我上次就用了一个,它全部解析成对象给你的, 很方便
    vczyh
        5
    vczyh  
       Jan 26, 2024
    数据都拿到了,拼接个 SQL 不是简简单单。
    zhangxudong
        6
    zhangxudong  
       Jan 26, 2024
    可以试试 cloudcanal ,好像是之前阿里云做 dts 的人出来创业做的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3422 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 46ms · UTC 12:17 · PVG 20:17 · LAX 05:17 · JFK 08:17
    ♥ Do have faith in what you're doing.