Bifrost Document

Version 1.4.0

Bifrost ---- 面向生产环境的 MySQL 同步到 Redis,MongoDB,ClickHouse 等服务的异构中间件

二进制文件解析

Bristol 是一个解析 MySQL Binlog 模块

Github : https://github.com/brokercap/Bristol

特点:

经过了数据校验测试: https://github.com/brokercap/Bristol/tree/master/test

支持了 5.1 - 8.0

提供解析 Binlog 性能测试工具

https://github.com/brokercap/Bristol/tree/master/test/BristolPerformanceTest

使用案例
    filename := "mysql-bin.000071"

    var position uint32 = 203785789
    var DBsource = "root:root123@tcp(127.0.0.1:3306)/test"

    reslut := make(chan error, 1)
    m := make(map[string]uint8, 0)
    m["bifrost_test"] = 1
    m["mysql"] = 1
    BinlogDump := &mysql.BinlogDump{
        DataSource:    DBsource,
        CallbackFun:   callback,
        ReplicateDoDb: m,
        OnlyEvent:     []mysql.EventType{mysql.QUERY_EVENT, mysql.WRITE_ROWS_EVENTv1, mysql.UPDATE_ROWS_EVENTv1, mysql.DELETE_ROWS_EVENTv1,mysql.WRITE_ROWS_EVENTv2, mysql.UPDATE_ROWS_EVENTv2, mysql.DELETE_ROWS_EVENTv2},
    }
    go BinlogDump.StartDumpBinlog(filename, position, 100,reslut,"",0)
    go func() {
        for {
            v := <-reslut
            log.Printf("monitor reslut:%s \r\n", v)
        }
    }()

    for {
        time.Sleep(10 * time.Second)
    }
DDL 支持说明

当前只支持字段在表结构末尾追加新字段,如果配置的二进制位点是在DDL 之前的位点,会出现数据和字段对应不上

数据类型修改之后,如果配置的二进制位点是在DDL 之前的位点,可能会出现数据出错

存储类型数据转换

从Binlog解析出来的数据,在转成 map[string]interface{} 的数据格式的时候

MySQL里的存储类型对应Golang里的数据类型不一样

括号里的代表是Golang里的数据类型

TINYINT ( int8 | unit8 ) , SMALLINT ( int16 | unit16 ) , MEDIUMINT ( int32 | uint32 ), INT ( int32 | uint32 ) , BIGINT ( int64 | uint64 )

FLOAT ( float32 ) , DOUBLE ( float64 ) ,REAL ( float64 )

DECIMAL , NUMERIC( 返回string类型 )

DATE , TIME , YEAR , DATETIME , TIMESTAMP ( string类型 )

CHAR , VARCHAR ( string )

TEXT , TINYTEXT , MEDIUMINTTEXT , LONGTEXT ( string )

BLOB, TINYBLOB , MEDIUMINTBLOB , LONGBLOB ( string )

ENUM ( string类型 )

SET ( []string )

BIT ( int64类型 )

Last updated on 28 Nov 2018
Published on 28 Nov 2018
Edit on GitHub