黔西南挚桶广告传媒有限公司

大數據Maxwell(一):Maxwell介紹和工作原理

?Maxwell介紹和工作原理

一、Maxwell介紹

Maxwell是由美國Zendesk開源,使用Java編寫的MySQL實時抓取工具,可以實時讀取MySQL二進制日志binlog,并生成 JSON 格式的消息,作為生產者發送給 Kafka,Kinesis、RabbitMQ、Redis、Google Cloud Pub/Sub、文件或其它平臺的應用程序。它設計的初衷是實時采集Mysql數據到Kafka。支持全表load數據,支持自動斷點還原,支持按照列將數據發送到Kafka不同分區。

Maxwell官網:http://maxwells-daemon.io/


(相關資料圖)

二、??????????????Maxwell工作原理

Maxwell工作原理與Canal工作原理一樣,都是把自己偽裝成MySQL 的slave從庫,同步binlog數據,來達到同步MySQL數據,與Canal相比,更加輕量。同樣使用Maxwell也需要開啟MySQL binlog日志。

三、Maxwell和Canal對比

Canal

Maxwell

公司

阿里

zendesk

開發語言

Java

Java

高可用

支持HA

不支持,支持斷點續傳

數據格式

格式自由

JSON

Bootstrap(刷全量數據)

不支持

支持

數據落地

支持客戶端,支持定制/kafka

Kafka,Redis等。

Canal是阿里公司使用Java開發,Maxwell是zendesk公司使用Java開發。Canal支持高可用HA,支持斷點續傳。Maxwell不支持HA,但是支持斷點續傳,要想支持HA需要自己實現。Canal由于有Client消費數據,針對binlog數據可以使用Client自定義數據格式,Maxwell支持Json數據寫出到Kafka或Redis。Canal只能獲取MySQL最新數據,Maxwell支持Bootstrap,可以支持獲取MySQL中歷史數據。Canal采用Server+client模式,Maxwell沒有采用這種模式,直接將數據發送到Kafka或者Redis等。

總體來看,Maxwell相對于Canal更加輕量級。

?

關鍵詞:

篮球直播在线观看| NBA直播免费观看高清APP下载| 亚美体育APP官方网站| 免费看球神器| 龙珠无插件直播足球| 鲸鱼体育官方版下载| 看球赛下载什么软件好| 免费观看nba比赛的软件| 十大免费体育直播软件| 01体育赛事免费直播| 178直播体育在线| 咪咕体育免费直播手机app| 看球赛直播app免费的| 24足球直播在线直播观看| jrs低调看高清直播免费| 免费足球直播app软件| 24足球直播在线直播观看| 免费看球直播软件| 足球直播软件app免费网站| 8868体育下载入口| 推荐一些免费观看足球比赛直播的APP| 巴黎奥运会直播| 足球体育平台app| 看球体育直播app官网| 十大免费体育直播软件| 178体育app官网下载| 免费足球直播app哪个软件好| 看球通体育app官方下载| 看球直播app下载官网最新版| 鲸鱼体育app下载安卓版本安装| 足球直播软件app免费网站| 看球赛下载什么软件好| 咪咕体育手机在线直播| 东方赢家app下载| 使用这些app的好处| 足球情报哪个网最好| 免费足球直播app下载| 可以看足球直播的app软件| best365体育官方网站进入| 最全的足球直播app| 看个球app官方免费下载|