900字范文,内容丰富有趣,生活中的好帮手!
900字范文 > 如何实现交易数据到大数据平台的实时同步 – 数据库 – 前端

如何实现交易数据到大数据平台的实时同步 – 数据库 – 前端

时间:2018-10-07 12:44:57

相关推荐

如何实现交易数据到大数据平台的实时同步 – 数据库 – 前端

在企业级大数据平台的建设中,从传统关系型数据库(如Oracle)向hadoop平台汇聚数据是一个重要的课题。

目前主流的工具有Sqoop、DataX、Oracle GoldenGate for Big Data等几种。Sqoop使用sql语句获取关系型数据库中的数据后,通过hadoop的MapReduce把数据从关系型数据库中导入数据到HDFS,其通过指定递增列或者根据时间戳达到增量导入的目的,从原理上来说是一种离线批量导入技术;DataX 直接在运行DataX的机器上进行数据的抽取及加载,其主要原理为:通过Reader插件读取源数据,Writer插件写入数据到目标 ,使用Job来控制同步作业,也是一种离线批量导入技术;Oracle Goldengate for Big Data抽取在线日志中的数据变化,转换为GGS自定义的数据格式存放在本地队列或远端队列中,并利用TCP/IP传输数据变化,集成数据压缩,提供理论可达到9:1压缩比的数据压缩特性,它简化了向常用大数据解决方案的实时数据交付,可以在不影响源系统性能的情况下将交易数据实时传入大数据系统。对比以上工具及方法,结合数据处理的准确性及实时性要求,大家评估Oracle Goldengate for Big Data基本可以满足当前大数据平台数据抽取的需求。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。