温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

使用ogg将Oracle数据传输到flume刷到kafka中的内存设置是怎样的

发布时间:2021-12-15 16:06:44 来源:亿速云 阅读:250 作者:柒染 栏目:大数据

本篇文章为大家展示了使用ogg将Oracle数据传输到flume刷到kafka中的内存设置是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

flume 环境可以根据不同的需求启动多个进程,并配置多个服务。

内存参数可以修改flume-env.sh 脚本中内存设置:

 export JAVA_OPTS=" -Xms128m -Xmx512m  -Dcom.sun.management.jmxremote"

一般分配如上大小就可以。

对应OGGpump传输段配置内存大小实例如下:

javawriter.bootoptions=-Xmx2048m -Xms256m -XX:-UseGCOverheadLimit -Djava.class.path=/data/ogg_for_bigdata/ggjava/ggjava.jar -Dlog4j.configuration=/data/ogg_for_bigdata/cfg/log4j.properties

可以添加参数 -UseGCOverheadLimit  防止 OOM 出现。

设置好合理的内存后,ogg的pump进程可以正常启动。

info 查看后:

File /data/ogg_for_bigdata/dirdat/ff014656

                     2019-03-22 14:54:59.000996  RBA 126667880


数据实时更新。

查看 stats 进程:

 Hourly statistics since 2019-04-09 20:00:04 ***

        Total inserts                                    589.00

        Total updates                                    555.00

        Total befores                                    555.00

        Total deletes                                      0.00

        Total discards                                     0.00

        Total operations                                1144.00

进程正常running

内存参数优化是调整进程挂起事务提交失败的一种方式,具体视配置环境而定。

异常报错如下:

Exception received committing transaction: com.goldengate.atg.util.GGException: Unable to commit transaction, STATUS=ABEND

上述内容就是使用ogg将Oracle数据传输到flume刷到kafka中的内存设置是怎样的,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注亿速云行业资讯频道。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI