这篇文章给大家分享的是有关flink1.9.1升级到flink1.12.1有什么改变的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。
在1.10和_1.11_版本中,Flink 分别对TaskManager和JobManager的内存配置方法做出了较大的改变。 部分配置参数被移除了,或是语义上发生了变化。
jobmanager.heap.size
jobmanager.heap.mb
尽管这两个参数以“堆(Heap)”命名,在此之前它们实际上只有在独立部署模式才完全对应于 JVM 堆内存。 在容器化部署模式下(Kubernetes 和 Yarn),它们指定的内存还包含了其他堆外内存部分。 JVM 堆空间的实际大小,是参数指定的大小减去容器切除(Cut-Off)内存后剩余的部分。 容器切除内存在 1.11 及以上版本中已被彻底移除。
上述两个参数此前对 Mesos 部署模式并不生效。 Flink 在 Mesos 上启动 JobManager 进程时并未设置任何 JVM 内存参数。 从 1.11 版本开始,Flink 将采用与独立部署模式相同的方式设置这些参数。
这两个配置参数目前已被弃用。 如果配置了上述弃用的参数,同时又没有配置与之对应的新配置参数,那它们将按如下规则对应到新的配置参数。
独立部署模式(Standalone Deployment)、Mesos 部署模式下:JVM 堆内存(jobmanager.memory.heap.size
)
容器化部署模式(Containerized Deployement)下(Kubernetes、Yarn):进程总内存(jobmanager.memory.process.size
)
建议您尽早使用新的配置参数取代启用的配置参数,它们在今后的版本中可能会被彻底移除。
如果仅配置了 Flink 总内存或进程总内存,那么 JVM 堆内存将是总内存减去其他内存部分后剩余的部分。 请参考如何配置总内存。 此外,也可以通过配置 jobmanager.memory.heap.size
的方式直接指定 JVM 堆内存。
新的内存配置要求用户至少指定下列配置参数(或参数组合)的其中之一,否则 Flink 将无法启动。
TaskManager: | JobManager: |
---|---|
taskmanager.memory.flink.size | jobmanager.memory.flink.size |
taskmanager.memory.process.size | jobmanager.memory.process.size |
taskmanager.memory.task.heap.size 和taskmanager.memory.managed.size | jobmanager.memory.heap.size |
在原本的内存配置方法中,用于指定 JVM 堆内存 的配置参数是:
修改配置
jobmanager.heap.size: 1024m --> jobmanager.memory.process.size: 1024m
taskmanager.heap.size: 2048m --> taskmanager.memory.flink.size: 2048m
flink的版本升级:<flink.version>1.9.1</flink.version> --> <flink.version>1.12.1</flink.version>
kafka connector版本升级:<artifactId>flink-connector-kafka-0.11_${scala.binary.version}</artifactId> --> <artifactId>flink-connector-kafka_2.11</artifactId>
废弃方法去除:env.getConfig().disableSysoutLogging(); --> //env.getConfig().disableSysoutLogging();
消费者:FlinkKafkaConsumer011<String> consumer = new FlinkKafkaConsumer011<>( --> FlinkKafkaConsumer<String> consumer = new FlinkKafkaConsumer<>(
感谢各位的阅读!关于“flink1.9.1升级到flink1.12.1有什么改变”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。