最新:flink1.18.1 使用Prometheus+Grafana监控Flink on YARN作业

重点:
最近在配置Prometheus+Grafana监控Flink on YARN作业,查看了网上大部分的文章发现,都是震度的flin1.13等老版本的配置方式,在使用flink1.18.1的时候,发现下面的配置无用,flink的指标推送不到pushGateway组件

flink-conf.yaml中添加

# 基础指标配置
metrics.system.enabled: true
metrics.reporters: promgateway

# Pushgateway Reporter 配置
metrics.reporter.promgateway.class: org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporter
metrics.reporter.promgateway.host: 192.168.27.132
metrics.reporter.promgateway.port: 9091
metrics.reporter.promgateway.jobName: metricsJob
metrics.reporter.promgateway.randomJobNameSuffix: true
metrics.reporter.promgateway.deleteOnShutdown: false
metrics.reporter.promgateway.groupingKey: component=flink
metrics.reporter.promgateway.interval: 15 SECONDS

通过查看日志发现,该方式对老的版本有效果,针对新版本无效。究其根本原因是:

在较新版本的Flink中,配置metrics reporter的方式已经改变,不再直接配置metrics.reporter.<name>.class,而是配置metrics.reporter.<name>.factory.class

因此,我们需要修改flink-conf.yaml中的配置,将class参数改为factory.class,并指定对应的工厂类。

对于PrometheusPushGatewayReporter,工厂类应该是org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporterFactory

所以,原来的配置:
metrics.reporter.promgateway.class: org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporter

应该改为:
metrics.reporter.promgateway.factory.class: org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporterFactory

故最新的配置文件为:(有用)

flink-conf.yaml中增加

metrics.system.enabled: true
metrics.reporters: promgateway
metrics.reporter.promgateway.factory.class: org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporterFactory
metrics.reporter.promgateway.host: 192.168.27.132
metrics.reporter.promgateway.port: 9091
metrics.reporter.promgateway.jobName: metricsJob
metrics.reporter.promgateway.randomJobNameSuffix: true
metrics.reporter.promgateway.deleteOnShutdown: false

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值