分享好友 最新动态首页 最新动态分类 切换频道
Kafka常用监控框架百科全书
2024-12-26 20:57

Kafka搭建好投入使用后,为了运维更便捷,借助一些管理工具很有必要。Kafka社区似乎一直没有在监控框架方面投入太多的精力,目前Kafka监控方案看似很多,然而并没有一个"大而全"的通用解决方案,各家框架也是各有千秋。很多公司和个人都自行着手开发 Kafka 监控框架,其中并不乏佼佼者。今天我们就来全面地梳理一下主流的监控框架。

Kafka常用监控框架百科全书

JMX的全称为Java Management Extensions. 顾名思义,是管理Java的一种扩展。这种机制可以方便的管理、监控正在运行中的Java程序。常用于管理线程,内存,日志Level,服务重启,系统环境等。

关于JMX的使用,读者可以参考厮大这篇文章:

  • 《如何使用JMX监控Kafka》https://blog.csdn.net/u013256816/article/details/53524884

总体来说,JMXTool 是社区自带的一个小工具,对于一般简单的监控场景,它还能应付,但是它毕竟功能有限,复杂的监控整体解决方案,还是要依靠监控框架。

为了简化开发者和服务工程师维护Kafka集群的工作,Yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布不均匀的的情况。它支持管理多个集群、选择副本、副本重新分配以及创建Topic。

你可以很轻松的安装他:


你可以在 Kafka Manager 的 target/universal 目录下找到生成的 zip 文件,把它解压,然后修改里面的 conf/application.conf 文件中的 kafka-manager.zkhosts 项,让它指向你环境中的 ZooKeeper 地址,比如:


然后启动Zookeeper和Kafka:


之后,运行以下命令启动 Kafka Manager:


然后我们就可以新建Cluster,点击【Cluster】>【Add Cluster】打开如下添加集群的配置界面:

输入集群的名字(如Kafka-Cluster-1)和 Zookeeper 服务器地址(如localhost:2181),选择最接近的Kafka版本。

然后你就可以看到当前监控的 Kafka 集群的主题数量、Broker 数量等信息。

一个完整的过程你可以参考:

  • 《Kafka集群管理工具kafka-manager部署安装》https://blog.csdn.net/qq_43631716/article/details/120109732

Kafka Eagle监控系统也是一款用来监控Kafka集群的工具,支持管理多个Kafka集群、管理Kafka主题(包含查看、删除、创建等)、消费者组合消费者实例监控、消息阻塞告警、Kafka集群健康状态查看等。

Kafka Eagle v1.2.3整个系统所包含的功能,如下图所示:

  1. 展示Kafka集群的Broker数、Topic数、Consumer数、以及Topic LogSize Top10和Topic Capacity Top10数据。

2.主题创建、主题管理、主题预览、KSQL查询主题、主题数据写入、主题属性配置等

3.监控不同消费者组中的Topic被消费的详情,例如LogSize、Offsets、以及Lag等。同时,支持查看Lag的历史趋势图。

4.Kafka集群和Zookeeper集群的详情展示,例如Kafka的IP和端口、版本号、启动时间、Zookeeper的Leader和Follower。同时,还支持多Kafka集群切换,以及Zookeeper Client数据查看等功能。

5.监控Kafka集群和Zookeeper集群的核心指标,包含Kafka的消息发送趋势、消息大小接收与发送趋势、Zookeeper的连接数趋势等。同时,还支持查看Broker的瞬时指标数据。

6.告警集群异常和消费者应用Lag异常。同时,支持多种IM告警方式,例如邮件、钉钉、微信、Webhook等。

7.包含用户管理,例如创建用户、用户授权、资源管理等。

8.展示消费者和生产者当日及最近7天趋势、Kafka集群读写速度、Kafka集群历史总记录等

Kafka Eagle监控管理系统,提供了一个可视化页面,使用者可以拥有不同的角色,例如管理员、开发者、游客等。不同的角色对应不同的使用权限。

你可以参考的网站:


你可以看到 Kafka Eagle 的管理界面如下:

  • 《Kafka监控工具Kafka Eagle》https://blog.csdn.net/weixin_45367149/article/details/108398580

滴滴Logi-KafkaManager脱胎于滴滴内部多年的Kafka运营实践经验,是面向Kafka用户、Kafka运维人员打造的共享多租户Kafka云平台。专注于Kafka运维管控、监控告警、资源治理等核心场景,经历过大规模集群、海量大数据的考验。内部满意度高达90%的同时,还与多家知名企业达成商业化合作。

功能上,和 Kafka Manager的对比如下:

你可以参考GitHub:https://github.com/didi/LogiKM

滴滴甚至提供了一个体验平台:

体验地址 http://117.51.150.133:8080 账号密码 admin/admin

除了我们上面介绍的Kafka Manager、Kafka Eagle等,使用JMXTrans + InfluxDB + Grafana的组合也是很多公司的选择。可以方便的做到定制化。

最新文章
网购“仅退款”的背后,商家与和消费者的天平如何平衡?
“同学和我说,线上购物可以‘仅退款’,这样买东西不用花钱。”当五年级的儿子说出这话的那晚,在电商行业摸爬滚打十余年的商家尤彦盈正深受电商平台“仅退款”规则的困扰,彻夜难眠。儿子的话让她感到震惊,“小学生之间说出这样的话,说
【新手答疑】新人该如何做好SEO
刚进SEO这个圈子的新人,大多数都还没有找到方向,也不知道怎么去优化才会更好,掌握不到方法,俗话说万事开头难,但是呢掌握好了基本方法也是很重要的,开元SEO小编在这里告诉你们新人应该如何做好SEO。成都创新互联是一家集网站建设,梁园
百度推广区域没有访客进来网站和排名都没问题这是什么个情况
问题分析1. 地域定向设置问题  检查百度推广的地域定向设置是否准确。如果设置过于狭窄,可能无法覆盖到目标受众的搜索区域。此时,需要重新审视并调整地域定向设置。2. 竞品或相关关键词排名干扰  尽管自身网站排名良好,但竞争对手或
直播运营岗位的职责与工作内容究竟包含哪些?
解析直播运营岗位的职责与工作内容策划 制定直播主题 设计互动环节 创新内容形式2、主播培养与管理 提供培训提升技巧3、用户互动与维护 引导话题与互动 回答用户问题 通过私信社区沟通4、数据分析 分析观看人数和互动量5、营销推广 制定推
Open AI回应马斯克提起的诉讼强调:马斯克希望Open AI追求盈利!
特斯拉首席执行官(CEO)埃隆•马斯克提起诉讼,要求暂停Chat GPT开发商Open AI转换为盈利法人,Open AI展开了反击。Open AI 13日(当地时间)在博客上发表题为《马斯克希望Open AI追求营利》的文章主张:“马斯克2017年提议将Open AI转换
【PRO 7(标准版/全网通)微信下载】魅族PRO7微信8.0.53免费下载
微信是一款手机通信软件,支持通过手机网络发送语音短信、视频、图片和文字,微信可以单聊及群聊,还能根据地理位置找到附近的人,带给朋友们全新的移动沟通体验。支持ios、Android、塞班等多种平台手机。ZOL提供微信官方下载,不只是个聊
抖店代运营收费明细,代运营价格参考 2024技术攻略!超好用)
1986年04月11日私域社交电商服务,微信小程序开发,微信分销系统,网站建设,全网营销,特殊类目报白,抖音财经金融直播权限,抖音黄v认证,白名单,抖音直播间,运营,小店入驻,账号运营等全互联网业务,短视频全系业务,抖音小店开通,抖音小店代运营
看广告撸包赚钱小游戏app开发
在移动互联网高速发展的今天,手机游戏已经成为人们日常娱乐的重要方式之一。随着用户对游戏体验和盈利模式的不断探索,一种新兴的游戏类型——“看广告撸包赚钱小游戏APP”应运而生,它结合了休闲娱乐与广告收益,为用户提供了一种全新的
用AI生成超逼真美女写真,搜狐简单AI带你一键体验!
访问搜狐简单AI小程序:首先,你需要在微信中搜索“搜狐简单AI”,点击进入小程序,无需下载,方便快捷。选择生成模式:在首页中,选择“美女写真”选项,进入生成界面。这里会给你提供一些漂亮模特的模板,供你挑选。自定义设置:根据自己
pptPainter网课手写助手 4.5 官方版
pptPainter4.5版更新支持打开pdf文档,并持续优化手写、绘图的流畅性pptPainter网课手写助手能够支持打开本地图片,支持从剪贴板打开图片。pptPainter网课手写助手功能特点 一、pptPainter可播放ppt/pptx演示文稿文件,支持打开本地图片,
相关文章
推荐文章
发表评论
0评