第 11 章 监控 Kafka
监控数据允许您监控 Apache Kafka 的 Streams 性能和健康状况。您可以配置部署来捕获指标数据进行分析和通知。
在调查连接和数据发送问题时,指标数据很有用。例如,指标数据可以识别出复制的分区或信息被消耗的速率。警报规则可以通过指定的通信频道提供此类指标上的时间通知。监控视觉化呈现实时指标数据,以帮助确定如何更新部署配置。Apache Kafka Streams 提供了指标配置文件示例。
您可以使用以下工具进行指标和监控:
- Prometheus
- Prometheus 从 Kafka、ZooKeeper 和 Kafka Connect 集群拉取指标。Prometheus Alertmanager 插件处理警报并将其路由到通知服务。
- Kafka Exporter
- Kafka Exporter 添加额外的 Prometheus 指标。
- Grafana
- Grafana Labs 提供 Prometheus 指标的仪表板视觉化。
- OpenTelemetry
- OpenTelemetry 通过 Apache Kafka 的 Streams 提供端到端跟踪信息,从而补充指标数据的收集。
- Sything Control
- Cruise Control 监控数据分布,并根据 Kafka 集群中的工作负载数据执行数据重新平衡。