第 10 章 管理 Kafka
使用额外的配置属性来维护 AMQ Streams 部署。您可以添加和调整设置以响应 AMQ Streams 的性能。例如,您可以添加额外的配置来提高吞吐量和数据可靠性。
10.1. 使用 Kafka Static Quota 插件在代理上设置限制 复制链接链接已复制到粘贴板!
Kafka Static Quota 插件只是一个技术预览。红帽产品服务级别协议(SLA)不支持技术预览功能,且可能无法完成。红帽不推荐在生产环境中实施任何技术预览功能。此技术预览功能为您提供对即将推出的产品创新的早期访问,允许您在开发过程中测试并提供反馈。有关红帽技术预览功能支持范围的更多信息,请参阅技术预览功能支持范围。
使用 Kafka Static Quota 插件在 Kafka 集群中的代理上设置吞吐量和存储限制。您可以通过在 Kafka 配置文件中添加属性来启用插件和设置限制。您可以设置一个字节阈值和存储配额,以便对与代理交互的客户端进行限制。
您可以为制作者和消费者带宽设置字节阈值。总限制在所有访问代理的客户端中分布。例如,您可以为制作者设置字节阈值 40 MBps。如果两个制作者正在运行,它们各自限制为 20 MBps 的吞吐量。
在软限制和硬限制之间,存储配额调整 Kafka 磁盘存储限制。限制适用于所有可用磁盘空间。生产者在软限制和硬限制之间逐渐慢。限制防止磁盘填满速度过快并超过其容量。完整磁盘可能会导致问题被改正。硬限制是最大存储限制。
对于 JBOD 存储,在所有磁盘间应用这个限制。如果代理使用两个 1TB 磁盘,且配额是 1.1 TB,则一个磁盘可能会填满,另一个磁盘几乎为空。
先决条件
- AMQ Streams 安装 在所有要用作 Kafka 代理的主机上。
- 配置了 ZooKeeper 集群并正在运行。
流程
编辑
/opt/kafka/config/server.propertiesKafka 配置文件。以下示例配置中显示了插件属性。
Kafka Static Quota 插件配置示例
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 使用默认配置文件启动 Kafka 代理。
su - kafka /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties
su - kafka /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.propertiesCopy to Clipboard Copied! Toggle word wrap Toggle overflow 验证 Kafka 代理是否正在运行。
jcmd | grep Kafka
jcmd | grep KafkaCopy to Clipboard Copied! Toggle word wrap Toggle overflow