3 个仓库
Manually commit message offsets after processing to control exactly when progress is recorded in stream consumption.
Distinguishing note: No candidate covers manual offset committing in stream processing; closest candidates relate to VCS commit messages.
Explore 3 awesome GitHub repositories matching data & databases · Offset Commit Managers. Refine with filters or upvote what's useful.
Kafka library in Go
Provides explicit offset commit control for Kafka consumer progress tracking.
KafkaJS 是一个纯 JavaScript 编写的 Apache Kafka 客户端,提供了从 Kafka 集群生产和消费消息所需的必要工具,无需原生依赖或外部插件。它作为 Node.js 应用程序参与分布式消息处理和实时事件流的综合集成库。 该项目以其对 Kafka 有线协议的原生实现而著称,避免了 C++ 依赖。它具有支持 SSL、TLS 和 SASL 身份验证的安全客户端,以及允许原子消息发送和链接偏移量提交的事务功能,以确保精确一次 (exactly-once) 处理。 该库涵盖了广泛的运营领域,包括用于管理主题和消费者组的完整集群管理、高级分区路由和分配策略,以及通过事件驱动监控实现的全面遥测。它还实现了网络可靠性模式,例如指数退避重试和机架感知数据获取,以优化延迟。
Records processed message positions based on time intervals, message counts, or manual triggers.
Burrow 是一个用于 Kafka 集群的监控和告警服务。它通过评估已提交的偏移量并识别已生产和已消费消息之间的差距来跟踪消费者组的滞后情况。 该系统使用滑动窗口偏移量评估来计算处理延迟,并监控集群的整体健康状况。当消费者组的状态达到预定义阈值时,它会通过电子邮件或 Webhook 向外部服务触发通知。 该服务提供用于查询代理信息和消费者组状态的 HTTP 端点,允许外部工具轮询系统健康和性能指标。
Calculates consumer lag by tracking committed offsets over a specific time interval to detect processing delays.