Kafka費者羣組示例

消費者羣組是來自Kafka主題的多線程或多機器消費。

消費者羣組

消費者可以通過使用samegroup.id加入一個組。

一個組的最大並行度是該組中的消費者的數量 ← 分區的數量。
Kafka將一個主題的分區分配給組中的使用者，以便每個分區僅由組中的一位消費者使用。
Kafka保證只有羣組中的單個消費者閱讀消息。
消費者可以按照存儲在日誌中的順序查看消息。

重新平衡消費者

添加更多流程/線程將導致Kafka重新平衡。如果任何消費者或經紀商未能向ZooKeeper發送心跳，則可以通過Kafka集羣重新配置它。在這種重新平衡期間，Kafka會將可用分區分配給可用線程，可能會將分區移至另一個進程。

import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;

public class ConsumerGroup {
   public static void main(String[] args) throws Exception {
      if(args.length < 2){
         System.out.println("Usage: consumer <topic> <groupname>");
         return;
      }

      String topic = args[0].toString();
      String group = args[1].toString();
      Properties props = new Properties();
      props.put("bootstrap.servers", "localhost:9092");
      props.put("group.id", group);
      props.put("enable.auto.commit", "true");
      props.put("auto.commit.interval.ms", "1000");
      props.put("session.timeout.ms", "30000");
      props.put("key.deserializer",          
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      props.put("value.deserializer", 
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);

      consumer.subscribe(Arrays.asList(topic));
      System.out.println("Subscribed to topic " + topic);
      int i = 0;

      while (true) {
         ConsumerRecords<String, String> records = con-sumer.poll(100);
            for (ConsumerRecord<String, String> record : records)
               System.out.printf("offset = %d, key = %s, value = %s\n", 
               record.offset(), record.key(), record.value());
      }     
   }  
}

編譯

javac -cp 「/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

執行代碼

>>java -cp 「/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group

在這裏，創建了一個樣本組名稱作爲my-group與兩個消費者。同樣，可以在組中創建組和消費者數量。

輸入

打開生產者CLI併發送一些消息，如 -

Test consumer group 01
Test consumer group 02

第一個過程的輸出 -

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01

第二個過程的輸出 -

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02

現在希望能通過使用Java客戶端演示瞭解SimpleConsumer和ConsumeGroup。現在已經瞭解瞭如何使用Java客戶端發送和接收消息。在下一章繼續 Kafka 與一些大數據技術的整合。

Kafka教程

Spring Kafka實例

Kafka費者羣組示例