温馨提示×

springboot 整合 kafka 如何实现消息分组

小樊
85
2024-12-14 21:23:19
栏目: 大数据

在 Spring Boot 中整合 Kafka 并实现消息分组,你需要遵循以下步骤:

  1. 添加依赖

在你的 pom.xml 文件中添加 Spring Boot 和 Kafka 的相关依赖:

<dependencies>
    <!-- Spring Boot Kafka Starter -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-kafka</artifactId>
    </dependency>
</dependencies>
  1. 配置 Kafka

在你的 application.propertiesapplication.yml 文件中配置 Kafka 相关属性:

# application.properties
spring.kafka.bootstrap-servers=localhost:9092
spring.kafka.consumer.group-id=my-group
spring.kafka.consumer.auto-offset-reset=earliest
spring.kafka.consumer.key-deserializer=org.apache.kafka.common.serialization.StringDeserializer
spring.kafka.consumer.value-deserializer=org.apache.kafka.common.serialization.StringDeserializer
  1. 创建消费者

创建一个消费者类,使用 @KafkaListener 注解监听指定主题的消息。你可以通过 groupIdtopic 属性实现消息分组。

import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Service;

@Service
public class KafkaConsumer {

    @KafkaListener(topics = "my-topic", groupId = "my-group")
    public void listen(ConsumerRecord<String, String> record) {
        System.out.printf("Received message: key = %s, value = %s, partition = %d, offset = %d%n",
                record.key(), record.value(), record.partition(), record.offset());
    }
}

在这个例子中,消费者监听名为 my-topic 的主题,并使用 my-group 作为消费者组。当收到消息时,listen 方法会被调用。

  1. 发送消息

创建一个生产者类,用于向 Kafka 发送消息。你可以使用 KafkaTemplate 发送消息。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.kafka.core.KafkaTemplate;
import org.springframework.stereotype.Service;

@Service
public class KafkaProducer {

    @Autowired
    private KafkaTemplate<String, String> kafkaTemplate;

    public void sendMessage(String topic, String message) {
        kafkaTemplate.send(topic, message);
    }
}
  1. 实现消息分组

要实现消息分组,你需要在发送消息时设置消息的键(key)。Kafka 会根据键对消息进行哈希,并将具有相同键的消息发送到同一个分区。这样,具有相同键的消息就会被消费者组中的同一个消费者接收。

例如,你可以根据用户 ID 设置消息的键:

@Service
public class KafkaProducer {

    // ... 其他代码

    public void sendMessage(String topic, String userId, String message) {
        kafkaTemplate.send(topic, userId, message);
    }
}

然后,在消费者端,你可以根据键对消息进行处理:

@Service
public class KafkaConsumer {

    // ... 其他代码

    @KafkaListener(topics = "my-topic", groupId = "my-group")
    public void listen(ConsumerRecord<String, String> record) {
        String userId = record.key();
        String message = record.value();
        System.out.printf("Received message for user %s: %s%n", userId, message);
    }
}

通过这种方式,你可以实现 Spring Boot 整合 Kafka 的消息分组功能。

0