温馨提示×

springboot 整合 kafka 消费者组配置

小樊
81
2024-12-14 22:38:19
栏目: 大数据

在 Spring Boot 中整合 Kafka 消费者组配置,你需要遵循以下步骤:

  1. 添加依赖

在你的 pom.xml 文件中添加 Spring Boot Kafka 依赖:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-kafka</artifactId>
</dependency>
  1. 配置 Kafka 消费者属性

application.propertiesapplication.yml 文件中配置 Kafka 消费者属性,例如:

spring.kafka.bootstrap-servers=localhost:9092
spring.kafka.consumer.group-id=my-consumer-group
spring.kafka.consumer.auto-offset-reset=earliest
spring.kafka.consumer.key-deserializer=org.apache.kafka.common.serialization.StringDeserializer
spring.kafka.consumer.value-deserializer=org.apache.kafka.common.serialization.StringDeserializer

这里,我们配置了 Kafka 服务器地址、消费者组 ID、自动偏移重置策略以及键值的反序列化器。

  1. 创建 Kafka 消费者配置类

创建一个配置类,用于设置 Kafka 消费者相关的 Bean,例如:

import org.apache.kafka.clients.consumer.ConsumerConfig;
import org.apache.kafka.common.serialization.StringDeserializer;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

import java.util.HashMap;
import java.util.Map;

@Configuration
public class KafkaConsumerConfig {

    @Value("${spring.kafka.bootstrap-servers}")
    private String bootstrapServers;

    @Bean
    public Map<String, Object> consumerConfigs() {
        Map<String, Object> props = new HashMap<>();
        props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
        props.put(ConsumerConfig.GROUP_ID_CONFIG, "my-consumer-group");
        props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
        props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
        props.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest");
        return props;
    }
}
  1. 创建 Kafka 消费者接口和实现类

创建一个 Kafka 消费者接口,用于定义消费者需要处理的消息方法,例如:

public interface KafkaConsumer {
    void consume(String message);
}

然后,创建一个实现该接口的类,例如:

import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Component;

@Component
public class KafkaMessageConsumer implements KafkaConsumer {

    @Override
    @KafkaListener(topics = "${spring.kafka.consumer.topic}", groupId = "${spring.kafka.consumer.group-id}")
    public void consume(String message) {
        System.out.println("Received message: " + message);
    }
}

这里,我们使用了 @KafkaListener 注解来监听指定主题的消息,并将消费者组 ID 设置为我们在配置文件中定义的值。

  1. 使用 Kafka 消费者

在你的服务类或其他需要使用 Kafka 消费者的地方,注入 KafkaConsumer Bean 并调用其 consume 方法,例如:

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;

@Service
public class MyService {

    @Autowired
    private KafkaConsumer kafkaConsumer;

    public void processMessage() {
        kafkaConsumer.consume("Hello, Kafka!");
    }
}

现在,当你调用 processMessage 方法时,它将使用 Kafka 消费者处理消息。

0