跳到主要内容

Hazelcast 支持

QWen Plus 中英对照 Hazelcast Support

Spring Integration 提供了通道适配器和其他实用组件,用于与内存数据网格 Hazelcast 进行交互。

你需要将这个依赖项添加到你的项目中:

<dependency>
<groupId>org.springframework.integration</groupId>
<artifactId>spring-integration-hazelcast</artifactId>
<version>6.4.2</version>
</dependency>
xml

Hazelcast 组件的 XML 命名空间和 schemaLocation 定义为:

xmlns:int-hazelcast="http://www.springframework.org/schema/integration/hazelcast"
xsi:schemaLocation="http://www.springframework.org/schema/integration/hazelcast
https://www.springframework.org/schema/integration/hazelcast/spring-integration-hazelcast.xsd"
xml

Hazelcast 事件驱动的传入通道适配器

Hazelcast 提供了分布式数据结构,例如:

  • com.hazelcast.map.IMap

  • com.hazelcast.multimap.MultiMap

  • com.hazelcast.collection.IList

  • com.hazelcast.collection.ISet

  • com.hazelcast.collection.IQueue

  • com.hazelcast.topic.ITopic

  • com.hazelcast.replicatedmap.ReplicatedMap

它还提供了事件监听器,以便监听对这些数据结构的修改。

  • com.hazelcast.core.EntryListener<K, V>

  • com.hazelcast.collection.ItemListener

  • com.hazelcast.topic.MessageListener

Hazelcast 事件驱动的传入通道适配器监听相关的缓存事件,并将事件消息发送到定义的通道。它支持 XML 和 JavaConfig 驱动的配置。

XML 配置 :

<int-hazelcast:inbound-channel-adapter channel="mapChannel"
cache="map"
cache-events="UPDATED, REMOVED"
cache-listening-policy="SINGLE" />
xml

Hazelcast 事件驱动的传入通道适配器需要以下属性:

  • channel: 指定消息发送的通道;

  • cache: 指定监听的分布式对象引用。它是必填属性;

  • cache-events: 指定要监听的缓存事件。它是可选属性,默认值是 ADDED。其支持的值如下:

  • IMapMultiMap 支持的缓存事件类型:ADDEDREMOVEDUPDATEDEVICTEDEVICT_ALLCLEAR_ALL

  • ReplicatedMap 支持的缓存事件类型:ADDEDREMOVEDUPDATEDEVICTED

  • IListISetIQueue 支持的缓存事件类型:ADDEDREMOVEDITopic 没有缓存事件类型。

  • cache-listening-policy: 指定缓存监听策略为 SINGLEALL。它是可选属性,默认值是 SINGLE。每个 Hazelcast 入站通道适配器监听相同的缓存对象且具有相同的 cache-events 属性时,可以接收单个事件消息或所有事件消息。如果设置为 ALL,所有监听相同缓存对象且具有相同 cache-events 属性的 Hazelcast 入站通道适配器将接收所有事件消息。如果设置为 SINGLE,它们将接收唯一的事件消息。

一些配置示例:

<int:channel id="mapChannel"/>

<int-hazelcast:inbound-channel-adapter channel="mapChannel"
cache="map"
cache-events="UPDATED, REMOVED" />

<bean id="map" factory-bean="instance" factory-method="getMap">
<constructor-arg value="map"/>
</bean>

<bean id="instance" class="com.hazelcast.core.Hazelcast"
factory-method="newHazelcastInstance">
<constructor-arg>
<bean class="com.hazelcast.config.Config" />
</constructor-arg>
</bean>
xml
<int-hazelcast:inbound-channel-adapter channel="multiMapChannel"
cache="multiMap"
cache-events="ADDED, REMOVED, CLEAR_ALL" />

<bean id="multiMap" factory-bean="instance" factory-method="getMultiMap">
<constructor-arg value="multiMap"/>
</bean>
xml
<int-hazelcast:inbound-channel-adapter  channel="listChannel"
cache="list"
cache-events="ADDED, REMOVED"
cache-listening-policy="ALL" />

<bean id="list" factory-bean="instance" factory-method="getList">
<constructor-arg value="list"/>
</bean>
xml
<int-hazelcast:inbound-channel-adapter channel="setChannel" cache="set" />

<bean id="set" factory-bean="instance" factory-method="getSet">
<constructor-arg value="set"/>
</bean>
xml
<int-hazelcast:inbound-channel-adapter  channel="queueChannel"
cache="queue"
cache-events="REMOVED"
cache-listening-policy="ALL" />

<bean id="queue" factory-bean="instance" factory-method="getQueue">
<constructor-arg value="queue"/>
</bean>
xml
<int-hazelcast:inbound-channel-adapter channel="topicChannel" cache="topic" />

<bean id="topic" factory-bean="instance" factory-method="getTopic">
<constructor-arg value="topic"/>
</bean>
xml
<int-hazelcast:inbound-channel-adapter channel="replicatedMapChannel"
cache="replicatedMap"
cache-events="ADDED, UPDATED, REMOVED"
cache-listening-policy="SINGLE" />

<bean id="replicatedMap" factory-bean="instance" factory-method="getReplicatedMap">
<constructor-arg value="replicatedMap"/>
</bean>
xml

Java 配置示例:

以下示例显示了 DistributedMap 的配置。相同的配置也可以用于其他分布式数据结构(IMapMultiMapReplicatedMapIListISetIQueueITopic):

@Bean
public PollableChannel distributedMapChannel() {
return new QueueChannel();
}

@Bean
public IMap<Integer, String> distributedMap() {
return hazelcastInstance().getMap("Distributed_Map");
}

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
public HazelcastEventDrivenMessageProducer hazelcastEventDrivenMessageProducer() {
final HazelcastEventDrivenMessageProducer producer = new HazelcastEventDrivenMessageProducer(distributedMap());
producer.setOutputChannel(distributedMapChannel());
producer.setCacheEventTypes("ADDED,REMOVED,UPDATED,CLEAR_ALL");
producer.setCacheListeningPolicy(CacheListeningPolicyType.SINGLE);

return producer;
}
java

Hazelcast 持续查询入站通道适配器

Hazelcast 持续查询使监听对特定映射条目执行的修改成为可能。Hazelcast 持续查询输入通道适配器是一种事件驱动的通道适配器,它根据定义的谓词监听相关的分布式映射事件。

@Bean
public PollableChannel cqDistributedMapChannel() {
return new QueueChannel();
}

@Bean
public IMap<Integer, String> cqDistributedMap() {
return hazelcastInstance().getMap("CQ_Distributed_Map");
}

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
public HazelcastContinuousQueryMessageProducer hazelcastContinuousQueryMessageProducer() {
final HazelcastContinuousQueryMessageProducer producer =
new HazelcastContinuousQueryMessageProducer(cqDistributedMap(), "surname=TestSurname");
producer.setOutputChannel(cqDistributedMapChannel());
producer.setCacheEventTypes("UPDATED");
producer.setIncludeValue(false);

return producer;
}
java

它支持六个属性,如下:

  • channel: 指定消息发送的通道;

  • cache: 指定被监听的分布式 Map 引用。必填项;

  • cache-events: 指定要监听的缓存事件。可选属性,默认值为 ADDED。支持的值有 ADDEDREMOVEDUPDATEDEVICTEDEVICT_ALLCLEAR_ALL

  • predicate: 指定一个谓词以监听对特定映射条目执行的修改。必填项;

  • include-value: 指定是否在连续查询结果中包含值和 oldValue。可选,默认为 true

  • cache-listening-policy: 指定缓存监听策略为 SINGLEALL。可选,默认值为 SINGLE。每个 Hazelcast CQ 入站通道适配器监听相同的缓存对象且具有相同的 cache-events 属性时,可以接收单个事件消息或所有事件消息。如果设置为 ALL,所有监听相同缓存对象且具有相同 cache-events 属性的 Hazelcast CQ 入站通道适配器将接收所有事件消息。如果设置为 SINGLE,它们将只接收唯一的事件消息。

Hazelcast 集群监控入站通道适配器

Hazelcast 集群监视器支持监听对集群执行的修改。Hazelcast 集群监视器 inbound 通道适配器是一个事件驱动的通道适配器,它监听相关的成员身份、分布式对象、迁移、生命周期和客户端事件:

@Bean
public PollableChannel eventChannel() {
return new QueueChannel();
}

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
public HazelcastClusterMonitorMessageProducer hazelcastClusterMonitorMessageProducer() {
HazelcastClusterMonitorMessageProducer producer = new HazelcastClusterMonitorMessageProducer(hazelcastInstance());
producer.setOutputChannel(eventChannel());
producer.setMonitorEventTypes("DISTRIBUTED_OBJECT");

return producer;
}
java

它支持以下三个属性:

  • channel: 指定消息发送的通道;

  • hazelcast-instance: 指定用于监听集群事件的 Hazelcast 实例引用。这是一个必填属性;

  • monitor-types: 指定要监听的监控类型。这是一个可选属性,默认值为 MEMBERSHIP。支持的值有 MEMBERSHIPDISTRIBUTED_OBJECTMIGRATIONLIFECYCLECLIENT

Hazelcast 分布式 SQL 入站通道适配器

Hazelcast 允许在分布式映射上运行分布式查询。Hazelcast 分布式 SQL 入站通道适配器是轮询入站通道适配器。它运行定义的 distributed-sql 命令,并根据迭代类型返回结果。

@Bean
public PollableChannel dsDistributedMapChannel() {
return new QueueChannel();
}

@Bean
public IMap<Integer, String> dsDistributedMap() {
return hazelcastInstance().getMap("DS_Distributed_Map");
}

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
@InboundChannelAdapter(value = "dsDistributedMapChannel", poller = @Poller(maxMessagesPerPoll = "1"))
public HazelcastDistributedSQLMessageSource hazelcastDistributedSQLMessageSource() {
final HazelcastDistributedSQLMessageSource messageSource =
new HazelcastDistributedSQLMessageSource(dsDistributedMap(),
"name='TestName' AND surname='TestSurname'");
messageSource.setIterationType(DistributedSQLIterationType.ENTRY);

return messageSource;
}
java

它需要一个 poller 并支持四个属性:

  • channel: 指定消息发送的通道。它是必填属性;

  • cache: 指定查询的分布式 IMap 引用。它是必填属性;

  • iteration-type: 指定结果类型。分布式 SQL 可以在 EntrySetKeySetLocalKeySetValues 上运行。这是一个可选属性,默认值为 VALUE。支持的值为 ``ENTRY, KEY, LOCAL_KEYVALUE

  • distributed-sql: 指定 SQL 语句的 where 子句。它是必填属性。

Hazelcast 外发通道适配器

Hazelcast 外发通道适配器监听其定义的通道,并将传入的消息写入相关的分布式缓存。它期望有一个 cachecache-expressionHazelcastHeaders.CACHE_NAME 用于分布式对象定义。支持的分布式对象有:IMapMultiMapReplicatedMapIListISetIQueueITopic

@Bean
public MessageChannel distributedMapChannel() {
return new DirectChannel();
}

@Bean
public IMap<Integer, String> distributedMap() {
return hzInstance().getMap("Distributed_Map");
}

@Bean
public HazelcastInstance hzInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
@ServiceActivator(inputChannel = "distributedMapChannel")
public HazelcastCacheWritingMessageHandler hazelcastCacheWritingMessageHandler() {
HazelcastCacheWritingMessageHandler handler = new HazelcastCacheWritingMessageHandler();
handler.setDistributedObject(distributedMap());
handler.setKeyExpression(new SpelExpressionParser().parseExpression("payload.id"));
handler.setExtractPayload(true);
return handler;
}
java

它需要以下属性:

  • channel: 指定消息发送的通道;

  • cache: 指定分布式对象引用。可选;

  • cache-expression: 通过 Spring 表达式语言 (SpEL) 指定分布式对象。可选;

  • key-expression: 通过 Spring 表达式语言 (SpEL) 指定键值对中的键。仅对于 IMapMultiMapReplicatedMap 分布式数据结构是可选且必需的。

  • extract-payload: 指定是否发送整个消息或仅发送负载。可选属性,默认为 true。如果为 true,则仅写入负载到分布式对象。否则,将通过转换消息头和负载来写入整个消息。

通过在头部设置分布式对象名称,消息可以通过相同的通道写入不同的分布式对象。如果未定义 cachecache-expression 属性,则必须在请求的 Message 中设置 HazelcastHeaders.CACHE_NAME 头部。

Hazelcast 领导者选举

如果需要领导者选举(例如,对于高可用的消息消费者,只有 一个节点应该接收消息),可以使用基于 Hazelcast 的 LeaderInitiator

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
public LeaderInitiator initiator() {
return new LeaderInitiator(hazelcastInstance());
}
java

当一个节点被选为领导者时,它将向所有应用程序监听器发送一个 OnGrantedEvent

Hazelcast 消息存储

对于分布式消息状态管理,例如对于持久化的 QueueChannel 或跟踪 Aggregator 消息组,提供了 HazelcastMessageStore 实现:

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
public MessageGroupStore messageStore() {
return new HazelcastMessageStore(hazelcastInstance());
}
java

默认情况下,使用 SPRING_INTEGRATION_MESSAGE_STORE IMap 作为键/值来存储消息和组。可以向 HazelcastMessageStore 提供任何自定义的 IMap

Hazelcast 元数据存储

使用支持的 Hazelcast IMap 可以实现 ListenableMetadataStore。默认创建的地图名称为 SPRING_INTEGRATION_METADATA_STORE,可以对其进行自定义。

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
public MetadataStore metadataStore() {
return new HazelcastMetadataStore(hazelcastInstance());
}
java

HazelcastMetadataStore 实现了 ListenableMetadataStore,它允许你注册自己的 MetadataStoreListener 类型的监听器,通过 addListener(MetadataStoreListener callback) 来监听事件。

Hazelcast 锁注册表

可以使用支持 Hazelcast 分布式 ILock 的后端来实现 LockRegistry

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance();
}

@Bean
public LockRegistry lockRegistry() {
return new HazelcastLockRegistry(hazelcastInstance());
}
java

当与共享的 MessageGroupStore (例如 Aggregator 存储管理)一起使用时,HazelcastLockRegistry 可以用于在多个应用程序实例之间提供此功能,使得只有一个实例可以同时操作该组。

备注

对于所有分布式操作,必须在 HazelcastInstance 上启用 CP 子系统。

使用 Hazelcast 的消息通道

Hazelcast IQueueITopic 分布式对象本质上是消息传递原始类型,可以与 Spring Integration 核心组件一起使用而无需在此 Hazelcast 模块中进行额外的实现。

QueueChannel 可以由任何 java.util.Queue 提供,包括上述的 Hazelcast 分布式 IQueue

@Bean
PollableChannel hazelcastQueueChannel(HazelcastInstance hazelcastInstance) {
return new QueueChannel(hazelcastInstance.getQueue("springIntegrationQueue"));
}
java

将此配置放置在应用程序的 Hazelcast 集群的多个节点上,会使 QueueChannel 分布式化,并且只有一个节点能够从该 IQueue 中轮询到单个 Message。这类似于 PollableJmsChannelPollableKafkaChannelPollableAmqpChannel 的工作方式。

如果生产者端不是一个 Spring Integration 应用程序,则无法配置 QueueChannel,因此会使用普通的 Hazelcast IQueue API 来生成数据。在这种情况下,在消费者端使用 QueueChannel 方法是错误的:必须改用 入站通道适配器 解决方案:

@Bean
public IQueue<String> myStringHzQueue(HazelcastInstance hazelcastInstance) {
return hazelcastInstance.getQueue("springIntegrationQueue");
}

@Bean
@InboundChannelAdapter(channel = "stringValuesFromHzQueueChannel")
Supplier<String> fromHzIQueueSource(IQueue<String> myStringHzQueue) {
return myStringHzQueue::poll;
}
java

Hazelcast 中的 ITopic 抽象与 JMS 中的 Topic 具有类似的语义:所有订阅者接收已发布的消息。通过一对简单的 MessageChannel bean,这种机制作为开箱即用的功能得到支持:

@Bean
public ITopic<Message<?>> springIntegrationTopic(HazelcastInstance hazelcastInstance,
MessageChannel fromHazelcastTopicChannel) {

ITopic<Message<?>> topic = hazelcastInstance.getTopic("springIntegrationTopic");
topic.addMessageListener(m -> fromHazelcastTopicChannel.send(m.getMessageObject()));
return topic;
}

@Bean
public MessageChannel publishToHazelcastTopicChannel(ITopic<Message<?>> springIntegrationTopic) {
return new FixedSubscriberChannel(springIntegrationTopic::publish);
}

@Bean
public MessageChannel fromHazelcastTopicChannel() {
return new DirectChannel();
}
java

FixedSubscriberChannelDirectChannel 的一种优化变体,在初始化时需要一个 MessageHandler。由于 MessageHandler 是一个函数式接口,因此可以为 handleMessage 方法提供一个简单的 lambda 表达式。当消息发送到 publishToHazelcastTopicChannel 时,它只是发布到 Hazelcast ITopic 上。com.hazelcast.topic.MessageListener 也是一个函数式接口,因此可以为 ITopic#addMessageListener 提供一个 lambda 表达式。因此,订阅 fromHazelcastTopicChannel 的客户端将消费所有发送到上述 ITopic 的消息。

一个 ExecutorChannel 可以使用 IExecutorService 进行配置。例如,通过相应的配置可以实现集群范围的单例:

@Bean
public HazelcastInstance hazelcastInstance() {
return Hazelcast.newHazelcastInstance(
new Config()
.addExecutorConfig(new ExecutorConfig()
.setName("singletonExecutor")
.setPoolSize(1)));
}

@Bean
public MessageChannel hazelcastSingletonExecutorChannel(HazelcastInstance hazelcastInstance) {
return new ExecutorChannel(hazelcastInstance.getExecutorService("singletonExecutor"));
}
java