MiniMax Chat
Spring AI 支持来自 MiniMax 的各种 AI 语言模型。你可以与 MiniMax 语言模型进行交互,并基于 MiniMax 模型创建多语言对话助手。
先决条件
您需要创建一个与MiniMax集成的API,以便访问MiniMax的语言模型。
在MiniMax注册页面创建账户,并在API密钥页面生成令牌。
Spring AI 项目定义了一个名为 spring.ai.minimax.api-key 的配置属性,您应将其设置为从 API Keys 页面获取的 API Key 的值。
您可以在 application.properties 文件中设置此配置属性:
spring.ai.minimax.api-key=<your-minimax-api-key>
在处理敏感信息(如 API 密钥)时,为了增强安全性,你可以使用 Spring 表达式语言(SpEL)来引用环境变量:
# In application.yml
spring:
ai:
minimax:
api-key: ${MINIMAX_API_KEY}
# In your environment or .env file
export MINIMAX_API_KEY=<your-minimax-api-key>
你也可以通过应用程序代码来设置此配置:
// Retrieve API key from a secure source or environment variable
String apiKey = System.getenv("MINIMAX_API_KEY");
添加仓库和 BOM
Spring AI 的构件发布在 Maven Central 和 Spring Snapshot 仓库中。请参考构件仓库部分,将这些仓库添加到您的构建系统中。
为帮助管理依赖,Spring AI 提供了一个 BOM(物料清单)以确保在整个项目中使用的 Spring AI 版本一致。请参考依赖管理章节,将 Spring AI BOM 添加到您的构建系统中。
Auto-configuration
Spring AI 的自动配置和 starter 模块的工件名称发生了重大变更。更多信息请参阅 升级说明。
Spring AI 为 MiniMax 聊天客户端提供了 Spring Boot 自动配置。要启用此功能,请将以下依赖项添加到您项目的 Maven pom.xml 文件中:
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-minimax</artifactId>
</dependency>
或者添加到你的 Gradle build.gradle 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-starter-model-minimax'
}
:::提示
请参考依赖管理章节,将 Spring AI BOM 添加到您的构建文件中。
:::
聊天属性
重试属性
spring.ai.retry 前缀用作属性前缀,允许您为 MiniMax 聊天模型配置重试机制。
| 属性 | 描述 | 默认值 |
|---|---|---|
| spring.ai.retry.max-attempts | 最大重试尝试次数。 | 10 |
| spring.ai.retry.backoff.initial-interval | 指数退避策略的初始休眠时长。 | 2 秒 |
| spring.ai.retry.backoff.multiplier | 退避间隔乘数。 | 5 |
| spring.ai.retry.backoff.max-interval | 最大退避时长。 | 3 分钟 |
| spring.ai.retry.on-client-errors | 若为 false,则抛出 NonTransientAiException,且不针对 4xx 客户端错误代码尝试重试。 | false |
| spring.ai.retry.exclude-on-http-codes | 不应触发重试(例如抛出 NonTransientAiException)的 HTTP 状态码列表。 | empty |
| spring.ai.retry.on-http-codes | 应触发重试(例如抛出 TransientAiException)的 HTTP 状态码列表。 | empty |
连接属性
前缀 spring.ai.minimax 用作属性前缀,允许您连接到 MiniMax。
| 属性 | 描述 | 默认值 |
|---|---|---|
| spring.ai.minimax.base-url | 连接到的 URL | api.minimax.chat |
| spring.ai.minimax.api-key | API 密钥 | - |
配置属性
现在通过顶级属性 spring.ai.model.chat 前缀来配置聊天自动配置的启用和禁用。
若要启用,设置 spring.ai.model.chat=minimax(默认已启用)
若要禁用,设置 spring.ai.model.chat=none(或任何不匹配 minimax 的值)
此更改旨在支持多个模型的配置。
spring.ai.minimax.chat 前缀是一个属性前缀,允许您配置 MiniMax 的聊天模型实现。
| 属性 | 描述 | 默认值 |
|---|---|---|
| spring.ai.minimax.chat.enabled (已移除且不再有效) | 启用 MiniMax 聊天模型。 | true |
| spring.ai.model.chat | 启用 MiniMax 聊天模型。 | minimax |
| spring.ai.minimax.chat.base-url | 可选地覆盖 spring.ai.minimax.base-url 以提供聊天专用的 URL | api.minimax.chat |
| spring.ai.minimax.chat.api-key | 可选地覆盖 spring.ai.minimax.api-key 以提供聊天专用的 API 密钥 | - |
| spring.ai.minimax.chat.options.model | 要使用的 MiniMax 聊天模型 | abab6.5g-chat (其中 abab5.5-chat, abab5.5s-chat, abab6.5-chat, abab6.5g-chat, abab6.5t-chat 和 abab6.5s-chat 指向最新的模型版本) |
| spring.ai.minimax.chat.options.maxTokens | 聊天补全中生成的最大 token 数量。输入 token 和生成 token 的总长度受模型上下文长度限制。 | - |
| spring.ai.minimax.chat.options.temperature | 采样温度,用于控制生成补全的表观创造力。较高的值会使输出更随机,而较低的值会使结果更集中和确定。不建议为同一个补全请求同时修改 temperature 和 top_p,因为这两个设置的交互作用难以预测。 | 0.7 |
| spring.ai.minimax.chat.options.topP | 温度采样的替代方法,称为核采样,模型会考虑概率质量排名前 top_p 的 token 的结果。例如 0.1 意味着只考虑构成前 10% 概率质量的 token。通常建议修改此参数或 temperature,但不要同时修改两者。 | 1.0 |
| spring.ai.minimax.chat.options.n | 为每个输入消息生成多少个聊天补全选项。请注意,您将根据所有选项中生成的 token 总数计费。默认值为 1,且不能大于 5。特别地,当温度非常小且接近 0 时,我们只能返回 1 个结果。如果此时 n 已设置且 >1,服务将返回非法输入参数错误 (invalid_request_error)。 | 1 |
| spring.ai.minimax.chat.options.presencePenalty | 介于 -2.0 和 2.0 之间的数值。正值会根据新 token 是否已在文本中出现过进行惩罚,从而增加模型谈论新话题的可能性。 | 0.0f |
| spring.ai.minimax.chat.options.frequencyPenalty | 介于 -2.0 和 2.0 之间的数值。正值会根据新 token 在文本中已出现的频率进行惩罚,从而降低模型逐字重复相同内容的可能性。 | 0.0f |
| spring.ai.minimax.chat.options.stop | 模型将在遇到指定的停止词时停止生成字符,目前仅支持单个停止词,格式为 ["stop_word1"] | - |
| spring.ai.minimax.chat.options.tool-names | 工具名称列表,用于在单个提示请求中启用函数调用。具有这些名称的工具必须存在于 ToolCallback 注册表中。 | - |
| spring.ai.minimax.chat.options.tool-callbacks | 要注册到 ChatModel 的工具回调。 | - |
| spring.ai.minimax.chat.options.internal-tool-execution-enabled | 如果为 false,Spring AI 将不会在内部处理工具调用,而是将其代理给客户端。然后客户端负责处理工具调用,将其分派给适当的函数并返回结果。如果为 true (默认值),Spring AI 将在内部处理函数调用。仅适用于支持函数调用的聊天模型。 | true |
你可以为 ChatModel 实现覆盖通用的 spring.ai.minimax.base-url 和 spring.ai.minimax.api-key 配置。如果设置了 spring.ai.minimax.chat.base-url 和 spring.ai.minimax.chat.api-key 属性,它们将优先于通用属性。如果你希望为不同的模型和不同的模型端点使用不同的 MiniMax 账户,这将非常有用。
所有以 spring.ai.minimax.chat.options 为前缀的属性,都可以在运行时通过在 Prompt 调用中添加特定请求的 运行时选项 来覆盖。
运行时选项
MiniMaxChatOptions.java 提供了模型配置,例如要使用的模型、温度值、频率惩罚等。
启动时,可以通过 MiniMaxChatModel(api, options) 构造函数或 spring.ai.minimax.chat.options.* 属性来配置默认选项。
在运行时,您可以通过在 Prompt 调用中添加新的、特定于请求的选项来覆盖默认选项。例如,要为特定请求覆盖默认模型和温度:
ChatResponse response = chatModel.call(
new Prompt(
"Generate the names of 5 famous pirates.",
MiniMaxChatOptions.builder()
.model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue())
.temperature(0.5)
.build()
));
除了模型特定的 MiniMaxChatOptions 之外,你也可以使用可移植的 ChatOptions 实例,该实例通过 ChatOptions#builder() 创建。
示例控制器
创建一个新的Spring Boot项目,并在你的pom(或gradle)依赖中添加spring-ai-starter-model-minimax。
在 src/main/resources 目录下添加一个 application.properties 文件,以启用和配置 MiniMax 聊天模型:
spring.ai.minimax.api-key=YOUR_API_KEY
spring.ai.minimax.chat.options.model=abab6.5g-chat
spring.ai.minimax.chat.options.temperature=0.7
:::提示
将 api-key 替换为您的 MiniMax 凭据。
:::
这将创建一个MiniMaxChatModel实现,你可以将其注入到你的类中。以下是一个使用该聊天模型进行文本生成的简单@Controller类示例。
@RestController
public class ChatController {
private final MiniMaxChatModel chatModel;
@Autowired
public ChatController(MiniMaxChatModel chatModel) {
this.chatModel = chatModel;
}
@GetMapping("/ai/generate")
public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", this.chatModel.call(message));
}
@GetMapping("/ai/generateStream")
public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
var prompt = new Prompt(new UserMessage(message));
return this.chatModel.stream(prompt);
}
}
手动配置
MiniMaxChatModel 实现了 ChatModel 和 StreamingChatModel 接口,并使用 MiniMaxApi 底层客户端 连接至 MiniMax 服务。
将 spring-ai-minimax 依赖添加到项目的 Maven pom.xml 文件中:
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-minimax</artifactId>
</dependency>
添加到您的Gradle build.gradle构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-minimax'
}
:::提示
请参考依赖管理部分,将Spring AI BOM添加到您的构建文件中。
:::
接下来,创建 MiniMaxChatModel 并使用它进行文本生成:
var miniMaxApi = new MiniMaxApi(System.getenv("MINIMAX_API_KEY"));
var chatModel = new MiniMaxChatModel(this.miniMaxApi, MiniMaxChatOptions.builder()
.model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue())
.temperature(0.4)
.maxTokens(200)
.build());
ChatResponse response = this.chatModel.call(
new Prompt("Generate the names of 5 famous pirates."));
// Or with streaming responses
Flux<ChatResponse> streamResponse = this.chatModel.stream(
new Prompt("Generate the names of 5 famous pirates."));
MiniMaxChatOptions 提供聊天请求的配置信息。MiniMaxChatOptions.Builder 是一个流畅的选项构建器。
底层 MiniMaxApi 客户端
MiniMaxApi 为 MiniMax API 提供了一个轻量级的 Java 客户端。
以下是使用该 API 的简单代码片段:
MiniMaxApi miniMaxApi =
new MiniMaxApi(System.getenv("MINIMAX_API_KEY"));
ChatCompletionMessage chatCompletionMessage =
new ChatCompletionMessage("Hello world", Role.USER);
// Sync request
ResponseEntity<ChatCompletion> response = this.miniMaxApi.chatCompletionEntity(
new ChatCompletionRequest(List.of(this.chatCompletionMessage), MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue(), 0.7, false));
// Streaming request
Flux<ChatCompletionChunk> streamResponse = this.miniMaxApi.chatCompletionStream(
new ChatCompletionRequest(List.of(this.chatCompletionMessage), MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue(), 0.7, true));
有关更多信息,请参考 MiniMaxApi.java 的 JavaDoc。
WebSearch 聊天
MiniMax模型支持了网页搜索功能。该网页搜索功能允许您搜索网络信息,并在聊天回复中返回结果。
关于网页搜索,请参考 MiniMax ChatCompletion 获取更多信息。
以下是一个简单的代码片段,展示了如何使用网络搜索功能:
UserMessage userMessage = new UserMessage(
"How many gold medals has the United States won in total at the 2024 Olympics?");
List<Message> messages = new ArrayList<>(List.of(this.userMessage));
List<MiniMaxApi.FunctionTool> functionTool = List.of(MiniMaxApi.FunctionTool.webSearchFunctionTool());
MiniMaxChatOptions options = MiniMaxChatOptions.builder()
.model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.value)
.tools(this.functionTool)
.build();
// Sync request
ChatResponse response = chatModel.call(new Prompt(this.messages, this.options));
// Streaming request
Flux<ChatResponse> streamResponse = chatModel.stream(new Prompt(this.messages, this.options));
MiniMaxApi 示例
-
MiniMaxApiIT.java 测试提供了一些如何使用该轻量级库的通用示例。
-
MiniMaxApiToolFunctionCallIT.java 测试展示了如何使用底层 API 调用工具函数。