跳到主要内容
版本:2.0.1

DeepSeek Chat

QWen 3.8 中英对照 DeepSeek DeepSeek Chat

Spring AI 支持来自 DeepSeek 的各种 AI 语言模型。你可以与 DeepSeek 语言模型进行交互,并基于 DeepSeek 模型创建多语言对话助手。

前置条件​

你需要创建一个 DeepSeek API 密钥以访问 DeepSeek 语言模型。

在 DeepSeek 注册页面 创建账号,并在 API Keys 页面 生成 token。

Spring AI 项目定义了一个名为 spring.ai.deepseek.api-key 的配置属性,您需要将其设置为从 API Keys 页面获取的 API Key 值。

你可以在 application.properties 文件中设置该配置属性:

spring.ai.deepseek.api-key=<your-deepseek-api-key>

在处理 API 密钥等敏感信息时,为了增强安全性,您可以使用 Spring Expression Language (SpEL) 来引用自定义环境变量:

# In application.yml
spring:
ai:
deepseek:
api-key: ${DEEPSEEK_API_KEY}
# In your environment or .env file
export DEEPSEEK_API_KEY=<your-deepseek-api-key>

也可以在应用程序代码中以编程方式设置此配置:

// Retrieve API key from a secure source or environment variable
String apiKey = System.getenv("DEEPSEEK_API_KEY");

添加 Repositories 和 BOM​

Spring AI 构件发布在 Spring 里程碑(Milestone)和快照(Snapshot)仓库中。请参见 Artifact Repositories 章节,了解如何将这些仓库添加到你的构建系统中。

为便于依赖管理,Spring AI 提供了一个 BOM(物料清单),以确保在整个项目中始终使用一致版本的 Spring AI。有关将 Spring AI BOM 添加到构建系统的方法,请参见 依赖管理 部分。

自动配置​

Spring AI 为 DeepSeek 聊天模型提供了 Spring Boot 自动配置功能。要启用该功能,请将以下依赖项添加到项目的 Maven pom.xml 文件中:

<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-deepseek</artifactId>
</dependency>

或添加到您的 Gradle build.gradle 文件中。

dependencies {
implementation 'org.springframework.ai:spring-ai-starter-model-deepseek'
}
提示

参考依赖管理部分,将 Spring AI BOM 添加到您的构建文件中。

Chat Properties​

重试属性​

前缀 spring.ai.retry 用作属性前缀,用于配置 DeepSeek Chat 模型的重试机制。

属性描述默认值
spring.ai.retry.max-attempts最大重试次数。10
spring.ai.retry.backoff.initial-interval指数退避策略的初始休眠时长。2 sec.
spring.ai.retry.backoff.multiplier退避间隔乘数。5
spring.ai.retry.backoff.max-interval最大退避时长。3 min.
spring.ai.retry.on-client-errors如果设为 false,则抛出 NonTransientAiException,并不对 4xx 客户端错误码进行重试false
spring.ai.retry.exclude-on-http-codes不应触发重试的 HTTP 状态码列表(例如,用于抛出 NonTransientAiException)。empty
spring.ai.retry.on-http-codes应触发重试的 HTTP 状态码列表(例如,用于抛出 TransientAiException)。empty

连接属性​

前缀 spring.ai.deepseek 用作属性前缀,用于连接 DeepSeek。

属性描述默认值
spring.ai.deepseek.base-url连接地址https://api.deepseek.com
spring.ai.deepseek.api-keyAPI Key-

配置属性​

备注

现在通过前缀为 spring.ai.model.chat 的顶层属性来启用或禁用聊天自动配置。

要启用,设置 spring.ai.model.chat=deepseek(默认已启用)

要禁用,设置 spring.ai.model.chat=none(或任何与 deepseek 不匹配的值)

此变更旨在支持多个模型的配置。

前缀 spring.ai.deepseek.chat 是用于配置 DeepSeek 聊天模型实现的属性前缀。

属性描述默认值
spring.ai.deepseek.chat.enabled (已移除且不再有效)启用 DeepSeek 聊天模型。true
spring.ai.model.chat启用 DeepSeek 聊天模型。deepseek
spring.ai.deepseek.chat.base-url可选地覆盖 spring.ai.deepseek.base-url 以提供特定的聊天 URLhttps://api.deepseek.com/
spring.ai.deepseek.chat.api-key可选地覆盖 spring.ai.deepseek.api-key 以提供特定的聊天 API 密钥-
spring.ai.deepseek.chat.completions-path聊天补全端点的路径/chat/completions
spring.ai.deepseek.chat.beta-prefix-pathBeta 功能端点的前缀路径/beta
spring.ai.deepseek.chat.model要使用的模型 ID。您可以使用 deepseek-v4-flash, deepseek-v4-pro, deepseek-chat 或 deepseek-reasoner。deepseek-v4-flash
spring.ai.deepseek.chat.frequency-penalty-2.0 到 2.0 之间的数值。正值会根据新令牌在文本中出现的频率对其进行惩罚,从而降低模型逐字重复同一行的可能性。0.0f
spring.ai.deepseek.chat.max-tokens在聊天补全中生成的最大令牌数。输入令牌和生成令牌的总长度受模型上下文长度限制。-
spring.ai.deepseek.chat.presence-penalty-2.0 到 2.0 之间的数值。正值会根据新令牌是否出现在文本中对其进行惩罚,从而增加模型谈论新主题的可能性。0.0f
spring.ai.deepseek.chat.stop最多 4 个序列,当生成到这些序列时,API 将停止生成进一步的令牌。-
spring.ai.deepseek.chat.temperature要使用的采样温度,范围在 0 到 2 之间。较高的值(如 0.8)会使输出更具随机性,而较低的值(如 0.2)会使输出更加专注和确定。我们通常建议调整此项或 top_p,但不要同时调整两者。1.0F
spring.ai.deepseek.chat.top-p一种替代温度采样的方法,称为核采样(nucleus sampling),其中模型考虑具有 top_p 概率质量的令牌结果。因此 0.1 表示仅考虑构成前 10% 概率质量的令牌。我们通常建议调整此项或 temperature,但不要同时调整两者。1.0F
spring.ai.deepseek.chat.logprobs是否返回输出令牌的日志概率。如果为 true,则返回消息内容中每个输出令牌的日志概率。-
spring.ai.deepseek.chat.top-logprobs0 到 20 之间的整数,指定在每个令牌位置返回的最可能的令牌数量,每个令牌都带有相应的日志概率。如果使用此参数,则必须将 logprobs 设置为 true。-
spring.ai.deepseek.chat.thinking.type控制思考模式与非思考模式之间的切换。当设置为 enabled 时,使用思考模式;当设置为 disabled 时,使用非思考模式。-
spring.ai.deepseek.chat.reasoning-effort控制 DeepSeek 模型的推理努力程度。对于普通请求,默认值为 high;对于复杂的 Agent 风格请求(如 Claude Code, OpenCode),自动使用 max。-
spring.ai.deepseek.chat.tool-callbacks要注册到 ChatModel 的工具回调。-
备注

您可以覆盖 ChatModel 实现中的通用配置项 spring.ai.deepseek.base-url 和 spring.ai.deepseek.api-key。如果设置了 spring.ai.deepseek.chat.base-url 和 spring.ai.deepseek.chat.api-key 属性,它们将优先于通用属性生效。这在希望为不同的模型和不同的模型端点使用不同的 DeepSeek 账户时非常有用。

提示

所有以 spring.ai.deepseek.chat 为前缀的属性,都可以通过在 Prompt 调用中添加请求特定的 运行时选项 在运行时被覆盖。

运行时选项​

DeepSeekChatOptions.java 提供了模型配置,例如要使用的模型、temperature、frequency penalty 等。

启动时,可以通过 DeepSeekChatModel(api, options) 构造函数或 spring.ai.deepseek.chat.* 属性配置默认选项。

在运行时,你可以在 Prompt 调用中添加新的、请求特定的选项,以覆盖默认选项。例如,要为某个特定请求覆盖默认模型和温度:

ChatResponse response = chatModel.call(
new Prompt(
"Generate the names of 5 famous pirates. Please provide the JSON response without any code block markers such as ```json```.",
DeepSeekChatOptions.builder()
.withModel(DeepSeekApi.ChatModel.DEEPSEEK_V4_PRO.getValue())
.withTemperature(0.8f)
.build()
));
提示

除了模型特定的 DeepSeekChatOptions 外,你还可以使用通过 ChatOptions#builder() 创建的便携式 ChatOptions 实例。

示例控制器(自动配置)​

创建一个新的 Spring Boot 项目,并在 pom(或 gradle)依赖中添加 spring-ai-starter-model-deepseek。

在 src/main/resources 目录下添加一个 application.properties 文件,以启用并配置 DeepSeek Chat 模型:

spring.ai.deepseek.api-key=YOUR_API_KEY
spring.ai.deepseek.chat.model=deepseek-v4-pro
spring.ai.deepseek.chat.temperature=0.8
提示

将 api-key 替换为您的 DeepSeek 凭证。

这将创建一个 DeepSeekChatModel 实现,您可以将其注入到您的类中。下面是一个使用聊天模型进行文本生成的简单 @Controller 类示例。

@RestController
public class ChatController {

private final DeepSeekChatModel chatModel;

@Autowired
public ChatController(DeepSeekChatModel chatModel) {
this.chatModel = chatModel;
}

@GetMapping("/ai/generate")
public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", chatModel.call(message));
}

@GetMapping("/ai/generateStream")
public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
var prompt = new Prompt(new UserMessage(message));
return chatModel.stream(prompt);
}
}

工具调用​

DeepSeekChatModel 支持工具调用。模型可以请求执行工具,但本身并不运行工具——Spring AI 负责处理执行过程。

对于大多数应用,使用 ChatClient 搭配自动注册的 ToolCallingAdvisor —— 参见 Tool Calling。对于需要自己驱动循环的低级控制场景,参见 ChatModel Tool Calling。

聊天前缀补全​

聊天前缀补全遵循 Chat Completion API,用户需提供助手的消息前缀,由模型补全剩余内容。

使用前缀补全时,用户必须确保消息列表中的最后一条消息为 DeepSeekAssistantMessage。

以下是一个用于聊天前缀补全的完整 Java 代码示例。在该示例中,我们将助手的前缀消息设置为 "```python\n",以强制模型输出 Python 代码,并将 stop 参数设置为 [‘`’],以防止模型输出额外的解释说明。

@RestController
public class CodeGenerateController {

private final DeepSeekChatModel chatModel;

@Autowired
public ChatController(DeepSeekChatModel chatModel) {
this.chatModel = chatModel;
}

@GetMapping("/ai/generatePythonCode")
public String generate(@RequestParam(value = "message", defaultValue = "Please write quick sort code") String message) {
UserMessage userMessage = new UserMessage(message);
Message assistantMessage = DeepSeekAssistantMessage.builder().content("```python\\n").prefix(true).build();
Prompt prompt = new Prompt(List.of(userMessage, assistantMessage), ChatOptions.builder().stopSequences(List.of("```")).build());
ChatResponse response = chatModel.call(prompt);
return response.getResult().getOutput().getText();
}
}

推理支持​

你可以使用 DeepSeekAssistantMessage 来获取支持该功能的模型生成的 CoT 内容。

public void deepSeekReasoningExample() {
DeepSeekChatOptions promptOptions = DeepSeekChatOptions.builder()
.build();
Prompt prompt = new Prompt("9.11 and 9.8, which is greater?", promptOptions);
ChatResponse response = chatModel.call(prompt);

// Get the CoT content generated by the model
DeepSeekAssistantMessage deepSeekAssistantMessage = (DeepSeekAssistantMessage) response.getResult().getOutput();
String reasoningContent = deepSeekAssistantMessage.getReasoningContent();
String text = deepSeekAssistantMessage.getText();
}

思考模式​

DeepSeek 模型支持在思考模式和非思考模式之间切换。可通过 Thinking 选项来控制思考模式,该选项接受 Thinking.ENABLED(思考模式)或 Thinking.DISABLED(非思考模式)。当禁用思考时,模型不会生成任何推理内容。

public void deepSeekThinkingExample() {
DeepSeekChatOptions promptOptions = DeepSeekChatOptions.builder()
.thinking(Thinking.DISABLED)
.build();
Prompt prompt = new Prompt("9.11 and 9.8, which is greater?", promptOptions);
ChatResponse response = chatModel.call(prompt);

DeepSeekAssistantMessage deepSeekAssistantMessage = (DeepSeekAssistantMessage) response.getResult().getOutput();
// No reasoning content is produced when thinking is disabled
String reasoningContent = deepSeekAssistantMessage.getReasoningContent();
String text = deepSeekAssistantMessage.getText();
}

也可以通过 enableThinking() 和 disableThinking() 构建器便捷方法切换思考模式,或者通过 spring.ai.deepseek.chat.thinking.type 属性进行全局配置。

推理投入​

DeepSeek 模型允许你通过 ReasoningEffort 选项来控制推理努力级别。普通请求的默认值为 ReasoningEffort.HIGH,而复杂 Agent 风格请求(如 Claude Code、OpenCode)会自动使用 ReasoningEffort.MAX。

public void deepSeekReasoningEffortExample() {
DeepSeekChatOptions promptOptions = DeepSeekChatOptions.builder()
.reasoningEffort(ReasoningEffort.MAX)
.build();
Prompt prompt = new Prompt("9.11 and 9.8, which is greater?", promptOptions);
ChatResponse response = chatModel.call(prompt);

DeepSeekAssistantMessage deepSeekAssistantMessage = (DeepSeekAssistantMessage) response.getResult().getOutput();
String reasoningContent = deepSeekAssistantMessage.getReasoningContent();
String text = deepSeekAssistantMessage.getText();
}

还可以通过 reasoningEffortHigh() 和 reasoningEffortMax() 构建器便捷方法设置推理强度,或者通过 spring.ai.deepseek.chat.reasoning-effort 属性进行全局配置。

推理模型多轮对话​

在对话的每一轮中,模型都会输出思维链(reasoning_content)和最终答案(content)。在下一轮对话中,之前轮次的思维链不会被拼接到上下文中,如下面的图示所示:

Multimodal Test Image

手动配置​

DeepSeekChatModel 实现了 ChatModel 和 StreamingChatModel 接口,并使用低级别 DeepSeekApi 客户端 连接 DeepSeek 服务。

在项目的 Maven pom.xml 文件中添加 spring-ai-deepseek 依赖:

<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-deepseek</artifactId>
</dependency>

或到你的 Gradle build.gradle 文件中。

dependencies {
implementation 'org.springframework.ai:spring-ai-deepseek'
}
提示

请参考 依赖管理 章节,将 Spring AI BOM 添加到您的构建文件中。

接下来,创建一个 DeepSeekChatModel 并用于文本生成:

DeepSeekApi deepSeekApi = DeepSeekApi.builder()
.apiKey(System.getenv("DEEPSEEK_API_KEY"))
.build();
DeepSeekChatOptions options = DeepSeekChatOptions.builder()
.model(DeepSeekApi.ChatModel.DEEPSEEK_V4_PRO.getValue())
.temperature(0.4)
.maxTokens(200)
.build();
DeepSeekChatModel chatModel = DeepSeekChatModel.builder()
.deepSeekApi(deepSeekApi)
.options(options)
.build();
ChatResponse response = chatModel.call(
new Prompt("Generate the names of 5 famous pirates."));

// Or with streaming responses
Flux<ChatResponse> streamResponse = chatModel.stream(
new Prompt("Generate the names of 5 famous pirates."));

DeepSeekChatOptions 提供聊天请求的配置信息。DeepSeekChatOptions.Builder 是一个流畅式选项构建器。

Low-level DeepSeekApi 客户端​

DeepSeekApi 是 DeepSeek API 的一个轻量级 Java 客户端。

下面是一个简单的代码片段,展示了如何以编程方式使用该 API:

DeepSeekApi deepSeekApi =
new DeepSeekApi(System.getenv("DEEPSEEK_API_KEY"));

ChatCompletionMessage chatCompletionMessage =
new ChatCompletionMessage("Hello world", Role.USER);

// Sync request
ResponseEntity<ChatCompletion> response = deepSeekApi.chatCompletionEntity(
new ChatCompletionRequest(List.of(chatCompletionMessage), DeepSeekApi.ChatModel.DEEPSEEK_V4_FLASH.getValue(), 0.7, false));

// Streaming request
Flux<ChatCompletionChunk> streamResponse = deepSeekApi.chatCompletionStream(
new ChatCompletionRequest(List.of(chatCompletionMessage), DeepSeekApi.ChatModel.DEEPSEEK_V4_FLASH.getValue(), 0.7, true));

如需更多信息,请查阅 DeepSeekApi.java 的 JavaDoc。

DeepSeekApi 示例​