Perplexity Chat
Perplexity AI 提供了一种独特的 AI 服务,将其语言模型与实时搜索能力相结合。它提供多种模型,并支持用于对话式 AI 的流式响应。
Spring AI 通过复用现有的 OpenAI 客户端与 Perplexity AI 进行集成。要开始使用,您需要获取 Perplexity API Key,配置 base URL,并选择其中一个受支持的 models。

Perplexity API 并未完全兼容 OpenAI API。Perplexity 将实时网络搜索结果与其语言模型响应相结合。与 OpenAI 不同,Perplexity 未暴露 toolCalls - function call 机制。此外,目前 Perplexity 尚不支持多模态消息。
请查看 PerplexityWithOpenAiChatModelIT.java 中的测试用例,以了解在 Spring AI 中使用 Perplexity 的示例。
先决条件
您可以在 application.properties 文件中设置以下配置属性:
spring.ai.openai.api-key=<your-perplexity-api-key>
spring.ai.openai.base-url=https://api.perplexity.ai
spring.ai.openai.chat.model=llama-3.1-sonar-small-128k-online
在处理敏感信息(如 API 密钥)时,为了实现更高的安全性,可以使用 Spring 表达式语言 (SpEL) 引用自定义环境变量:
# In application.yml
spring:
ai:
openai:
api-key: ${PERPLEXITY_API_KEY}
base-url: ${PERPLEXITY_BASE_URL}
chat:
model: ${PERPLEXITY_MODEL}
# In your environment or .env file
export PERPLEXITY_API_KEY=<your-perplexity-api-key>
export PERPLEXITY_BASE_URL=https://api.perplexity.ai
export PERPLEXITY_MODEL=llama-3.1-sonar-small-128k-online
也可以在应用代码中以编程方式设置这些配置:
// Retrieve configuration from secure sources or environment variables
String apiKey = System.getenv("PERPLEXITY_API_KEY");
String baseUrl = System.getenv("PERPLEXITY_BASE_URL");
String model = System.getenv("PERPLEXITY_MODEL");
添加仓库和 BOM
Spring AI 构件发布在 Maven Central 和 Spring Snapshot 仓库中。请将相关仓库添加到你的构建系统中,具体参见 Artifact Repositories 部分。
为了协助依赖管理,Spring AI 提供了一个 BOM(物料清单),以确保在整个项目中一致地 Spring AI 版本。请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建系统中。
自动配置
Spring AI 自动配置和 starter 模块的 artifact 名称发生了重大变化。详情请参见升级说明。
Spring AI 为 OpenAI Chat Client 提供了 Spring Boot 自动配置功能。要启用该功能,请将以下依赖项添加到项目的 Maven pom.xml 或 Gradle build.gradle 构建文件中:
- Maven
- Gradle
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-openai</artifactId>
</dependency>
dependencies {
implementation 'org.springframework.ai:spring-ai-starter-model-openai'
}
请参考 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。
聊天属性
重试属性
前缀 spring.ai.retry 用作属性前缀,用于配置 OpenAI 聊天模型的 重试机制。
| 属性 | 描述 | 默认值 |
|---|---|---|
| spring.ai.retry.max-attempts | 最大重试次数。 | 10 |
| spring.ai.retry.backoff.initial-interval | 指数退避策略的初始休眠时长。 | 2 sec. |
| spring.ai.retry.backoff.multiplier | 退避间隔乘数。 | 5 |
| spring.ai.retry.backoff.max-interval | 最大退避时长。 | 3 min. |
| spring.ai.retry.on-client-errors | 如果为 false,则抛出 NonTransientAiException,且不针对 4xx 客户端错误码尝试重试 | false |
| spring.ai.retry.exclude-on-http-codes | 不应触发重试的 HTTP 状态码列表(例如,用于抛出 NonTransientAiException)。 | empty |
| spring.ai.retry.on-http-codes | 应触发重试的 HTTP 状态码列表(例如,用于抛出 TransientAiException)。 | empty |
连接属性
spring.ai.openai 前缀用作属性前缀,用于连接 OpenAI。
| 属性 | 描述 | 默认值 |
|---|---|---|
| spring.ai.openai.base-url | 连接使用的 URL。必须设置为 https://api.perplexity.ai | - |
| spring.ai.openai.chat.api-key | 您的 Perplexity API Key | - |
配置属性
启用和禁用聊天自动配置功能现在通过前缀为 spring.ai.model.chat 的顶级属性进行配置。
要启用,设置 spring.ai.model.chat=openai(默认已启用)
要禁用,设置 spring.ai.model.chat=none(或任何不等于 openai 的值)
此更改旨在支持多模型配置。
前缀 spring.ai.openai.chat 是一个属性前缀,用于配置 OpenAI 的 chat model 实现。
| 属性 | 描述 | 默认值 |
|---|---|---|
| spring.ai.model.chat | 启用 OpenAI 聊天模型。 | openai |
| spring.ai.openai.chat.model | 支持的 Perplexity 模型 之一。示例:llama-3.1-sonar-small-128k-online。 | - |
| spring.ai.openai.chat.base-url | 可选,覆盖 spring.ai.openai.base-url 以提供聊天专用的 URL。必须设置为 https://api.perplexity.ai。 | - |
| spring.ai.openai.chat.temperature | 响应中的随机程度,取值范围为左闭右开区间 [0, 2)。值越高越随机,值越低越确定。必需范围:0 < x < 2。 | 0.2 |
| spring.ai.openai.chat.frequency-penalty | 一个大于 0 的乘数惩罚。大于 1.0 的值会根据新标记在文本中出现的频率对其进行惩罚,从而降低模型逐字重复同一行的可能性。1.0 表示无惩罚。与 presence_penalty 不兼容。必需范围:x > 0。 | 1 |
| spring.ai.openai.chat.max-tokens | API 返回的最大补全标记数量。在 max_tokens 中请求的标记总数加上在消息中发送的提示标记数量不得超过所请求模型的上下文窗口标记限制。如果未指定,模型将生成标记,直到达到停止标记或上下文窗口的末尾。 | - |
| spring.ai.openai.chat.presence-penalty | 一个介于 -2.0 和 2.0 之间的值。正值会根据新标记是否已出现在文本中对其进行惩罚,从而增加模型讨论新话题的可能性。与 frequency_penalty 不兼容。必需范围:-2 < x < 2。 | 0 |
| spring.ai.openai.chat.top-p | 核采样阈值,取值范围为闭区间 [0, 1]。对于每个后续标记,模型会考虑具有 top_p 概率质量的标记结果。建议只更改 top_k 或 top_p 之一,不要同时更改。必需范围:0 < x < 1。 | 0.9 |
| spring.ai.openai.chat.stream-usage | (仅限流式传输)设置为 true 可添加一个包含整个请求标记使用统计信息的额外块。该块的 choices 字段为空数组,所有其他块也将包含 usage 字段,但其值为 null。 | false |
所有以 spring.ai.openai.chat 为前缀的属性,都可以通过在 Prompt 调用中添加针对特定请求的 Runtime Options 在运行时覆盖。
运行时选项
OpenAiChatOptions.java 提供了模型配置,例如要使用的模型、temperature、frequency penalty 等。
启动时,可以通过 OpenAiChatModel(api, options) 构造函数或 spring.ai.openai.chat.* 属性来配置默认选项。
在运行时,你可以通过在 Prompt 调用中添加新的、与请求相关的选项来覆盖默认选项。例如,针对特定请求覆盖默认的模型和温度:
ChatResponse response = chatModel.call(
new Prompt(
"Generate the names of 5 famous pirates.",
OpenAiChatOptions.builder()
.model("llama-3.1-sonar-large-128k-online")
.temperature(0.4)
.build()
));
除了模型特定的 OpenAiChatOptions,您还可以使用通过 ChatOptions#builder() 创建的便携式 ChatOptions 实例。
工具调用
Perplexity 不支持显式的工具调用。相反,它会将搜索结果直接集成到响应中。有关 Spring AI 通用的工具调用架构,请参阅 Tool Calling。
多模态
目前,Perplexity API 尚不支持媒体内容。
示例控制器
创建 一个新的 Spring Boot 项目,并将 spring-ai-starter-model-openai 添加到您的 pom(或 gradle)依赖项中。
在 src/main/resources 目录下添加一个 application.properties 文件,以启用并配置 OpenAi 聊天模型:
spring.ai.openai.api-key=<PERPLEXITY_API_KEY>
spring.ai.openai.base-url=https://api.perplexity.ai
spring.ai.openai.chat.model=llama-3.1-sonar-small-128k-online
spring.ai.openai.chat.temperature=0.7
# The Perplexity API doesn't support embeddings, so we need to disable it.
spring.ai.model.embedding=none
请将 api-key 替换为您的 Perplexity Api key。
这将创建一个 OpenAiChatModel 实现,您可以将其注入到您的类中。下面是一个简单的 @Controller 类示例,该类使用聊天模型进行文本生成。
@RestController
public class ChatController {
private final OpenAiChatModel chatModel;
@Autowired
public ChatController(OpenAiChatModel chatModel) {
this.chatModel = chatModel;
}
@GetMapping("/ai/generate")
public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", this.chatModel.call(message));
}
@GetMapping("/ai/generateStream")
public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
Prompt prompt = new Prompt(new UserMessage(message));
return this.chatModel.stream(prompt);
}
}
支持的模型
Perplexity 支持多个针对增强搜索对话 AI 进行优化的模型。有关详细信息,请参阅 受支持的模型。