跳到主要内容
版本:2.0.1

Perplexity Chat

QWen 3.8 中英对照 Perplexity AI Perplexity Chat

Perplexity AI 提供了一种独特的 AI 服务,将其语言模型与实时搜索能力相结合。它提供多种模型,并支持用于对话式 AI 的流式响应。

Spring AI 通过复用现有的 OpenAI 客户端与 Perplexity AI 进行集成。要开始使用,您需要获取 Perplexity API Key,配置 base URL,并选择其中一个受支持的 models。

spring ai perplexity integration

备注

Perplexity API 并未完全兼容 OpenAI API。Perplexity 将实时网络搜索结果与其语言模型响应相结合。与 OpenAI 不同,Perplexity 未暴露 toolCalls - function call 机制。此外,目前 Perplexity 尚不支持多模态消息。

请查看 PerplexityWithOpenAiChatModelIT.java 中的测试用例,以了解在 Spring AI 中使用 Perplexity 的示例。

先决条件​

  • 创建 API 密钥:访问 此处 以创建 API 密钥。在您的 Spring AI 项目中,使用 spring.ai.openai.api-key 属性进行配置。

  • 设置 Perplexity 基础 URL:将 spring.ai.openai.base-url 属性设置为 https://api.perplexity.ai。

  • 选择 Perplexity 模型:使用 spring.ai.openai.chat.model=<模型名称> 属性来指定模型。有关可用选项,请参阅 支持的模型。

您可以在 application.properties 文件中设置以下配置属性:

spring.ai.openai.api-key=<your-perplexity-api-key>
spring.ai.openai.base-url=https://api.perplexity.ai
spring.ai.openai.chat.model=llama-3.1-sonar-small-128k-online

在处理敏感信息(如 API 密钥)时,为了实现更高的安全性,可以使用 Spring 表达式语言 (SpEL) 引用自定义环境变量:

# In application.yml
spring:
ai:
openai:
api-key: ${PERPLEXITY_API_KEY}
base-url: ${PERPLEXITY_BASE_URL}
chat:
model: ${PERPLEXITY_MODEL}
# In your environment or .env file
export PERPLEXITY_API_KEY=<your-perplexity-api-key>
export PERPLEXITY_BASE_URL=https://api.perplexity.ai
export PERPLEXITY_MODEL=llama-3.1-sonar-small-128k-online

也可以在应用代码中以编程方式设置这些配置:

// Retrieve configuration from secure sources or environment variables
String apiKey = System.getenv("PERPLEXITY_API_KEY");
String baseUrl = System.getenv("PERPLEXITY_BASE_URL");
String model = System.getenv("PERPLEXITY_MODEL");

添加仓库和 BOM​

Spring AI 构件发布在 Maven Central 和 Spring Snapshot 仓库中。请将相关仓库添加到你的构建系统中,具体参见 Artifact Repositories 部分。

为了协助依赖管理,Spring AI 提供了一个 BOM(物料清单),以确保在整个项目中一致地 Spring AI 版本。请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建系统中。

自动配置​

备注

Spring AI 自动配置和 starter 模块的 artifact 名称发生了重大变化。详情请参见升级说明。

Spring AI 为 OpenAI Chat Client 提供了 Spring Boot 自动配置功能。要启用该功能,请将以下依赖项添加到项目的 Maven pom.xml 或 Gradle build.gradle 构建文件中:

<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-openai</artifactId>
</dependency>
提示

请参考 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。

聊天属性​

重试属性​

前缀 spring.ai.retry 用作属性前缀,用于配置 OpenAI 聊天模型的 重试机制。

属性描述默认值
spring.ai.retry.max-attempts最大重试次数。10
spring.ai.retry.backoff.initial-interval指数退避策略的初始休眠时长。2 sec.
spring.ai.retry.backoff.multiplier退避间隔乘数。5
spring.ai.retry.backoff.max-interval最大退避时长。3 min.
spring.ai.retry.on-client-errors如果为 false,则抛出 NonTransientAiException,且不针对 4xx 客户端错误码尝试重试false
spring.ai.retry.exclude-on-http-codes不应触发重试的 HTTP 状态码列表(例如,用于抛出 NonTransientAiException)。empty
spring.ai.retry.on-http-codes应触发重试的 HTTP 状态码列表(例如,用于抛出 TransientAiException)。empty

连接属性​

spring.ai.openai 前缀用作属性前缀,用于连接 OpenAI。

属性描述默认值
spring.ai.openai.base-url连接使用的 URL。必须设置为 https://api.perplexity.ai-
spring.ai.openai.chat.api-key您的 Perplexity API Key-

配置属性​

备注

启用和禁用聊天自动配置功能现在通过前缀为 spring.ai.model.chat 的顶级属性进行配置。

要启用,设置 spring.ai.model.chat=openai(默认已启用)

要禁用,设置 spring.ai.model.chat=none(或任何不等于 openai 的值)

此更改旨在支持多模型配置。

前缀 spring.ai.openai.chat 是一个属性前缀,用于配置 OpenAI 的 chat model 实现。

属性描述默认值
spring.ai.model.chat启用 OpenAI 聊天模型。openai
spring.ai.openai.chat.model支持的 Perplexity 模型 之一。示例:llama-3.1-sonar-small-128k-online。-
spring.ai.openai.chat.base-url可选,覆盖 spring.ai.openai.base-url 以提供聊天专用的 URL。必须设置为 https://api.perplexity.ai。-
spring.ai.openai.chat.temperature响应中的随机程度,取值范围为左闭右开区间 [0, 2)。值越高越随机,值越低越确定。必需范围:0 < x < 2。0.2
spring.ai.openai.chat.frequency-penalty一个大于 0 的乘数惩罚。大于 1.0 的值会根据新标记在文本中出现的频率对其进行惩罚,从而降低模型逐字重复同一行的可能性。1.0 表示无惩罚。与 presence_penalty 不兼容。必需范围:x > 0。1
spring.ai.openai.chat.max-tokensAPI 返回的最大补全标记数量。在 max_tokens 中请求的标记总数加上在消息中发送的提示标记数量不得超过所请求模型的上下文窗口标记限制。如果未指定,模型将生成标记,直到达到停止标记或上下文窗口的末尾。-
spring.ai.openai.chat.presence-penalty一个介于 -2.0 和 2.0 之间的值。正值会根据新标记是否已出现在文本中对其进行惩罚,从而增加模型讨论新话题的可能性。与 frequency_penalty 不兼容。必需范围:-2 < x < 2。0
spring.ai.openai.chat.top-p核采样阈值,取值范围为闭区间 [0, 1]。对于每个后续标记,模型会考虑具有 top_p 概率质量的标记结果。建议只更改 top_k 或 top_p 之一,不要同时更改。必需范围:0 < x < 1。0.9
spring.ai.openai.chat.stream-usage(仅限流式传输)设置为 true 可添加一个包含整个请求标记使用统计信息的额外块。该块的 choices 字段为空数组,所有其他块也将包含 usage 字段,但其值为 null。false
提示

所有以 spring.ai.openai.chat 为前缀的属性,都可以通过在 Prompt 调用中添加针对特定请求的 Runtime Options 在运行时覆盖。

运行时选项​

OpenAiChatOptions.java 提供了模型配置,例如要使用的模型、temperature、frequency penalty 等。

启动时,可以通过 OpenAiChatModel(api, options) 构造函数或 spring.ai.openai.chat.* 属性来配置默认选项。

在运行时,你可以通过在 Prompt 调用中添加新的、与请求相关的选项来覆盖默认选项。例如,针对特定请求覆盖默认的模型和温度:

ChatResponse response = chatModel.call(
new Prompt(
"Generate the names of 5 famous pirates.",
OpenAiChatOptions.builder()
.model("llama-3.1-sonar-large-128k-online")
.temperature(0.4)
.build()
));
提示

除了模型特定的 OpenAiChatOptions,您还可以使用通过 ChatOptions#builder() 创建的便携式 ChatOptions 实例。

工具调用​

备注

Perplexity 不支持显式的工具调用。相反,它会将搜索结果直接集成到响应中。有关 Spring AI 通用的工具调用架构,请参阅 Tool Calling。

多模态​

备注

目前,Perplexity API 尚不支持媒体内容。

示例控制器​

创建 一个新的 Spring Boot 项目,并将 spring-ai-starter-model-openai 添加到您的 pom(或 gradle)依赖项中。

在 src/main/resources 目录下添加一个 application.properties 文件,以启用并配置 OpenAi 聊天模型:

spring.ai.openai.api-key=<PERPLEXITY_API_KEY>
spring.ai.openai.base-url=https://api.perplexity.ai
spring.ai.openai.chat.model=llama-3.1-sonar-small-128k-online
spring.ai.openai.chat.temperature=0.7

# The Perplexity API doesn't support embeddings, so we need to disable it.
spring.ai.model.embedding=none
提示

请将 api-key 替换为您的 Perplexity Api key。

这将创建一个 OpenAiChatModel 实现,您可以将其注入到您的类中。下面是一个简单的 @Controller 类示例,该类使用聊天模型进行文本生成。

@RestController
public class ChatController {

private final OpenAiChatModel chatModel;

@Autowired
public ChatController(OpenAiChatModel chatModel) {
this.chatModel = chatModel;
}

@GetMapping("/ai/generate")
public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", this.chatModel.call(message));
}

@GetMapping("/ai/generateStream")
public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
Prompt prompt = new Prompt(new UserMessage(message));
return this.chatModel.stream(prompt);
}
}

支持的模型​

Perplexity 支持多个针对增强搜索对话 AI 进行优化的模型。有关详细信息,请参阅 受支持的模型。

参考资料​