收藏本站,收获最前沿的人工智能与编程资讯!!

Spring AI 使用智谱AI 嵌入模型

技术文档 14℃ 0

Spring AI 支持智谱AI的文本嵌入模型。智谱AI文本嵌入用于衡量文本字符串的相关性。嵌入是一个由浮点数组成的向量(列表),两个向量之间的距离可衡量它们的相关性:距离越小,相关性越高;距离越大,相关性越低。

前提条件

你需要创建智谱AI API 密钥才能访问智谱AI大语言模型。

在智谱AI注册页面创建账号,并在 API 密钥页面生成令牌。

Spring AI 项目定义了一个名为 spring.ai.zhipuai.api-key 的配置属性,你需要将其设置为从 API 密钥页面获取的 API 密钥值。

你可以在 application.properties 文件中设置该配置属性:

spring.ai.zhipuai.api-key=<your-zhipuai-api-key>

为了在处理 API 密钥等敏感信息时提升安全性,你可以使用 Spring 表达式语言(SpEL)引用环境变量:

# 在 application.yml 文件中
spring:
  ai:
    zhipuai:
      api-key: ${ZHIPUAI_API_KEY}
# 在环境变量或 .env 文件中
export ZHIPUAI_API_KEY=<your-zhipuai-api-key>

你也可以在应用代码中通过编程方式设置该配置:

// 从安全来源或环境变量中获取 API 密钥
String apiKey = System.getenv("ZHIPUAI_API_KEY");

添加仓库和物料清单(BOM)

Spring AI 构件发布在 Maven 中央仓库和 Spring 快照仓库中。参考构件仓库章节,将这些仓库添加到你的构建系统中。

为了简化依赖管理,Spring AI 提供了物料清单(BOM),确保整个项目使用一致版本的 Spring AI。参考依赖管理章节,将 Spring AI BOM 添加到你的构建系统中。

自动配置

Spring AI 自动配置、启动器模块的构件名称发生了重大变更。更多信息请参考升级说明。

Spring AI 为智谱AI嵌入模型提供了 Spring Boot 自动配置。如需启用该功能,请在项目的 Maven pom.xml 文件中添加以下依赖:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-zhipuai</artifactId>
</dependency>

或在 Gradle 的 build.gradle 构建文件中添加:

dependencies {
    implementation 'org.springframework.ai:spring-ai-starter-model-zhipuai'
}

参考依赖管理章节,将 Spring AI BOM 添加到你的构建文件中。

嵌入模型属性

重试属性

以 spring.ai.retry 为前缀的属性,用于配置智谱AI嵌入模型的重试机制。

属性描述默认值
spring.ai.retry.max-attempts最大重试次数10
spring.ai.retry.backoff.initial-interval指数退避策略的初始休眠时长2秒
spring.ai.retry.backoff.multiplier退避间隔乘数5
spring.ai.retry.backoff.max-interval最大退避时长3分钟
spring.ai.retry.on-client-errors若为 false,抛出 NonTransientAiException 异常,且不会对 4xx 客户端错误码进行重试false
spring.ai.retry.exclude-on-http-codes不会触发重试的 HTTP 状态码列表(例如抛出 NonTransientAiException)
spring.ai.retry.on-http-codes会触发重试的 HTTP 状态码列表(例如抛出 TransientAiException)

连接属性

以 spring.ai.zhipuai 为前缀的属性,用于配置与智谱AI的连接。

属性描述默认值
spring.ai.zhipuai.base-url连接地址open.bigmodel.cn/api/paas
spring.ai.zhipuai.api-keyAPI 密钥-

配置属性

嵌入模型自动配置的启用与禁用,现在通过以 spring.ai.model.embedding 为前缀的顶级属性进行配置。

启用配置:spring.ai.model.embedding=zhipuai(默认已启用)

禁用配置:spring.ai.model.embedding=none(或任何不等于 zhipuai 的值)

该变更用于支持多模型配置。

以 spring.ai.zhipuai.embedding 为前缀的属性,用于配置智谱AI的 EmbeddingModel 实现类。

属性描述默认值
spring.ai.zhipuai.embedding.enabled (已移除,不再生效)启用智谱AI嵌入模型true
spring.ai.model.embedding启用智谱AI嵌入模型zhipuai
spring.ai.zhipuai.embedding.base-url可选,覆盖 spring.ai.zhipuai.base-url,提供嵌入模型专用地址-
spring.ai.zhipuai.embedding.api-key可选,覆盖 spring.ai.zhipuai.api-key,提供嵌入模型专用密钥-
spring.ai.zhipuai.embedding.options.model使用的模型embedding-2
spring.ai.zhipuai.embedding.options.dimensions向量维度,当模型为 embedding-3 时,默认值为 2048-

你可以为 ChatModel 和 EmbeddingModel 实现类覆盖通用的 spring.ai.zhipuai.base-url 和 spring.ai.zhipuai.api-key 配置。若设置了 spring.ai.zhipuai.embedding.base-url 和 spring.ai.zhipuai.embedding.api-key,优先级将高于通用属性;同理,spring.ai.zhipuai.chat.base-url 和 spring.ai.zhipuai.chat.api-key 优先级也高于通用属性。当你需要为不同模型、不同模型端点使用不同智谱AI账号时,该配置非常实用。

所有以 spring.ai.zhipuai.embedding.options 为前缀的属性,都可以在运行时通过向 EmbeddingRequest 请求添加特定的运行时选项进行覆盖。

运行时选项

ZhiPuAiEmbeddingOptions.java 提供了智谱AI配置项,例如使用的模型等。

默认选项也可以通过 spring.ai.zhipuai.embedding.options 属性进行配置。

启动时,可通过 ZhiPuAiEmbeddingModel 构造方法设置所有嵌入请求的默认选项。运行时,你可以在 EmbeddingRequest 中使用 ZhiPuAiEmbeddingOptions 实例覆盖默认选项。

例如,为特定请求覆盖默认模型名称:

EmbeddingResponse embeddingResponse = embeddingModel.call(
    new EmbeddingRequest(List.of("Hello World", "World is big and salvation is near"),
        ZhiPuAiEmbeddingOptions.builder()
            .model("Different-Embedding-Model-Deployment-Name")
        .build()));

示例控制器

配置完成后会创建 EmbeddingModel 实现类,你可以将其注入到自定义类中。以下是一个使用 EmbeddingModel 的简单 @Controller 示例。

spring.ai.zhipuai.api-key=YOUR_API_KEY
spring.ai.zhipuai.embedding.options.model=embedding-2
@RestController
public class EmbeddingController {

    private final EmbeddingModel embeddingModel;

    @Autowired
    public EmbeddingController(EmbeddingModel embeddingModel) {
        this.embeddingModel = embeddingModel;
    }

    @GetMapping("/ai/embedding")
    public Map embed(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        EmbeddingResponse embeddingResponse = this.embeddingModel.embedForResponse(List.of(message));
        return Map.of("embedding", embeddingResponse);
    }
}

手动配置

如果你不使用 Spring Boot,可以手动配置智谱AI嵌入模型。为此,请在项目的 Maven pom.xml 文件中添加 spring-ai-zhipuai 依赖:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-zhipuai</artifactId>
</dependency>

或在 Gradle 的 build.gradle 构建文件中添加:

dependencies {
    implementation 'org.springframework.ai:spring-ai-zhipuai'
}

参考依赖管理章节,将 Spring AI BOM 添加到你的构建文件中。

spring-ai-zhipuai 依赖同时提供了 ZhiPuAiChatModel 的访问能力。关于 ZhiPuAiChatModel 的更多信息,参考智谱AI聊天客户端章节。

接下来,创建 ZhiPuAiEmbeddingModel 实例,并使用它计算两个输入文本的相似度:

var zhiPuAiApi = new ZhiPuAiApi(System.getenv("ZHIPUAI_API_KEY"));

var embeddingModel = new ZhiPuAiEmbeddingModel(api, MetadataMode.EMBED,
				ZhiPuAiEmbeddingOptions.builder()
						.model("embedding-3")
						.dimensions(1536)
						.build());

EmbeddingResponse embeddingResponse = this.embeddingModel
	.embedForResponse(List.of("Hello World", "World is big and salvation is near"));

ZhiPuAiEmbeddingOptions 提供了嵌入请求的配置信息。选项类提供了 builder() 方法,方便创建配置选项。

相关推荐