技术之家

Amazon Bedrock Converse APIAmazon Bedrock Converse API 为对话式 AI 模型提供了统一接口，具备更强的能力，包括函数/工具调用、多模态输入、流式响应等。Bedrock Converse API 主要核心特性如下：工具/函数调用：支持在对话中定义函数并调用工具能力多模态输入：对话中可同时处理文本与图片输入流式支持：支持模型响应实时流式返回系统消息：支持系统级指令与对话上下文设定Bedrock Converse API 为多家模型厂商提供统一接口，同时屏蔽了 AWS 认证与底层基础设施细节。目前 Converse API 支持的模型包括：Amazon Titan、Amazon Nov...

聊天模型 API聊天模型 API 为开发者提供了将 AI 驱动的对话补全能力集成到应用程序中的能力。它利用预训练语言模型（如生成式预训练 Transformer，即 GPT），对用户输入的自然语言生成类人化的响应。该 API 的工作方式通常是：向 AI 模型发送提示词或不完整的对话内容，模型基于其训练数据和对自然语言模式的理解，生成对话的补全内容或续文。生成完成的响应会返回给应用程序，应用程序可将其展示给用户，或用于后续业务处理。Spring AI 聊天模型 API 被设计为一个简洁、可移植的接口，用于对接各类 AI 模型，让开发者只需极少的代码修改即可在不同模型之间切换。这一设计符合 Spring 模块化、可替换的核心设计理念。借...

多模态 API「凡是自然相连的事物，都应当结合起来教授」——约翰·阿莫斯·夸美纽斯，《图画中可见的世界》，1658年人类处理知识时，会同时通过多种数据模态进行。我们的学习方式、人生体验都是多模态的。我们并非只拥有视觉、只拥有听觉，也并非只拥有文本。与这一规律相反，传统机器学习通常专注于针对单一模态设计的专用模型。例如，我们开发用于文本转语音、语音转文本的音频模型，以及用于目标检测、分类任务的计算机视觉模型。但如今，新一代多模态大语言模型开始涌现。典型代表包括 OpenAI 的 GPT-4o、谷歌 Vertex AI Gemini 1.5、Anthropic 的 Claude3，以及开源模型 Llama3.2、LLaVA 和 BakL...

结构化输出转换器大语言模型（LLM）生成结构化输出的能力，对于依赖可靠解析输出值的下游应用至关重要。开发者希望快速将AI模型的返回结果转换为JSON、XML或Java类等数据类型，以便传递给应用的其他函数和方法使用。Spring AI 结构化输出转换器可帮助将LLM输出转换为结构化格式。如下图所示，该方案围绕LLM文本补全接口运行：结构化输出转换器架构使用通用补全API从大语言模型（LLM）生成结构化输出，需要谨慎处理输入和输出。结构化输出转换器在LLM调用前后均发挥关键作用，确保生成符合预期的输出结构。在调用LLM之前，转换器会将格式指令追加到提示词中，为模型提供明确的生成指导。这些指令相当于蓝图，引导模型的响应符合指定格式。随着...

提示词基础提示词是引导AI模型生成特定输出的输入内容。提示词的设计与措辞会极大影响模型的回复结果。在Spring AI与AI模型交互的底层层面，提示词的处理方式和Spring MVC中视图（View）的管理有些相似：都是构建带有占位符的大段文本，再根据用户请求或应用内其他代码动态替换占位符内容。也可以类比为带有表达式占位符的SQL语句。随着Spring AI的迭代演进，会推出更高层级的抽象来简化AI模型交互。本节介绍的基础类，其作用和地位可类比JDBC：ChatModel 类比JDK中核心的JDBC基础库；ChatClient 类比 JdbcClient，基于 ChatModel 构建，通过顾问（Advisor）提供更高级能力，比如...

递归顾问 什么是递归顾问？ 递归顾问是一类特殊的顾问，能够多次循环遍历下游的顾问链。当你需要重复调用大语言模型（LLM）直至满足特定条件时，这种模式非常实用，典型场景包括： 循环执行工具调用，直到无需再调用任何工具 校验结构化输出，若校验失败则重新尝试 实现附带请求修改的评估逻辑 实现附带请求修改的重试逻辑 CallAdvisorChain.copy(CallAdvisor after) 方法是实现递归顾问模式的核心工具。它会创建一个新的顾问链，该子链仅包含原链中指定顾问之后的所有顾问，并允许递归顾问根据需要调用这个子链。这种方案能够保证： 递归顾问可以循环遍历链中...

聊天客户端APIChatClient 提供流式风格API，用于与AI模型进行通信。它同时支持同步编程模型和流式编程模型。请参阅本文档末尾的实现说明，了解在 ChatClient 中命令式编程模型与响应式编程模型的组合使用方式。该流式API提供了构建提示词（Prompt）各组成部分的方法，提示词将作为输入传递给AI模型。提示词包含引导AI模型输出内容与行为的指令文本。从API视角来看，提示词由一组消息集合构成。AI模型主要处理两类消息：用户消息（来自用户的直接输入）和系统消息（由系统生成，用于引导对话流程）。这些消息通常包含占位符，程序运行时会根据用户输入替换占位符内容，从而定制AI模型对用户输入的响应结果。同时还可配置提示词相关选项...

模型AI 模型是一类用于处理和生成信息的算法，通常能够模拟人类的认知能力。这类模型通过从海量数据集中学习规律与内在信息，可完成预测、生成文本、图像及其他形式输出，赋能各行各业的各类应用。AI 模型种类繁多，每种都适用于特定业务场景。ChatGPT 凭借生成式 AI 能力，以文本输入输出形式收获大量用户；除此之外，还有众多模型与厂商支持多样化的输入输出形式。在 ChatGPT 走红之前，文生图模型（如 Midjourney、Stable Diffusion）就已备受关注。下表按输入、输出类型对常见模型进行了分类：模型类型Spring AI 目前支持文本、图像、音频作为输入和输出的各类模型。上表最后一类「文本输入、数字输出」的模型，即大...

Spring博客更新了《Spring AI智能体模式》系列的第七篇，Spring AI 全新会话 API支持结构化、可压缩、支持多智能体，将用来替代版聊天内存（ChatMemory），下面是Spring AI会话API的主要内容。此前系列文章已讲解智能体能力、用户提问工具、待办编辑工具、子智能体编排、智能体互联集成以及跨会话长期记忆自动化工具；本文将补充配套的短期记忆能力：Spring AI 会话。 将对话历史以纯消息列表存储，仅适用于简短对话，一旦会话内容增多便会出现问题：简单的截断机制会在工具调用流程中途静默丢弃数据，导致大模型收到孤立的返回结果、对话轮次结构错乱。 Spring AI 会话可自动记录交互过程中的所有消息、工...