【Spring AI】01. 聊天 API

聊天 API

聊天 API 允许开发人员将 AI 驱动的聊天功能整合到其应用程序中。它利用预训练的语言模型，如 GPT（生成式预训练转换器），以自然语言根据用户输入生成类似人类的响应。
API 通常通过向 AI 模型发送提示词或部分对话来工作，AI 模型会根据其训练数据和自然语言理解，生成或继续对话的完整内容。然后，完成的响应将返回给应用程序，应用程序可以将其呈现给用户或将其用于进一步处理。
它被Spring AI Chat Completion API设计成一个简单且可移植的接口，用于与各种 AI 模型进行交互，允许开发人员以最少的代码在不同模型之间切换。这种设计符合Spring的模块化和可互换性理念。
此外，在 输入封装 和ChatResponse输出处理 等Prompt配套类 的帮助下，聊天 API 统一了与 AI 模型的通信。它管理 请求预处理 和 响应解析 的复杂性，提供直接和简化的 API 交互。

API 概览

本节提供 Spring AI 聊天 API 接口和相关类的指南。

ChatClient

以下是 ChatClient 接口定义：

public interface ChatClient extends ModelClient<Prompt, ChatResponse> {
   
   

	default String call(String message) {
   
   // implementation omitted
	}

    @Override
	ChatResponse call(Prompt prompt);
}

带有 String 参数 default call 方法简化了使用，避免了 Prompt 类的 ChatResponse 复杂性。在实际应用程序中，更常见的是使用复写的 call 方法，接受 Prompt 实例并返回 ChatResponse

StreamingChatClient

下面是 StreamingChatClient 接口定义：

public interface StreamingChatClient extends StreamingModelClient<Prompt, ChatResponse> {
   
   
    @Override
	Flux<ChatResponse> stream