Redis Copilot：基于用于 AI 的 Redis 构建

我们最近发布了 Redis Copilot，以帮助开发者更快地使用 Redis 进行构建。我们的使命是让应用变得快速，让构建变得简单。为此，Redis Copilot 是您的 AI 助手，可帮助您更快地完成使用 Redis 的任务。您今天就可以在Redis Insight 中开始使用它。

Redis Copilot 帮助您使用 Redis 进行构建，以便您能够

通过 Copilot 关于 Redis 文档的最新知识获取准确答案
生成代码片段，帮助您更快地使用 Redis 开发应用
通过在 Redis 中生成和执行查询来回答关于您数据的问题

Copilot 利用了用于 AI 的 Redis 的能力构建

Redis 让应用变得快速。我们在构建 Copilot 时就知道，它需要提供快速、准确的答案，并能在全球范围内扩展。因此，我们使用 Redis 构建了它，以提供开发者期望从 Redis 支持的应用中获得的出色用户体验。我们提供了许多专门用于构建 AI 应用的组件，且功能强大。许多客户询问我们如何在他们的 AI 应用中最好地使用 Redis，因此在此，我们将详细介绍如何使用 Redis 让您的应用快速高效。

最快的向量数据库赋能 RAG，提供更优答案

RAG 方法于 2020 年由 Meta 提出，它允许 LLMs（大型语言模型）通过检索机制整合外部知识源，利用最新信息扩展能力。这种方法使得语言模型能够实时提供更好的答案。

RAG 已被证明非常有效，但它需要仔细的提示工程、及时的知识管理以及不同组件的协调。作为实时的向量数据库，Redis 能够实时搜索数百万个嵌入向量，以确保根据用户提示提供并嵌入相关的上下文信息。

Redis Copilot 使用 RAG 和我们的向量数据库从我们的文档中检索相关信息，以帮助回答您的问题。根据我们的基准测试，它是可用的最快向量数据库，借助 RAG，我们能够使用最新版本的文档——因此您总是能获得关于 Redis 的最新答案。

LLM 内存使响应更具相关性

Redis 通过使用首选数据类型来促进保留完整的对话历史（内存）。无论是使用简单的列表来保留交互的顺序，还是将交互存储为向量嵌入，在使用 Redis Copilot 时，我们都能为您提高交互质量和定制化水平。当 Redis Copilot 调用 LLM 时，它会从您的对话中添加相关的内存，以提供更好的响应。此功能使得对话主题之间过渡流畅，并减少误解。

语义缓存节省成本并加快响应速度

从 LLMs 生成响应可能会带来很多计算开销。Redis 通过将输入提示和响应存储在缓存中并通过向量搜索检索它们，从而降低了与 ML 驱动应用相关的总体开销。

此图总结了用户与 Redis Copilot 交互的流程

Redis 的功能远不止于此

虽然生成式 AI 模型是令人兴奋的创新，但构建并将生成式 AI 应用部署到生产环境需要快速可靠的数据。Redis 是经过验证的平台，可为当今各种不同用例的应用提供许多关键功能。

将响应存储在索引中以实现快速检索和附加处理

从请求到完成的答案，LLM 将结果流式传输回用户可能需要几秒钟。我们选择将回复流式传输给用户，以提高响应速度并缩短等待时间，而不是在整个响应完成后再返回。我们还在对话气泡中嵌入了来自 Redis 数据库中语义搜索的额外上下文。

对于 LLM，我们选择了 OpenAI 的 GPT-4o，因为它可靠且快速。然而，虽然 OpenAI 为对话代理和嵌入模型提供了出色的 AIaaS 功能，但我们使用本地嵌入模型来计算向量嵌入。具体而言，我们使用 HuggingFace 嵌入模型来进行语义缓存中现有答案的语义检索。

全文和分面搜索有助于浏览文档以获得特定结果

虽然最新的趋势是语义搜索，并且传统的搜索可以通过这些新的 AI/ML 能力重新解释，但全文搜索是通过匹配词语或短语检索信息的不可替代的资产。Redis Copilot 中提供了 Redis 实时全文搜索，以补充对话体验。Redis 的高亮显示和摘要功能也满足了用户对快速、可读结果的需求。

最后但同样重要的是，聚合功能也非常重要，它可以帮助用户查看 Redis 检索到的结果数量，并确定某个特定搜索的受欢迎程度。

Redis 被用作微服务之间的消息代理

通过将读取文档的任务分配给一个独立的服务，可以指示 Redis Copilot 使用 Redis 通过 RAG 获取上下文信息。

这种微服务架构有效地将更庞大的单体系统的职责拆分为更小、松耦合的微服务。Redis stream——一种持久的、按时间顺序排列的日志数据结构，为消费者提供异步、可订阅的消息——将数据库维护与最新信息同步。操作由相应的服务通过存储在 stream 中的消息触发和调用，stream 被用作消息代理。

速率限制使应用稳定可靠

Redis Copilot 是搜索文档、我们的知识库以及 Redis 门户中所有培训机会的主要入口点。但保护关键端点免受过载是所有公共服务的必要措施，因为所有互联网服务都面临滥用和分布式拒绝服务 (DDoS) 等攻击。长期以来，Redis 一直被用作应用服务器、API 网关等的速率限制器。我们使用 Redis 作为我们的速率限制器，以确保 Redis Copilot 稳定，并且使用量在不同会话和 IP 之间保持平衡。Redis 测量并检查使用量。当使用量超过预设阈值时，Redis 就会介入以防止滥用。

立即开始使用 Copilot

您今天就可以在 Redis Insight 中使用 Redis Copilot。只需下载 Redis Insight，使用您的云账户登录，然后开始构建。

如果您想构建自己的 AI 应用，我们提供了各种 AI 资源，包括我们的 RedisVL 库，以帮助您快速构建 AI 应用。您可以从我们的示例仓库 Minipilot 入手，它是 Redis Copilot 的精简版本。

要与代表讨论 Redis 如何帮助您构建 AI 应用，请与我们预约会议。