LLM 智能体

考虑一个旨在帮助金融分析师回答关于公司绩效的问题的大型语言模型（LLM）应用程序。通过一个设计良好的检索增强生成（RAG）管道，分析师可以回答类似于：“X公司2022财年的总收入是多少？”这样的问题。这些信息可以由经验丰富的分析师轻松地从财务报表中提取。

现在考虑一个问题，比如，“从2023财年第二季度的盈利电话会议中得出的三个要点是什么？重点关注公司正在构建的技术壁垒”。这是金融分析师想要回答以纳入其报告中的类型问题，但需要投入时间来回答。

我们如何开发一个解决方案来回答类似上述问题？很明显，这种信息需要更多的工作，而不仅仅是从盈利电话会议中查找。这种查询需要计划、定制焦点、记忆、使用不同工具，并将一个复杂问题分解为更简单的子部分。这些概念组合在一起基本上就是我们所谓的LLM智能体。

在这篇文章中，我介绍了由LLM提供动力的智能体，并讨论了智能体是什么以及企业应用的一些用例。有关更多信息，请参阅构建您的第一个智能体应用程序。在那篇文章中，我提供了一个生态系统概述，涵盖了构建AI智能体的可用框架以及一个入门指南，供任何尝试使用问答（Q&A）智能体的人使用。

什么是LLM智能体

虽然没有一个被广泛接受的LLM智能体的定义，但它们可以被描述为一个系统，可以使用LLM来推理问题，创建解决问题的计划，并在一组工具的帮助下执行计划。

简而言之，智能体是一个具有复杂推理能力、记忆和执行任务手段的系统。

这种能力最初是在项目中观察到的，比如AutoGPT或BabyAGI，在这些项目中，复杂的问题得到了解决，几乎没有干预。为了更详细地描述智能体，这里是一个LLM智能体应用程序的一般架构示意图（图1）。

一个智能体由以下关键组件组成（稍后会详细介绍）：

• 智能体核心
• 记忆模块
• 工具
• 规划模块

智能体核心模块

智能体核心是管理智能体的核心逻辑和行为特征的中央协调模块。可以将其视为智能体的“关键决策模块”。在这里我们也定义了：

• 智能体的总体目标：包含智能体的总体目标和目标。
• 执行工具：基本上是智能体可以访问的所有工具的简要列表或“用户手册”。
• 如何利用不同的规划模块：关于不同规划模块的效用以及在何种情况下使用哪个的详细说明。
• 相关记忆：这是一个动态部分，在推理时填充与用户过去对话中最相关的记忆项。 “相关性”是根据用户提出的问题确定的。
• 智能体的角色（可选）：此角色描述通常用于偏好使用某些类型的工具或在智能体的最终响应中赋予典型的特殊性。

智能体的记忆模块

记忆模块在AI智能体中扮演着至关重要的角色。记忆模块基本上可以被看作是智能体的内部日志以及与用户的互动的存储库。

记忆模块有两种类型：

• 短期记忆：智能体经历的行动和思考的记录，试图回答用户的单个问题：智能体的“思维线索”。
• 长期记忆：关于用户和智能体之间发生的事件的行动和思考的记录。它是一个日志簿，包含了跨越数周或数月的对话历史。

记忆不仅需要基于语义相似性的检索。通常，复合分数由语义相似性、重要性、最近性和其他特定于应用程序的指标组成。它用于检索特定信息。

工具集

工具是经过明确定义的可执行工作流程，智能体可以使用它们来执行任务。通常情况下，它们可以被看作是专门的第三方API。

例如，智能体可以使用RAG管道生成上下文感知答案，使用代码解释器解决复杂的编程任务，使用API在互联网上搜索信息，甚至可以使用任何简单的API服务，比如天气API或即时消息应用程序的API。

规划模块

复杂问题，比如分析一组财务报告以回答一个分层业务问题，通常需要细致入微的方法。借助LLM动力智能体，可以通过以下两种技术的组合来处理这种复杂性：

• 任务和问题分解
• 反思或评论

问题分解

复合问题或推断信息需要某种形式的分解。举个例子，问题是：“NVIDIA最近的盈利电话会议中有哪三个要点？”

回答这个问题所需的信息不能直接从一个小时的会议记录中提取出来。然而，这个问题可以分解成多个问题主题：

• “哪些技术转变被讨论得最多？”
• “是否存在任何业务阻力？”
• “财务结果如何？”

每个问题都可以进一步分解成子部分。也就是说，一个专业的AI智能体必须引导这种分解过程。

反思和评论

诸如ReAct、Reflexion、Chain of Thought和Graph of Thought之类的技术已经被用作基于评论或证据的提示框架。它们被广泛应用于改进LLM的推理能力和响应。这些技术也可以用于优化智能体生成的执行计划。

企业应用智能体

虽然智能体的应用几乎是无限的，但以下是一些可能对许多企业产生巨大影响的有趣案例：

• “与您的数据交流”的智能体
• 智能体群
• 推荐和体验设计智能体
• 定制的AI作者智能体
• 多模式智能体

“与您的数据交流”的智能体

“与您的数据交流”并不是一个简单的问题。有很多挑战是一个直接的RAG管道无法解决的：

• 源文档的语义相似性
• 复杂的数据结构，比如表格
• 缺乏明显的上下文（并非每个块都包含其来源的标记）
• 用户提出的问题的复杂性

…等等

例如，回到之前的盈利电话会议记录示例（2023年第三季度 | 2024年第一季度）。你如何回答这个问题：“数据中心收入在2023年第三季度和2024年第一季度之间增长了多少？”为了回答这个问题，你基本上必须分别回答三个问题（即，我们需要一个规划模块）：

• 2023年第三季度数据中心收入是多少？
• 2024年第一季度数据中心收入是多少？
• 这两者之间有什么区别？

在这种情况下，你需要一个智能体，该智能体可以访问一个进行问题分解的规划模块（生成子问题并搜索答案，直到解决更大的问题），一个RAG管道（用作工具）来检索特定信息，以及记忆模块来准确处理子问题。在“LLM动力智能体：构建您的第一个智能体应用程序”一文中，我详细介绍了这种类型的案例。

智能体群

一群智能体可以被理解为一组智能体共同努力在单一环境中共存，并能相互合作解决问题。分散式的智能体生态系统非常类似于多个“智能”微服务协同解决问题。

像生成式智能体和ChatDev这样的多智能体环境在社区中非常受欢迎（图3）。为什么呢？像ChatDev这样的框架使您能够建立一个工程师、设计师、产品管理、首席执行官和智能体的团队，以低成本构建基本软件。像Brick Breaker或Flappy Bird这样的热门游戏甚至可以以50美分的低价进行原型设计！

通过一群智能体，您可以为数字公司、社区甚至整个城镇创建人口，用于行为模拟经济研究、企业营销活动、物理基础设施的用户体验等应用。

这些应用目前无法在没有大型语言模型的情况下进行模拟，并且在现实世界中运行非常昂贵。

推荐和体验设计的智能体

互联网运作依赖于推荐。由智能体驱动的对话推荐系统可用于打造个性化体验。

例如，考虑一个在电子商务网站上的人工智能智能体，它可以帮助您比较产品，并根据您的一般请求和选择提供建议。还可以构建完整的礼宾式体验，多个智能体协助最终用户在数字商店中导航。选择观看哪部电影或预订哪间酒店房间等体验可以构建为对话形式，而不仅仅是一系列决策树式的对话！

定制的AI作者智能体

另一个强大的工具是拥有一个个人AI作者，可以帮助您处理诸如共同撰写电子邮件或为您准备时间紧迫的会议和演示等任务。常规创作工具的问题在于不同类型的材料必须根据不同的受众进行定制。例如，投资者演讲必须与团队演示有所不同。

智能体可以利用您以前的工作。然后，您可以让智能体根据您的个人风格塑造智能体生成的演讲，并根据您的具体用例和需求定制工作。这个过程对于普通的LLM微调来说通常过于微妙。

多模态智能体

仅使用文本作为输入，您无法真正地“与数据交流”。通过构建能够处理各种输入的多模态智能体，例如图像和音频文件，可以增强所有提到的用例。

这只是解决企业挑战的几个方向的一些例子。数据整理、社交图和领域专业知识的智能体都是开发社区正在积极探索的企业应用领域。

请进一步学习

由LLM驱动的智能体与典型的聊天机器人应用有所不同，因为它们具有复杂的推理能力。智能体由一个智能体核心、记忆模块、工具集和规划模块组成，可以在各种企业环境中生成高度个性化的答案和内容，从数据整理到高级电子商务推荐系统。

要了解有关智能体周围技术生态系统的概述，如实现框架、必读论文、帖子和相关主题，请参阅《构建您的第一个智能体应用》。对问答智能体的无框架实现进行的步骤说明将帮助您更好地与您的数据交流。

要深入了解其他类型的LLM智能体，请参阅《构建一个LLM驱动的API智能体以执行任务》和《构建一个LLM驱动的数据智能体以进行数据分析》。

本位翻译自，感兴趣的话阅读原文：
https://developer.nvidia.com/blog/introduction-to-llm-agents/