本技术涉及人工智能，特别是涉及一种基于思维聚类规划和领域知识检索的大模型智能代理系统。
背景技术：
1、在传统的业务流程中，人类需要花费大量的时间和精力进行重复性的操作和决策。随着人工智能技术的发展，使得机器拥有了判断和执行任务的能力，这种能力使得机器能够在某些特定的业务场景中能协助人类实现特定的目标。在人工智能的核心体系中，这些具有判断和执行能力的智能实体被称为人工智能代理的ai agents。智能代理的出现，使得机器能够承担这些任务，释放人类的工作负担，使人类能够更加专注于创造性、决策性等更高层次的工作。简而言之，ai智能代理是一种高级软件程序，可以独立运作而不需要人类的控制。它可以独立思考、行动和学习，而不需要不断的人为输入。某些智能代理还具备感知环境变化的能力，能够实时收集和分析环境信息，并根据这些信息采取合理的行动来实现既定目标。
2、另一方面，随着大语言模型的快速发展，机器决策智能的能力也大幅提升。通常来说，大语言模型非常擅长生成文本、翻译语言、编写不同类型的创意内容，规划任务，但并不适合执行最终的任务。为了最大发挥出大语言模型的潜在能力，并使得agent智能体进化成独立做出决策和完成任务的ai代理，大语言模型被用来和传统的ai agents模式相结合，进而产生一种全新且主流的agent范式：llm as agent。这种智能代理的引入，使得机器能够更加灵活地应对各种业务场景，并显著改变了人机交互方式。llm代理的核心思想是使用语言模型推理引擎来进行规划，选择要采取的一系列动作。随后通过一系列链式规则硬编码动作，基于规划顺序执行对应的任务。主要的工作流程主要包含四个关键阶段——任务规划、工具选择、工具调用和响应生成。
3、llm as agent 这种范式虽然已经被较广泛所接受，且研究社区中，人们已经付出了很多努力来探索如何提升llms的工具学习能力，也取得的非常有效的成果。然而，在实际领域业务应用中，高度复杂问题往往链条较长，且需要的工具集较多，且极其依赖业务知识，这使得任务规划的准确度和工具调用的能力都收到了较大的限制。提高大语言模型在垂直领域的长链条规划和复杂任务工具调用能力，为业务场景构建更高效准确的智能体成为亟待解决的问题。
技术实现思路
1、基于此，有必要针对上述技术问题，提供一种基于思维聚类规划和领域知识检索的大模型智能代理系统。
2、一种基于思维聚类规划和领域知识检索的大模型智能代理系统，所述系统包括：
3、所述系统包括用户交互模块、领域知识检索模块、思维聚类规划模块、基座大语言模型、引导优化模块、工具调用模块、响应合成模块以及模型输出模块；
4、所述用户交互模块用于获取用户提示输入；
5、所述领域知识检索模块包括领域知识库、思维聚类方法库和检索单元；检索单元包括向量编码模型和向量数据库；思维聚类方法库包括多种与领域知识相适配的用于思维聚类的聚类方法；
6、所述思维聚类规划模块用于根据所述用户提示输入调用领域知识检索模块进行思维聚类检索，根据检索结果构建思维链示例；
7、所述基座大语言模型用于根据所述用户提示输入和系统提示模板进行基于任务时序的任务规划，得到规划链条；所述基座大语言模型为与领域场景相匹配的预训练大语言模型；
8、所述引导优化模块用于根据所述规划链条对预先设置的工具调用提示模板进行优化整合，输出优化工具调用提示模板；
9、所述工具调用模块利用工具调用大语言模型，根据所述规划链条和所述优化工具调用提示模板，得到结构化工具调用模板，利用结构化工具调用模板进行工具调用，得到当前规划的交互结果；所述工具调用模块为通过预先构建的偏好数据集进行微调的基座大语言模型；
10、所述响应合成模块用于从所述工具调用模块获取规划链条对应的交互结果并输出规划方案，通过所述模型输出模块将规划方案反馈给用户交互单元。
11、在其中一个实施例中，所述系统还包括双重反思模块，所述双重反思模块分别连接所述思维聚类规划模块和所述工具调用模块，用于当所述工具调用模块在工具调用时出现异常时，根据当前的调用结果和预期结果判断异常原因，得到前向反思结果，并执行异常反向推理得到异常原因，得到反向反思结果，将所述前向反思结果和所述反向反思结果反馈至所述思维聚类规划模块。
12、在其中一个实施例中，还用于提取所述用户提示输入中的思维链实体，根据所述思维链实体将所述思维链实体输入所述检索单元，通过向量编码模型对思维链实体向量化，得到思维链指令；利用所述思维聚类方法库中的聚类方法根据所述思维链指令在所述向量数据库中进行聚类候选和召回，输出检索结果；获取所述检索结果在所述领域知识库中对应的领域知识文档，根据所述领域知识文档获取所述思维链实体的上下文信息，根据所述上下文信息以及领域场景提示顺序构建思维链示例。
13、在其中一个实施例中，通过预先构建的偏好数据集进行微调包括：构建偏好数据集；所述偏好数据集是通过从领域数据和知识库中获取若干规划链条以及对应的调用工具得到的；利用所述偏好数据集和预先设置的直接偏好优化损失函数对所述工具调用大语言模型进行微调，得到微调后的工具调用大语言模型。
14、在其中一个实施例中，所述直接偏好优化损失函数为：
15、；
16、其中，为直接偏好优化损失函数，为输入样本，偏好标签为，非偏好标签为，为缩放因子，是sigmoid函数，表示策略模型，表示参考策略模型，是偏好数据集。
17、在其中一个实施例中，还用于获取工具调用提示模板；所述工具调用提示模板包括系统提示；根据所述规划链条优化所述系统提示，并生成适配的场景信息提示，根据优化后的系统提示和场景信息提示对所述工具调用提示模板进行优化整合，输出优化工具调用提示模板。
18、在其中一个实施例中，所述工具调用模块包括模板生成器和模板执行器；所述模板生成器由工具调用大语言模型驱动，用于根据所述规划链条和所述优化工具调用提示模板生成结构化工具调用模板；所述模板执行器用于根据已执行规划和执行结果，解析模板生成器生成的结构化工具调用模板并调用目标api接口或函数，执行当前规划。
19、在其中一个实施例中，所述模板执行器还用于处理由异常原因引起的异常情况。
20、上述基于思维聚类规划和领域知识检索的大模型智能代理系统，通过用户交互模块获取用户提示输入，通过思维聚类规划模块根据用户提示输入调用领域知识检索模块进行思维聚类检索，根据检索结果构建思维链示例，通过基座大语言模型根据用户提示输入和系统提示模板进行基于任务时序的任务规划，得到规划链条；基座大语言模型为与领域场景相匹配的预训练大语言模型，通过引导优化模块用于根据规划链条对预先设置的工具调用提示模板进行优化整合，输出优化工具调用提示模板，通过工具调用模块利用工具调用大语言模型，根据规划链条和优化工具调用提示模板，得到结构化工具调用模板，利用结构化工具调用模板进行工具调用，得到当前规划的交互结果，通过响应合成模块用于从工具调用模块获取规划链条对应的交互结果并输出规划方案，通过模型输出模块将规划方案反馈给用户交互单元。本发明实施例，能够提高大模型智能代理系统的决策准确性以及决策效率。
1.一种基于思维聚类规划和领域知识检索的大模型智能代理系统，其特征在于，所述系统包括用户交互模块、领域知识检索模块、思维聚类规划模块、基座大语言模型、引导优化模块、工具调用模块、响应合成模块以及模型输出模块；
2.根据权利要求1所述的系统，其特征在于，所述系统还包括双重反思模块，所述双重反思模块分别连接所述思维聚类规划模块和所述工具调用模块，用于当所述工具调用模块在工具调用时出现异常时，根据当前的调用结果和预期结果判断异常原因，得到前向反思结果，并执行异常反向推理得到异常原因，得到反向反思结果，将所述前向反思结果和所述反向反思结果反馈至所述思维聚类规划模块。
3.根据权利要求1所述的系统，其特征在于，根据所述用户提示输入调用领域知识检索模块进行思维聚类检索，基于思维聚类检索过程构建思维链示例包括：
4.根据权利要求1所述的系统，其特征在于，通过预先构建的偏好数据集进行微调包括：
5.根据权利要求4所述的系统，其特征在于，所述直接偏好优化损失函数为：
6.根据权利要求1所述的系统，其特征在于，根据所述规划链条对预先设置的工具调用提示模板进行优化整合，输出优化工具调用提示模板包括：
7.根据权利要求1所述的系统，其特征在于，所述工具调用模块包括模板生成器和模板执行器；
8.根据权利要求7所述的系统，其特征在于，所述模板执行器还用于处理由异常原因引起的异常情况。
