knowledge-vault/discussions/project-thinking/AI/智能体实战/3.如何搭建本地智能体.md

18 KiB
Raw Permalink Blame History

1

这是你建议的**第三部分:如何搭建本地智能体 (依托Cherry Studio)**部分的提纲:

  • 幻灯片1: 本地智能体 - 您的个性化AI助手

    • 目标学习使用Cherry Studio创建一个基础的本地智能体并连接到前述本地LLM服务。
    • 工具Cherry Studio
    • 回顾:智能体的概念(自主性、目标导向、与环境交互)。
  • 幻灯片2: Cherry Studio 简介与安装

    • Cherry Studio是什么(核心功能、特点、优势)
      • 【截图Cherry Studio官网或功能示意图】
    • 下载与安装Cherry Studio
      • 【截图:下载页面】
      • 【截图:安装过程】
    • 首次启动与主界面介绍
      • 【截图Cherry Studio主界面】
  • 幻灯片3: Cherry Studio - 配置连接本地LLM

    • 在Cherry Studio中配置LLM服务提供者
      • 【截图Cherry Studio的LLM配置入口】
    • 填写本地LLM的API信息 (回顾上一节的API地址、端口)
      • 【截图填写Ollama/LM Studio的API配置信息】
    • 测试连接
      • 【截图:测试连接成功/失败的提示】
  • 幻灯片4: Cherry Studio - 创建第一个智能体 (Agent)

    • 智能体的核心要素:角色(Role)/目标(Goal)、工具(Tools)/能力(Capabilities)、记忆(Memory - 可关联知识库)
    • 步骤1新建智能体项目/定义智能体
      • 【截图:新建智能体界面】
    • 步骤2设定智能体的角色和目标 (例如:一个简单的问答助手)
      • 【截图:设定角色和目标的输入框】
    • 步骤3为智能体选择或配置LLM (应能关联上一步配置好的本地LLM)
      • 【截图为智能体选择LLM模型的界面】
  • 幻灯片5: Cherry Studio - 为智能体添加基础工具/能力 (可选简化)

    • (如果Cherry Studio有内置工具或需要简单配置)
    • 例如允许智能体使用网络搜索如果需要可能需配置代理或API key或纯粹基于LLM知识回答。
      • 【截图:智能体工具配置界面】
  • 幻灯片6: Cherry Studio - 运行与测试智能体

    • 启动智能体
      • 【截图:启动/运行智能体的按钮】
    • 与智能体进行交互测试 (例如,通过聊天窗口提问)
      • 【截图:与智能体交互的界面,展示问答效果】
    • 观察智能体的响应和行为。
  • 幻灯片7: 小结与常见问题

    • 本节回顾成功创建并运行了一个连接本地LLM的简单智能体。
    • 常见问题:
      • Cherry Studio无法连接到本地LLM (检查API地址、端口、防火墙)
      • 智能体没有按预期工作? (检查角色设定、LLM配置)
    • 下一节预告:为智能体配备本地知识库。

我觉得有必要先讲一下什么是智能体,云服务都提供了哪些智能体服务,然后再讲到本地智能体。 看这个提纲怎么调整。

Ge

好的在正式进入Cherry Studio的实操前先对“智能体”的概念、云端智能体服务进行铺垫再引出本地智能体的必要性和Cherry Studio的定位这是一个非常好的思路。这样能让听众对“智能体”有一个更全面的认识并理解我们为什么要“本地化”。

我们来调整一下第三部分的提纲,增加关于智能体概念和云服务的内容。


第三部分:如何搭建本地智能体 (依托Cherry Studio)


幻灯片1: 智能体(Agent)概览 - 从云端到本地

(本张幻灯片旨在科普智能体的概念,展示云端智能体服务的现状,并自然过渡到本地智能体的需求。)

标题智能体Agent从云端赋能到本地掌控

(视觉建议:可以设计一个从云端图标逐渐聚焦到本地电脑/服务器图标的过渡效果,或者左右对比云端与本地的示意图。)

核心内容:

  1. 引言AI的新范式 - 智能体 (Agent)

    • “在拥有了本地LLM这个大脑之后我们如何让它更主动、更智能地为我们工作呢答案就是——构建智能体。”
    • “智能体是当前AI领域一个非常热门且重要的概念它代表着AI从被动响应向主动执行的转变。”
  2. 什么是智能体 (Agent)- 核心概念解析

    • 定义: “简单来说,智能体是一个能够感知其环境、进行思考和决策、并采取行动以达成特定目标的自主实体。
    • 关键特征:
      • 🎯 目标导向 (Goal-Oriented): 拥有明确的目标或任务。
      • 🧠 自主性 (Autonomous): 能够在没有人为干预的情况下独立运作。
      • 🔄 感知与行动 (Perception & Action): 能够通过传感器(或输入)感知环境,并通过执行器(或输出)与环境交互或采取行动。
      • 🤔 学习与适应 (Learning & Adaptation - 高级特性): 理想情况下,能够从经验中学习并适应变化的环境。
    • 与传统程序的区别: “相比于按固定指令执行的程序,智能体更强调自主决策和对环境的适应性。”
    • (可选视觉:一个简化的智能体模型图,包含感知、决策、行动的循环。)
  3. 云端智能体服务现状 (The Cloud Giants)

    • “目前,各大云服务提供商已经推出了丰富的智能体构建平台和相关服务,它们通常与各自的云端大模型深度集成。”
    • 举例 (选择2-3个典型代表)
      • OpenAI Assistants API: “允许开发者构建能够调用模型、工具如代码解释器、检索并维护持久化线程的AI助手。” (可配OpenAI Logo)
      • Google Vertex AI Agent Builder / Dialogflow CX: “提供构建聊天机器人、语音助手、任务型智能体的工具。” (可配Google Cloud Logo)
      • Amazon Bedrock Agents (AWS): “帮助创建能够执行任务、连接到公司数据源并调用API的生成式AI应用程序。” (可配AWS Logo)
      • Microsoft Azure AI (Bot Framework, Copilot Studio): “提供构建和部署智能对话机器人的服务。” (可配Azure Logo)
    • 云服务的优势: “强大的模型支持、成熟的工具链、可扩展性、与云生态的集成。”
    • 云服务的潜在考量: “数据隐私、成本(按调用量/Token付费、网络依赖、定制化程度限制。”
  4. 为什么我们需要“本地”智能体? (The Case for Local Agents)

    • “既然云端有这么多强大的智能体服务,为什么我们还要关注‘本地智能体’呢?”
    • 承接“为什么需要智能本地化”的理由:
      • 🔒 数据隐私与安全: “对于处理敏感信息或需要完全掌控数据流的场景至关重要。”
      • 💰 成本控制: “避免高昂的API调用费用特别是在高频交互或内部使用场景。”
      • 🌐 离线运行: “在无网络或网络不稳定的环境下依然能提供智能服务。”
      • 🛠️ 深度定制与集成: “可以更灵活地与本地系统、私有数据和特定工具进行集成。”
      • 💡 快速实验与迭代: “在本地环境中进行原型开发和测试通常更便捷。”
    • “本地智能体结合我们之前搭建的本地LLM服务将为我们构建真正私有化、可控的AI应用提供可能。”

过渡语: “那么如何在本地构建这样的智能体呢接下来我们将为大家介绍一款强大的本地智能体构建工具——Cherry Studio。”


幻灯片2: 本地智能体 - 您的个性化AI助手 (原幻灯片1)

(本张幻灯片现在可以更聚焦于使用Cherry Studio搭建本地智能体的目标和意义。)

标题本地智能体打造你的专属AI助手 (依托Cherry Studio)

(视觉建议可以是一个人与一个具象化的、友好的本地AI助手交互的场景图。)

核心内容:

  1. 回顾与承接:

    • “在了解了智能体的概念以及云端和本地的差异后,本节我们将聚焦于如何在本地构建一个基础的智能体。”
    • “我们将利用上一节搭建的本地LLM服务作为智能体的‘大脑’。”
  2. 本节目标:

    • “通过本节学习,你将能够:”
      • “理解使用Cherry Studio构建本地智能体的基本流程。”
      • 成功使用Cherry Studio创建一个基础的本地智能体。
      • 将该智能体连接到我们之前部署的本地LLM服务 (Ollama/LM Studio)。
      • “初步体验本地智能体的交互和能力。”
  3. 我们将使用的工具Cherry Studio

    • “为了实现这一目标,我们将使用 Cherry Studio 这款工具。”
    • “Cherry Studio 是一款专为简化本地AI应用开发包括智能体、知识库、多智能体协作等而设计的可视化平台。” (可在此处简要提及,详细介绍放到下一张)
    • (可配Cherry Studio Logo)
  4. 本地智能体的价值与潜力:

    • “想象一下,你可以拥有一个:”
      • “完全在你掌控之下的个人事务助理。”
      • “能够理解你私有文档的专业领域问答机器人。”
      • “无需联网即可执行特定任务的自动化工具。”
    • “这正是本地智能体能为我们带来的价值。”

过渡语: “接下来让我们正式认识一下Cherry Studio看看如何利用它来搭建我们的第一个本地智能体。”


后续幻灯片调整:

  • 幻灯片3: Cherry Studio 简介与安装 (原幻灯片2) - 内容不变
  • 幻灯片4: Cherry Studio - 配置连接本地LLM (原幻灯片3) - 内容不变
  • 幻灯片5: Cherry Studio - 创建第一个智能体 (Agent) (原幻灯片4) - 内容不变
  • 幻灯片6: Cherry Studio - 为智能体添加基础工具/能力 (可选简化) (原幻灯片5) - 内容不变
  • 幻灯片7: Cherry Studio - 运行与测试智能体 (原幻灯片6) - 内容不变
  • 幻灯片8: 小结与常见问题 (原幻灯片7) - 内容不变

总结一下调整后的第三部分提纲:

  • 幻灯片1: 智能体(Agent)概览 - 从云端到本地 (新增)
  • 幻灯片2: 本地智能体 - 您的个性化AI助手 (原幻灯片1调整)
  • 幻灯片3: Cherry Studio 简介与安装 (原幻灯片2)
  • 幻灯片4: Cherry Studio - 配置连接本地LLM (原幻灯片3)
  • 幻灯片5: Cherry Studio - 创建第一个智能体 (Agent) (原幻灯片4)
  • 幻灯片6: Cherry Studio - 为智能体添加基础工具/能力 (可选简化) (原幻灯片5)
  • 幻灯片7: Cherry Studio - 运行与测试智能体 (原幻灯片6)
  • 幻灯片8: 小结与常见问题 (原幻灯片7)

这样调整后逻辑更加顺畅听众能更好地理解智能体的背景知识从而更清楚本地智能体和Cherry Studio的价值所在。


2

在 **幻灯片4: Cherry Studio - 创建第一个智能体 (Agent)**中有:智能体的核心要素:角色(Role)/目标(Goal)、工具(Tools)/能力(Capabilities)、记忆(Memory - 可关联知识库) 能否介绍下智能体的核心要素。

好的,在 幻灯片4: Cherry Studio - 创建第一个智能体 (Agent) 中,对“智能体的核心要素”进行详细介绍是非常必要的。这能帮助听众理解智能体是如何被定义和构建的,以及这些要素如何协同工作。

以下是针对“智能体的核心要素”这一部分的详细内容建议可以直接整合到您的幻灯片4中或者作为幻灯片4之前的一个独立小节比如幻灯片3.5如果内容较多。我倾向于将其作为幻灯片4的开场内容。


幻灯片4: Cherry Studio - 创建第一个智能体 (Agent)

标题剖析智能体构建个性化AI助手的核心要素

(视觉建议:可以设计一个智能体被“解构”成几个核心模块的示意图,每个模块对应一个要素。)

引言: “我们已经配置好了与本地LLM的连接。现在让我们深入了解在Cherry Studio中创建智能体时需要定义的几个关键组成部分。这些要素共同决定了智能体的身份、能力和行为方式。”

智能体的核心要素:

  1. 角色 (Role) / 人设 (Persona) 与 目标 (Goal) / 指令 (Instruction):

    • 是什么?
      • 角色/人设: 定义智能体是谁,它应该以什么样的身份、风格、语气进行交互。例如,一个“友好的客服助手”、“严谨的技术文档撰写员”或“富有创意的营销策划师”。
      • 目标/指令: 明确智能体需要完成的具体任务或期望达成的结果。这是驱动智能体所有行为的核心。例如“帮助用户解答关于产品A的常见问题”、“根据用户输入的主题生成一篇博客文章大纲”、“从提供的文档中提取关键信息并总结”。
    • 为什么重要?
      • 指导行为: 角色和目标为LLM提供了上下文指导其如何思考、如何回应、如何使用工具。
      • 保持一致性: 确保智能体在整个交互过程中表现出一致的个性和专注的目标。
      • 任务导向: 使智能体能够有效地朝着预设的方向努力。
    • 在Cherry Studio中 “通常这是你创建智能体时首先需要明确设定的部分它会作为核心提示System Prompt的一部分传递给底层的LLM。”
    • 示例:
      • 角色: 编程小助手
      • 目标: “你是一个乐于助人的编程助手专注于Python语言。你的目标是帮助用户理解代码、修复错误并提供简洁高效的代码示例。避免谈论与编程无关的话题。”
  2. 工具 (Tools) / 能力 (Capabilities):

    • 是什么?
      • 智能体为了达成其目标可以调用的具体功能或外部服务。这超越了LLM本身固有的文本生成能力。
      • 工具可以是预置的如网络搜索、代码执行器、计算器也可以是用户自定义的如调用特定API、访问本地文件系统、与特定软件交互
    • 为什么重要?
      • 扩展能力: 使智能体能够与外部世界交互获取实时信息执行LLM本身无法完成的任务。
      • 解决复杂问题: 通过组合使用多种工具,智能体可以分解并解决更复杂的问题。
      • 提升实用性: 让智能体从一个“聊天机器人”进化为一个能实际“做事”的助手。
    • 在Cherry Studio中 “你可以为智能体选择或配置可用的工具。智能体会根据任务需求,决定何时以及如何使用这些工具。”
    • 示例:
      • 网络搜索工具: 当被问及最新的新闻或LLM训练数据截止日期之后的信息时智能体可以调用此工具。
      • 代码解释器: 运行用户提供的代码片段以验证或获取结果。
      • 自定义API工具 连接到公司内部的订单管理系统,查询订单状态。
      • 文件读取工具: 读取本地指定文档的内容以回答相关问题。
  3. 记忆 (Memory):

    • 是什么?
      • 智能体在交互过程中存储和检索信息的能力。记忆可以分为短期记忆和长期记忆。
      • 短期记忆: 通常指当前的对话历史,让智能体能够理解上下文,进行连贯的多轮对话。
      • 长期记忆: 可以是更持久化的信息存储,例如用户偏好、过去的交互摘要,或者通过连接外部知识库(如我们第四部分将讲到的)来实现对特定领域知识的访问。
    • 为什么重要?
      • 保持对话连贯性: 避免智能体在多轮对话中“失忆”,理解指代关系(如“它怎么样了?”)。
      • 个性化体验: (通过长期记忆)记住用户的特定信息或偏好,提供更个性化的服务。
      • 知识增强: 通过访问知识库智能体可以利用其核心LLM训练数据之外的、更专业或更新的知识。
    • 在Cherry Studio中 “Cherry Studio通常会自动处理短期对话记忆。对于长期记忆或专业知识我们可以通过配置知识库下一部分内容来增强智能体的记忆能力。”
    • 示例:
      • 短期记忆: 用户:“我喜欢蓝色。” 智能体:“好的,我记住了。那么关于这个蓝色的产品,您还有其他问题吗?”
      • 长期记忆 (通过知识库) 用户:“我们公司关于请假的的政策是什么?” 智能体通过查询公司政策知识库后“根据公司规定员工每年享有X天年假...”

总结与联系: “这三个核心要素——角色/目标Why & What to do工具/能力How to do it & What it can use记忆What it knows & remembers——共同塑造了一个智能体的行为和效能。在Cherry Studio中创建智能体本质上就是配置和组合这些要素的过程。”


在幻灯片的后续步骤步骤1、2、3就可以将这些理论知识与Cherry Studio的具体操作界面截图对应起来例如

  • 步骤1新建智能体项目/定义智能体

    • 【截图:新建智能体界面,高亮显示填写“角色描述/系统提示/目标”的区域】
    • “在这里,我们主要定义智能体的角色和目标。”
  • 步骤2设定智能体的角色和目标 (例如:一个简单的问答助手)

    • 【截图:已填写角色和目标的输入框示例】
    • “例如,我们设定它为一个‘本地文件问答助手’,目标是‘根据用户上传的文档内容回答问题’。”
  • 步骤3为智能体选择或配置LLM (应能关联上一步配置好的本地LLM)

    • 【截图为智能体选择LLM模型的界面】
    • “智能体的大脑——LLM为角色扮演、目标理解和工具使用提供了基础的推理能力。”

在后续的 幻灯片5: Cherry Studio - 为智能体添加基础工具/能力 中,则会具体演示如何配置“工具”要素。 在 第四部分:如何搭建本地知识库 中,则会详细阐述如何通过知识库来增强智能体的“记忆”要素。

这样一来,整个逻辑链条就非常清晰了。