课程简介
掌握生产级的提示词工程、上下文管理和成本优化技巧，并能使用LangChain构建具备记忆和工具调用能力的复杂应用。
目标收益
培训对象
课程大纲
|
09:00-10:30 模块一：高级提示词设计模式与评估 |
1. 高级技巧：深入Few-shot, Chain-of-Thought, Self-Consistency的原理，并引入Tree-of-Thought, Graph-of-Thought等更前沿的提示策略。 2. 结构化输出与解析：强制模型输出JSON，并使用Pydantic进行数据校验与解析，确保数据格式的稳定可靠。 3. 提示词评估与版本管理：建立一套提示词的评估框架（如使用GPT-4作为评估器），并学习如何对提示词进行版本控制与A/B测试。 |
|
10:30-12:00 模块二：对话上下文管理与成本优化 |
1. 管理策略：深入对比滑动窗口、摘要、知识库等上下文管理策略的实现细节、性能开销与适用场景。 2. 长上下文技术：探讨“大海捞针”问题，学习如何通过优化文档结构与检索策略，提升长上下文窗口的利用效率。 3. 成本控制：Token使用效率分析、API调用成本估算与优化技巧，引入多模型路由（根据任务难度选择不同模型）的架构设计。 |
|
14:00-15:30 模块三：LangChain核心组件进阶 |
1. LCEL（LangChain Expression Language）：深入学习LCEL的并行执行、回退机制、动态配置等高级用法，构建复杂的、可动态调整的业务逻辑调用链。 2. Memory机制：为应用增加多种形式的长期记忆能力，并探讨如何将对话记忆存储到Redis或数据库中，实现分布式环境下的记忆共享。 3. 高级功能：流式输出（Streaming）与异步调用（Asyncio）的实现方法，以提升应用的响应速度与吞吐量。 |
|
15:30-17:00 模块四：实战项目 |
1. 项目需求：构建一个能够联系上下文、进行多轮对话的“AI理财产品销售合规助手”。 2. 功能实现：集成外部API（如查询产品信息、核对客户风险等级），在销售对话中实时进行合规提醒。 3. 代码重构：将第一天的项目重构，加入对话记忆、LCEL调用链和流式输出，提升其交互体验与可维护性。 |
|
09:00-10:30 模块一：高级提示词设计模式与评估 1. 高级技巧：深入Few-shot, Chain-of-Thought, Self-Consistency的原理，并引入Tree-of-Thought, Graph-of-Thought等更前沿的提示策略。 2. 结构化输出与解析：强制模型输出JSON，并使用Pydantic进行数据校验与解析，确保数据格式的稳定可靠。 3. 提示词评估与版本管理：建立一套提示词的评估框架（如使用GPT-4作为评估器），并学习如何对提示词进行版本控制与A/B测试。 |
|
10:30-12:00 模块二：对话上下文管理与成本优化 1. 管理策略：深入对比滑动窗口、摘要、知识库等上下文管理策略的实现细节、性能开销与适用场景。 2. 长上下文技术：探讨“大海捞针”问题，学习如何通过优化文档结构与检索策略，提升长上下文窗口的利用效率。 3. 成本控制：Token使用效率分析、API调用成本估算与优化技巧，引入多模型路由（根据任务难度选择不同模型）的架构设计。 |
|
14:00-15:30 模块三：LangChain核心组件进阶 1. LCEL（LangChain Expression Language）：深入学习LCEL的并行执行、回退机制、动态配置等高级用法，构建复杂的、可动态调整的业务逻辑调用链。 2. Memory机制：为应用增加多种形式的长期记忆能力，并探讨如何将对话记忆存储到Redis或数据库中，实现分布式环境下的记忆共享。 3. 高级功能：流式输出（Streaming）与异步调用（Asyncio）的实现方法，以提升应用的响应速度与吞吐量。 |
|
15:30-17:00 模块四：实战项目 1. 项目需求：构建一个能够联系上下文、进行多轮对话的“AI理财产品销售合规助手”。 2. 功能实现：集成外部API（如查询产品信息、核对客户风险等级），在销售对话中实时进行合规提醒。 3. 代码重构：将第一天的项目重构，加入对话记忆、LCEL调用链和流式输出，提升其交互体验与可维护性。 |
近期公开课推荐