课程简介
此课程可在短短2 天之内，让不具备 AI 知识，甚至没有编程基础的学员亲手运行、修改甚至从头搭建自己的 【LLM 大语言模型应用】。
学员将会学习大语言模型应用的科学知识、技术框架、编码技术、业务应用。借助课程提供的 【积木代码】 ，学员可以根据自己的实际需求创建 【假想产品】 ，并通过为其增加功能来赢得 【勋章】 ，用于评估学习效果。
学员还会跟随讲师探索 Langchain 官网、学习使用 ChatGpt 编写代码以完成 【自学赋能】，以便保证在课后仍然有能力扩展自己的产品功能。
目标收益
1.跨越门槛：快速消除初入人工智能领域的陌生与畏惧感。
2.认知提升：深入理解大语言模型的工作原理及其在多种场景下的实际应用。
3.编程技能：非编程背景的学员也能通过课程提供的积木代码尝试编写和改进代码。
4.项目实战：围绕假想产品实际操作 LLM 平台，解决实际问题。
5.自学赋能：通过对 Langchain 框架的解读、基于 ChatGpt 的自动化编程，让没有 AI 和 python 基础的学员在课后仍然能编写和扩展应用
培训对象
1、希望成为 LLM 产品经理 的专业人士，希望了解 LLM 的商业和技术应用。
2、想要转型成为 LLM 软件工程师的开发者，希望通过实际编程加深对 LLM 的理解。
课程大纲
| 概述：LLM 简介与核心概念 |
一、知识点 1、什么是大语言模型 LLM LLM 的发展历史 LLM 是如何工作的 LLM 与 AI 的关系 二、应用与限制 1、LLM 在理解、生成、推理能力方面的具体表现 2、LLM 面临的挑战，如偏见、误解和数据依赖性 3、讨论如何通过技术和策略改进来克服这些局限 案例《ChatGpt 框架》 通过 ChatGpt 的框架解析，理解大语言模型 APP 的前后台关系 案例《辨别极限》 通过 ChatGpt 中存在的若干问题，指出 LLM 在处理该案例时可能遇到的问题，并提出可能的解决方案。 |
| 第一课：Hello World! |
一、 知识点 1、亲手操作 LLM，从最基础的“Hello World!”程序开始，逐步学习如何调用 LLM 进行简单的文本生成 2、解释 API 的使用方法与调用参数 3、讲解如何安全有效地管理 API 账号与密钥 4、理解 LLM Api 的计费方式与持续性成本 二、实用工具箱 1、利用 ChatGpt 编写代码 此内容可让完全没有编程基础的学员，生成、改进、调试 python 代码，从而解决课后的持续开发问题 三、练习《我的第一条 AI 生成文本》 1、使用提供的 API，编写一个简单的问题回答脚本 2、让 LLM 能循环回答用户问题（需借助 ChatGpt 编程） |
| 第二课：提示词工程 |
一、知识点 1、学习如何设计有效的提示词以引导 LLM 生成更高质量的内容 2、介绍不同类型的提示词模板，如静态提示、动态提示 3、探讨如何利用用户输入调整提示词以改善交互质量 二、练习《优化提示词》 1、让 LLM 编写并执行代码 2、让 LLM 进行智能销售分析 3、对参数的排列组合后传入 LLM 4、从 LLM 返回的结果中，获取结构化数据 三、 假想产品升级 1、为 AI 设置一个合理的人设与规则 2、限定 AI 回答问题的范围 3、使用 2 种以上人类语言回答问题 4、使输出格式成为一个可以被解析的 json 结构 |
| 第三课：检索增强生成（RAG） |
一、知识点 1、介绍如何通过集成外部数据来提高 LLM 的输出质量和相关性 2、讲解如何构建一个向量数据库，并使用检索增强技术来改进模型的答案质量 二、练习《内部 OA 助手》 1、创建一个简单的 OA 助手 2、借助本地文档回答问题 3、借助内网/外网网页内容回答问题 三、假想产品升级 1、访问本地一个目录中的所有文档（Markdown 格式） 2、访问一个 URL 页面的网页内容 |
| 第四课：记忆与持久化 |
一、知识点 1、探讨如何通过对话记忆和持久化技术来实现复杂的会话管理 2、介绍如何使用 LLM 存储和回忆过往对话内容 3、了解如何处理长期记忆和短期记忆的不同技术策略 二、练习《内部 OA 助手》 1、与用户进行多轮相关联的对话 2、在多轮对话中使用多个不同文档的内容进行分析 三、假想产品升级 1、执行多轮关联对话 2、上下文来自不同的文档 3、至少一次上下文来自 URL 页面的网页内容 |
| 第五课：智能体 |
一、知识点 1、了解智能体与工具的基本运行原理原理 2、进一步实践与感受大语言模型的能力与限制 二、练习《智能 OA 助手》 1、调用搜索工具，回答实时问题（如搜索天气） 2、调用文档工具，根据企业内部文档分析和回答问题 3、调用数学工具，对数学问题进行计算 三、假想产品升级 1、自主调用工具，访问本地一个目录中的所有文档（Markdown 格式） 2、自主调用工具，访问一个 URL 页面的网页内容 与上一个练习的区别是，智能体可以自主选择工具，无需人工指定 |
| 扩展：自学赋能 |
一、LLM 相关资源 1、Langchain 官网概览 此内容整体介绍 Langchain 编程框架官网的结构、模块、功能 特别会提及部署方案 LangServe 和运维方案 LangSmith 2、github 简单使用指南 在 github 上搜索、浏览 LLM 相关代码 3、Docker 简单使用指南 在本机部署各种向量数据库、redis 等服务的快捷做法 二、假想产品升级 1、每组推选本组一个前面练习后最成熟的假想产品为代表产品 以组为单位（之前可以单个学员自己做） 分工协作，有计划地为此产品扩展功能。 2、基于 Langchain 官网提供的功能，尝试实现课上未涉及的功能 自主决定添加何种新功能（需要与产品相关） 添加新功能可持续获得勋章 |
|
概述：LLM 简介与核心概念 一、知识点 1、什么是大语言模型 LLM LLM 的发展历史 LLM 是如何工作的 LLM 与 AI 的关系 二、应用与限制 1、LLM 在理解、生成、推理能力方面的具体表现 2、LLM 面临的挑战，如偏见、误解和数据依赖性 3、讨论如何通过技术和策略改进来克服这些局限 案例《ChatGpt 框架》 通过 ChatGpt 的框架解析，理解大语言模型 APP 的前后台关系 案例《辨别极限》 通过 ChatGpt 中存在的若干问题，指出 LLM 在处理该案例时可能遇到的问题，并提出可能的解决方案。 |
|
第一课：Hello World! 一、 知识点 1、亲手操作 LLM，从最基础的“Hello World!”程序开始，逐步学习如何调用 LLM 进行简单的文本生成 2、解释 API 的使用方法与调用参数 3、讲解如何安全有效地管理 API 账号与密钥 4、理解 LLM Api 的计费方式与持续性成本 二、实用工具箱 1、利用 ChatGpt 编写代码 此内容可让完全没有编程基础的学员，生成、改进、调试 python 代码，从而解决课后的持续开发问题 三、练习《我的第一条 AI 生成文本》 1、使用提供的 API，编写一个简单的问题回答脚本 2、让 LLM 能循环回答用户问题（需借助 ChatGpt 编程） |
|
第二课：提示词工程 一、知识点 1、学习如何设计有效的提示词以引导 LLM 生成更高质量的内容 2、介绍不同类型的提示词模板，如静态提示、动态提示 3、探讨如何利用用户输入调整提示词以改善交互质量 二、练习《优化提示词》 1、让 LLM 编写并执行代码 2、让 LLM 进行智能销售分析 3、对参数的排列组合后传入 LLM 4、从 LLM 返回的结果中，获取结构化数据 三、 假想产品升级 1、为 AI 设置一个合理的人设与规则 2、限定 AI 回答问题的范围 3、使用 2 种以上人类语言回答问题 4、使输出格式成为一个可以被解析的 json 结构 |
|
第三课：检索增强生成（RAG） 一、知识点 1、介绍如何通过集成外部数据来提高 LLM 的输出质量和相关性 2、讲解如何构建一个向量数据库，并使用检索增强技术来改进模型的答案质量 二、练习《内部 OA 助手》 1、创建一个简单的 OA 助手 2、借助本地文档回答问题 3、借助内网/外网网页内容回答问题 三、假想产品升级 1、访问本地一个目录中的所有文档（Markdown 格式） 2、访问一个 URL 页面的网页内容 |
|
第四课：记忆与持久化 一、知识点 1、探讨如何通过对话记忆和持久化技术来实现复杂的会话管理 2、介绍如何使用 LLM 存储和回忆过往对话内容 3、了解如何处理长期记忆和短期记忆的不同技术策略 二、练习《内部 OA 助手》 1、与用户进行多轮相关联的对话 2、在多轮对话中使用多个不同文档的内容进行分析 三、假想产品升级 1、执行多轮关联对话 2、上下文来自不同的文档 3、至少一次上下文来自 URL 页面的网页内容 |
|
第五课：智能体 一、知识点 1、了解智能体与工具的基本运行原理原理 2、进一步实践与感受大语言模型的能力与限制 二、练习《智能 OA 助手》 1、调用搜索工具，回答实时问题（如搜索天气） 2、调用文档工具，根据企业内部文档分析和回答问题 3、调用数学工具，对数学问题进行计算 三、假想产品升级 1、自主调用工具，访问本地一个目录中的所有文档（Markdown 格式） 2、自主调用工具，访问一个 URL 页面的网页内容 与上一个练习的区别是，智能体可以自主选择工具，无需人工指定 |
|
扩展：自学赋能 一、LLM 相关资源 1、Langchain 官网概览 此内容整体介绍 Langchain 编程框架官网的结构、模块、功能 特别会提及部署方案 LangServe 和运维方案 LangSmith 2、github 简单使用指南 在 github 上搜索、浏览 LLM 相关代码 3、Docker 简单使用指南 在本机部署各种向量数据库、redis 等服务的快捷做法 二、假想产品升级 1、每组推选本组一个前面练习后最成熟的假想产品为代表产品 以组为单位（之前可以单个学员自己做） 分工协作，有计划地为此产品扩展功能。 2、基于 Langchain 官网提供的功能，尝试实现课上未涉及的功能 自主决定添加何种新功能（需要与产品相关） 添加新功能可持续获得勋章 |
近期公开课推荐