课程简介
本课程"实现自主可控的AIGC应用开发底座"旨在指导学员如何利用一系列开源工具形成工具链,实现自主可控的AIGC解决方案底座。我们将首先介绍如何使用开源工具搭建和管理API网关,这是连接模型和应用的重要桥梁。接着,我们将学习如何在本地环境中运行和测试开源大型语言模型(LLM),这是自然语言处理(NLP)解决方案的核心。然后,我们将探讨如何构建低代码无代码的AIGC应用开发平台,使得开发过程更加高效和灵活。最后,我们将学习如何将LLM应用部署和上线,以实现其在实际环境中的应用。通过本课程,学员将掌握如何利用开源工具实现自主可控的AIGC解决方案底座的全套技能。
目标收益
1.理解并掌握AIGC开发底座工具链:学员将全面理解LLM开发底座工具链的构成和工作原理,能够熟练使用这些工具进行AIGC应用的开发和部署。
2.熟练搭建和管理API网关:包括LLM API的调用方法和策略,使用One-API项目部署API Gateway,以及API渠道和令牌的管理,API调用的监控和用户管理。
3.掌握LLM模型的本地运行和测试评估:学员将能够使用LM Studio实现开源大模型的本地运行,对接开源大语言模型和本地开发环境。同时,学员还将掌握LLaMa模型和Mixtrel MoE模型的测试和评估,以及使用Phi 2实现本地平替Github Copilot解决方案和嵌入式模型的本地运行。
4.自主构建和优化低代码无代码AIGC应用开发平台:学员将能够部署Flowise并快速实现基本的会话机器人,整合Web浏览插件的会话机器人,实现领域知识库(Embedding & 向量检索引擎),以及实现智能体。
5.理解并实施LLM应用的部署:学员将掌握应用容器化部署的基本概念,借助Vercel实现应用的PaaS化部署,部署ChatGPT Web,以及快速上线自定义LLM应用。
6.通过实战项目,能够将理论知识转化为实际应用:学员将有机会实践和应用所学的知识和技能,以自主开发和部署AIGC应用。
培训对象
这个课程特别适合那些希望在AIGC领域快速实现应用开发和部署,同时对技术有一定的理解和实践经验,但希望进一步简化开发流程和提高效率的专业人士。
1.有经验的AIGC开发者:已经具备LLM和AIGC基础知识,希望进一步提升技能,通过开源项目快速构建和部署AIGC应用的开发者。
2.快速应用部署者:寻求快速上线AIGC解决方案的专业人士,他们可能已经有一定的AIGC应用开发经验,但希望利用低代码或无代码工具加速开发流程。
3.技术转型者:希望从传统软件开发转向AIGC领域的技术人员,他们需要一个实践导向的课程来快速掌握AIGC工具链的搭建和应用开发。
4.企业内部创新团队:企业中负责推动技
课程大纲
搭建API Gateway |
•AIGC 开发底座工具链介绍 •LLM API 调用方法和策略综述 •使用One-API项目部署API Geateway •管理API渠道和令牌 •API 调用的监控以及用户管理 |
实现LLM模型本地运行 |
•使用LM Studio实现开源大模型的本地运行 •开源大语言模型和本地开发环境的对接 •测试和评估LLaMa模型 •测试和评估Mixtrel MoE模型 •使用Phi 2实现本地平替Github Copilot解决方案 •实现嵌入式模型的本地运行 |
构建低代码无代码AIGC应用开发平台 |
•部署Flowise •快速实现基本会话机器人 •实现整合Web浏览插件的会话机器人 •实现领域知识库(Embedding & 向量检索引擎) •实现智能体 |
AIGC 应用的部署 |
•应用容器化部署介绍 •借助Vercel实现应用的PaaS化部署 •部署ChatGPT Web •快速上线自定义LLM应用 |
搭建API Gateway •AIGC 开发底座工具链介绍 •LLM API 调用方法和策略综述 •使用One-API项目部署API Geateway •管理API渠道和令牌 •API 调用的监控以及用户管理 |
实现LLM模型本地运行 •使用LM Studio实现开源大模型的本地运行 •开源大语言模型和本地开发环境的对接 •测试和评估LLaMa模型 •测试和评估Mixtrel MoE模型 •使用Phi 2实现本地平替Github Copilot解决方案 •实现嵌入式模型的本地运行 |
构建低代码无代码AIGC应用开发平台 •部署Flowise •快速实现基本会话机器人 •实现整合Web浏览插件的会话机器人 •实现领域知识库(Embedding & 向量检索引擎) •实现智能体 |
AIGC 应用的部署 •应用容器化部署介绍 •借助Vercel实现应用的PaaS化部署 •部署ChatGPT Web •快速上线自定义LLM应用 |