工程师
其他
API
NLP
工具链
推荐课程
average > 0 ? $model->average . '分' : '10.0分' ?>

实现自主可控的AIGC应用开发底座

程老师

前微软 解决方案技术专家

本人先后从事技术培训讲师,售后技术支持工程师和解决方案专家等工作,并曾在微软(中国)有限
公司任职 6 年。凭借多年来在数据中心和云计算解决方案领域的专注,本人对传统数据中心和云平台相
关的解决方案有深入了解,并且有着丰富的规划、设计和实施经验。
作为讲师,本人 21 年来累计提供了将近上万小时的培训和技术讲座服务,培训 14,000+人次,均
获得了良好的反馈。并以其精湛的技术理解力和热忱的分享精神,连续 6 年(2005~2011)获得微软
最有价值专家(MVP)称号,自 2003 年至今连续 18 年获得微软认证讲师(MCT)资格,并当选 2018—
2023 年度中国区 MCT Regional Lead。我将持续关注云计算的发展,目前专注于研究云平台,云原生
应用,容器技术和 DevOps。
近期重点培训项目一览: ✓ 容器技术和微服务培训:平安银行、深交所、华泰证券、大庆油田
✓ Microsoft Azure 架构设计和运维:招商银行、东软
✓ 云计算平台应用培训:中国联通、河南电信、新疆电信 广东电信
✓ 机器学习和数据科学培训:联想集团、宝洁、万科
✓ 企业全员安全合规性培:SABIC

本人先后从事技术培训讲师,售后技术支持工程师和解决方案专家等工作,并曾在微软(中国)有限 公司任职 6 年。凭借多年来在数据中心和云计算解决方案领域的专注,本人对传统数据中心和云平台相 关的解决方案有深入了解,并且有着丰富的规划、设计和实施经验。 作为讲师,本人 21 年来累计提供了将近上万小时的培训和技术讲座服务,培训 14,000+人次,均 获得了良好的反馈。并以其精湛的技术理解力和热忱的分享精神,连续 6 年(2005~2011)获得微软 最有价值专家(MVP)称号,自 2003 年至今连续 18 年获得微软认证讲师(MCT)资格,并当选 2018— 2023 年度中国区 MCT Regional Lead。我将持续关注云计算的发展,目前专注于研究云平台,云原生 应用,容器技术和 DevOps。 近期重点培训项目一览: ✓ 容器技术和微服务培训:平安银行、深交所、华泰证券、大庆油田 ✓ Microsoft Azure 架构设计和运维:招商银行、东软 ✓ 云计算平台应用培训:中国联通、河南电信、新疆电信 广东电信 ✓ 机器学习和数据科学培训:联想集团、宝洁、万科 ✓ 企业全员安全合规性培:SABIC

课程费用

6800.00 /人

课程时长

1

成为教练

课程简介

本课程"实现自主可控的AIGC应用开发底座"旨在指导学员如何利用一系列开源工具形成工具链,实现自主可控的AIGC解决方案底座。我们将首先介绍如何使用开源工具搭建和管理API网关,这是连接模型和应用的重要桥梁。接着,我们将学习如何在本地环境中运行和测试开源大型语言模型(LLM),这是自然语言处理(NLP)解决方案的核心。然后,我们将探讨如何构建低代码无代码的AIGC应用开发平台,使得开发过程更加高效和灵活。最后,我们将学习如何将LLM应用部署和上线,以实现其在实际环境中的应用。通过本课程,学员将掌握如何利用开源工具实现自主可控的AIGC解决方案底座的全套技能。

目标收益

1.理解并掌握AIGC开发底座工具链:学员将全面理解LLM开发底座工具链的构成和工作原理,能够熟练使用这些工具进行AIGC应用的开发和部署。
2.熟练搭建和管理API网关:包括LLM API的调用方法和策略,使用One-API项目部署API Gateway,以及API渠道和令牌的管理,API调用的监控和用户管理。
3.掌握LLM模型的本地运行和测试评估:学员将能够使用LM Studio实现开源大模型的本地运行,对接开源大语言模型和本地开发环境。同时,学员还将掌握LLaMa模型和Mixtrel MoE模型的测试和评估,以及使用Phi 2实现本地平替Github Copilot解决方案和嵌入式模型的本地运行。
4.自主构建和优化低代码无代码AIGC应用开发平台:学员将能够部署Flowise并快速实现基本的会话机器人,整合Web浏览插件的会话机器人,实现领域知识库(Embedding & 向量检索引擎),以及实现智能体。
5.理解并实施LLM应用的部署:学员将掌握应用容器化部署的基本概念,借助Vercel实现应用的PaaS化部署,部署ChatGPT Web,以及快速上线自定义LLM应用。
6.通过实战项目,能够将理论知识转化为实际应用:学员将有机会实践和应用所学的知识和技能,以自主开发和部署AIGC应用。

培训对象

这个课程特别适合那些希望在AIGC领域快速实现应用开发和部署,同时对技术有一定的理解和实践经验,但希望进一步简化开发流程和提高效率的专业人士。
1.有经验的AIGC开发者:已经具备LLM和AIGC基础知识,希望进一步提升技能,通过开源项目快速构建和部署AIGC应用的开发者。
2.快速应用部署者:寻求快速上线AIGC解决方案的专业人士,他们可能已经有一定的AIGC应用开发经验,但希望利用低代码或无代码工具加速开发流程。
3.技术转型者:希望从传统软件开发转向AIGC领域的技术人员,他们需要一个实践导向的课程来快速掌握AIGC工具链的搭建和应用开发。
4.企业内部创新团队:企业中负责推动技

课程大纲

搭建API Gateway •AIGC 开发底座工具链介绍
•LLM API 调用方法和策略综述
•使用One-API项目部署API Geateway
•管理API渠道和令牌
•API 调用的监控以及用户管理
实现LLM模型本地运行 •使用LM Studio实现开源大模型的本地运行
•开源大语言模型和本地开发环境的对接
•测试和评估LLaMa模型
•测试和评估Mixtrel MoE模型
•使用Phi 2实现本地平替Github Copilot解决方案
•实现嵌入式模型的本地运行
构建低代码无代码AIGC应用开发平台 •部署Flowise
•快速实现基本会话机器人
•实现整合Web浏览插件的会话机器人
•实现领域知识库(Embedding & 向量检索引擎)
•实现智能体
AIGC 应用的部署 •应用容器化部署介绍
•借助Vercel实现应用的PaaS化部署
•部署ChatGPT Web
•快速上线自定义LLM应用
搭建API Gateway
•AIGC 开发底座工具链介绍
•LLM API 调用方法和策略综述
•使用One-API项目部署API Geateway
•管理API渠道和令牌
•API 调用的监控以及用户管理
实现LLM模型本地运行
•使用LM Studio实现开源大模型的本地运行
•开源大语言模型和本地开发环境的对接
•测试和评估LLaMa模型
•测试和评估Mixtrel MoE模型
•使用Phi 2实现本地平替Github Copilot解决方案
•实现嵌入式模型的本地运行
构建低代码无代码AIGC应用开发平台
•部署Flowise
•快速实现基本会话机器人
•实现整合Web浏览插件的会话机器人
•实现领域知识库(Embedding & 向量检索引擎)
•实现智能体
AIGC 应用的部署
•应用容器化部署介绍
•借助Vercel实现应用的PaaS化部署
•部署ChatGPT Web
•快速上线自定义LLM应用

课程费用

6800.00 /人

课程时长

1

预约体验票 我要分享

近期公开课推荐

近期公开课推荐

提交需求