课程简介
现代大模型训练容量与日俱增,海量的数据以及模型服务需要更高效的分布式系统。Apache Helix是Apache顶尖分布式架构框架始于服务传统分布式系统例如分布式数据库。为了更好更高效的提高模型服务的规模和性能,Apache Helix给予模型服务的特点进行了更进一步的演化。本次案例展示了架构的演化放心以及在开源软件Venice应用
目标收益
培训对象
课程内容
AI模型服务基础架构研发团队。
现代大模型训练容量与日俱增,海量的数据以及模型服务需要更高效的分布式系统。Apache Helix是Apache顶尖分布式架构框架始于服务传统分布式系统例如分布式数据库。为了更好更高效的提高模型服务的规模和性能,Apache Helix给予模型服务的特点进行了更进一步的演化。本次案例展示了架构的演化放心以及在开源软件Venice应用
AI模型服务基础架构研发团队。