课程简介
本次演讲将分享如何基于Ray构建高效的分布式AI工程架构，重点解决多模态数据处理，以及近实时和离线大模型推理链路的挑战。通过流批一体的推理管道实现近线和离线的统一及异构资源整合的灵活弹性计算。过程展示这套方案如何通过统一的技术框架，在保证稳定性的同时如何提升多模态数据工程链路的开发效率和性能吞吐，为大模型计算的工程化提供端到端优化解决方案。
目标收益
培训对象
课程内容
数据工程团队：了解如何通过Ray实现高效的多模态数据处理，大模型分布式推理应用
架构师
基于Ray构建多模态数据的统一流批计算
近期公开课推荐
≈