11月10日,2023数字科技生态大会在广州正式启幕。会上,天翼云重磅发布一站式智算服务平台“慧聚”,为加速大模型在行业的应用落地提供强劲动能。
在平台层,“慧聚”平台将大模型开发训练过程中的关键流程、复杂技术和宝贵实践经验进行总结和抽取,构建出一站式全链路的大模型生产应用的流水线。在技术上,“慧聚”平台成功突破了算子加速、模型并行、断点续训等技术难点,将高性能计算能力、分布式算力调度能力、训练和推理多环节加速技术、高性能数据存储技术进行封装,稳定性、训练推理速度等核心指标大幅提升。在功能上,“慧聚”平台基于数据平台、模型开发平台、模型服务平台和应用服务平台四大平台,提供数据准备、模型开发、任务管理、模型优化等多个产品功能模块,每个功能模块包含多级组件。功能与组件之间可以灵活组装,帮助用户打造针对不同场景的专属工具集。
目前,天翼云已经为大模型开发者、大模型提供者、应用厂商、政府与科研机构、行业协会等合作伙伴提供多种生态模式支持。依托国云智算底座,发挥国云安全优势,天翼云将与产业各方合作伙伴紧密协作,广泛汇聚国内外AI芯片伙伴、各类通用大模型及行业大模型伙伴及广大开发者,共建繁荣的大模型创新生态,携手打造先进的智算生产力,全面赋能经济社会的数字化和智能化。