中国电信中部智算中心在武汉投运,支持部署万亿参数大模型

业界
TIME
2024-01-28 09:45
IT之家 泽泷(实习)
分享

  中国电信中部智算中心在武汉东湖新技术开发区(光谷)举行正式投入运营。中国电信专家介绍,该智算中心的算力、安全、环保及扩展性均达到一流水平,目前在中部地区属于最高等级。

  IT之家注意到,中国电信中部智算中心建设先进自主液冷智算集群,首次采用基于国产 AI 基础软硬件平台的方案架构,实现算、存、网、电、热整体设计。通过独特的嵌入式液冷单元,盲插总线架构,实现液冷到芯片,液冷到服务器,液冷到机柜,全场景 PUE≤1.15,在达到业内一流绿色节能环保水平的同时,可支持部署万亿参数大模型。

  中国电信在全国构建了多点智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云骁一体化算力平台,提供高性能、高显存、高兼容性的主流大模型训练、训推一体算力和国产自研架构的液冷高性能算力,可满足多场景算力需求。

  中部智算中心可提供千卡规模的训练推理能力,并支持主流框架及芯片,基于训练推理的混合调度能力,资源利用率可以提升 20%。基于高性能的基础设施和一系列的优化技术,在千卡模型下并行计算效率可以达到 80%。

THE END
免责声明:本文系转载,版权归原作者所有;刊载之目的为传播更多信息,如内容不适请及时通知我们。

相关热点

  1月26日消息,IDC、Counterpoint等调研机构公布了第四季度手机市场数据。  IDC指出,2023年第四季度,中国智能手机市场出货量约7363万台,同比增长1.2%, 在连续同比下降1...
手机
  汽车与能源网络的产业融合正在催生新的商业模式。自动驾驶企业纵目科技近日宣布,设立全新子公司蚕丛机器人,并推出新产品——低速全自动驾驶充电机器人FlashBot闪电...
新能源

相关推荐

1
3