C114讯 7月20日消息(岳明)在日前召开的中国互联网大会--国家新型互联网交换中心与算力网络融合发展论坛上,中国电信大模型技术专家李康作了题为《大模型带来智算大算力发展》的主题演讲。
李康指出,算力供给模式有三种:第一种是公有云模式,算力供给以公有云的模式为主,对于基础大模型的训练,玩家都在堆性能和参数,大力出奇迹。第二种数据不能出域的行业训练和推理,因为数据不能出域,而且对于训练有强大的要求,并且这些行业客户具有一定资金能量,这种是以私有云的模式进行补充。第三种是对于数据不能出域,本地可以进行微调和对齐的需求,以移动算力模式为主。比如说移动算力车、移动手机箱就可以满足需求。
李康表示,现阶段全国智算需求的地域,主要集中在京津冀、江浙沪、粤港澳和川陕渝。但是,全国整体算力需求和供给地域是不均,所以调度会成为建设重点。中国电信会依托云网交换中心基础设施,实现全国算力调度服务大模型市场。
据李康介绍,中国电信在大模型市场的整体布局有两部分:首先,布局全网算力,电信拥有非常丰富的IDC资源和专网资源,针对2+4+31+X的算力中心布局,建设模式可以提供大集群式的集中算力和区域算力、边缘算力、移动算力,依次满足不同客户的需求。其次,布局大模型市场,进行行业洞察并规划商业模式,比如提供专属服务模式给客户进行定制,可以提供SaaS和API模式,或者是和合作伙伴联合生态打造MaaS平台,提供大模型工具。