说明书来了,5G加持下高通将助推生成式AI规模化发展

热点
TIME
2023-09-05 21:54
中国网
分享

  9月5日,在2023年中国国际服务贸易交易会的第四天,高通公司在国家会议中心的服贸会成果发布现场,发布了人工智能白皮书《混合AI是AI的未来》印刷版。高通是AI领域的领军企业,从2007年开始投入AI研发,持续深入AI研发超过15年。高通骁龙5G移动平台中的AI引擎,如今已经演化到第八代,目前搭载高通AI技术的终端数量,已达到数十亿台。

  在发布会上,高通公司全球副总裁侯明娟表示,今年生成式AI带来空前的创新和发展机遇,AI以惊人的发展速度和强大的创新潜能,快速渗入人们工作生活的方方面面,AI变革千行百业的趋势日益明显。她还指出,终端侧AI是实现混合式AI架构的关键,是将生成式AI在全球更广范围应用的基础。

  在云端设备,例如大型服务器上运行的AI服务,即为云端AI。在终端侧运行的,例如在智能手机、汽车、个人电脑运行的AI服务,即为终端侧AI。例如今年快速崛起的生成式AI大语言模型,主要在云端运行。混合AI架构,则可以在云端和边缘终端之间分配并协调工作负载,5G在这过程中将会提供更好的网络连接支持。

  由于身处移动通信领域的缘故,高通公司在终端侧AI具备行业领先的性能和能效优势。如今高通正将这一优势扩展到生成式AI领域,例如今年服贸会高通展台,就有展示在智能手机上运行10亿参数的生成式AI模型Stable Diffusion,能根据用户所提供的自然语言输入,在15秒内完成20步推理,生成512x512规格的图像。而这所有步骤,都是在一台高通骁龙8Gen2 5G智能手机上完成的,不需要联网。此前生成式AI大模型主要是在云端运行,高通在手机上成功部署,将带给此类生成式AI模型更广阔的的应用前景。

  根据调研公司预测数据,在智能手机、PC/平板电脑、XR、汽车和物联网等细分市场的AI应用率,将由2018年的低于10%,增长至2025年的100%。凭借技术创新、全球化规模和生态系统赋能,高通正在让混合AI成为现实。高通将继续积极地与全球合作伙伴一起,把更多的AI特性带给用户,推动AI扩展到更广泛的领域,带来更便捷、智能的体验。


THE END
免责声明:本文系转载,版权归原作者所有;刊载之目的为传播更多信息,如内容不适请及时通知我们。

相关热点

  8月30日,嘉兴市科协科普专家委员会专家组赴海盐开展新申报科普教育基地实地评审工作。今年,海盐县通元镇长山河村治水科普馆、嘉兴融禾农业科技有限公司、国网海盐县...
产经
  8月31日,由桐庐县科协主办的以“提升全民科学素质,助力科技自立自强”为主题的全国科普日2023年桐庐县全民科学素质大赛总决赛在桐庐举行。桐庐县政府领导及科协领导...
产经

相关推荐

1
3