解锁下一步:开源混合AI的战略和战术

数码
TIME
2024-11-15 15:25
通信世界全媒体
分享

当下,AI无疑成为投资领域的最大热点,众多企业纷纷入局,大量资金竞相涌入。在各种力量的加持下,大模型如雨后春笋般不断涌现。然而,热潮的背后,如何找到适合的应用场景、将AI顺利地带入企业成为亟待解决的关键问题。

“开源混合是AI发展的必然趋势,我们将以开源的方法将AI带入企业。”红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)表示。

战略:开源混合是AI必然趋势

两年多前ChatGPT的横空出世点燃了AI市场的热情,也吸引了业界将投资重点倾斜到AI领域。根据IDC的全球调研,2023年美洲、APJ(亚太及日本地区)和EMEA(欧洲、中东和非洲地区)在AI方面的总支出分别达到了1010亿美元、380亿美元和380亿美元。其中,活跃在信息通信前沿领域的中国市场表现得尤为抢眼,2024年投资的场景达到74个,预计到2025年将大幅增长到189个。

伴随着全球资本的大举进入,目前AI基础架构已经趋于完善,如何实现AI应用的有效起步成为当下业界关注的重点话题。在此方面,红帽认为,开源混合与AI的特点天然契合,也是AI未来发展的必然趋势。

“AI的关键词包括创新、效率、新颖等,同时也存在安全、透明度、隐私等方面的隐忧;而开源的关键词包括创新、透明、弹性等,缺点也是安全程度不足。”曹衡康认为。可以说AI与开源的优缺点相似,奠定了两者融合发展的基础。而在融合发展过程中,两者相互赋能的效应也清晰显现。

在AI加持下,开源混合将呈现以下变化。首先,更加重视自动化,将自动化能力部署到企业的边边角角,能够自动化完成关键任务。其次,开发者效率进一步提高,不需要人工编写每一行代码,AI可以帮助开发者完成工作,大幅提高应用开发效率和代码合并效率等。再次,AI加持使得企业更加安全,以及边缘计算和边缘分布更加广泛。

而有了开源混合的加持,AI也将能够更快更广泛地应用到各个角落。正如同云计算、边缘计算等每个时代都因为开源混合而发展壮大,AI时代也会因为开源开放而不断壮大。

事实上,AI的开源混合趋势已经得到了业界的广泛认可。据统计,截至2023年底全世界的149个大数据模型中有2/3基于开源开发而成。而根据IDC、Gartner等的统计数据,全世界85%的CIO认为要逐渐向开源过渡,60%的企业决定走开源的道路。对于混合而言,这一术语原本来自云计算领域。在云计算诞生伊始,公有云备受追捧,而后各种缺点逐渐显现,如缺乏弹性、成本高昂等,为此大多数CIO认为混合云是理想选择。对于AI而言,不可能将所有计算都放在公有云上,混合模式是最有选择。

战术:小模型和“三步走”

如果说开源混合是AI的战略方向,那么具体到实践层面,又该以怎样的战术将“开源混合+AI”很好地落地?对此,红帽的做法是小模型。

红帽表示,此前不少企业尝试用大模型提升效能,但实践中发现大模型并不适合生产场景,甚至一点小错就可能引发巨大风险。此外,大模型涉及的数据量大,开发应用所需时间较长,能耗较高,缺乏对企业个性化需求的针对性分析。在此情况下,小模型(fit for purpose)应运而生,涉及参数量少,能够精准满足用户需求。

以西门子工业自动化(成都)有限公司(以下简称“SEWC”)为例,作为一家务实的企业,SEWC重视通过AI、大数据等技术平台和数字化理念的引入,以实现生产效率和质量的提升。SEWC信息技术部经理杨健介绍,SEWC很早就开始应用小模型,尤其是在生产环节的机器视觉应用中,通过使用小模型,将垃圾分拣中金属、塑料和纸张等的分辨率从以前的85%提升到现在的95%以上,大幅提高了分拣效率。

红帽在小模型方面已经先行一步。据介绍,红帽通过InstructLab开源社区推出小模型,通过合成数据将对真实数据的需求降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,而且减少了能耗,对环境更加友好。此外,红帽的InstructLab是一个学习平台,支持市面上的各种模型。红帽不仅创建和使用开源模型,更在帮助企业构建个性化模型。通过小模型概念,快速将客户的知识库输入到模型,无论采用何种模型架构,都可以通过深度数据的方式生成企业的专属模型。

红帽大中华区方案架构部总经理王慧慧(Aella Wang)表示,为了帮助客户在充分了解成本和收益的基础上逐步向AI过渡,红帽提出了三步走的“分步实施”策略。第一步,客户可以在最小资源配置下试用开源模型和工具,比如在笔记本电脑上用CPU试跑,而不需要额外的GPU卡。第二步,通过云租用算力进一步扩展,客户可以选择基于公司数据中心或外部公有云资源,确认模型适合需求后进入第三步。第三步,红帽的架构支持跨云混合部署,例如,客户可以在中国使用阿里云,在美国使用AWS,既灵活又经济。“我们的目标是帮助客户实现最佳的投资回报率,并在每一步为其提供适配的支持。”王慧慧进一步强调。

THE END
免责声明:本文系转载,版权归原作者所有;刊载之目的为传播更多信息,如内容不适请及时通知我们。

相关热点

  随着2024年的脚步渐行渐远,我们即将迎来今年最后一次天文奇观——超级月亮。11月16日凌晨,农历十月的满月将现身夜空,这是今年第四次、也是最后一次“超级月亮”,我国...
互联网
  王者荣耀作为一款现象级的MOBA游戏,凭借其精美的画面、丰富的英雄角色和激烈的竞技对抗,吸引了大量玩家。而名侦探柯南作为一部经典的侦探动漫,自1996年播出以来,凭借...
手游

相关推荐

1
3