首页 > IT业界 > 正文

企业级AI未落地先分叉,一站式摆渡桥成决胜焦点

2024-06-25 14:03:38  来源:

摘要:企业级AI未落地先分叉,一站式摆渡桥成决胜焦点
关键词: 企业级AI
2023年,生成式AI火出了圈,然而此时只有不到5%的企业真正将AI运用到生产环境中。时间进入到2024年,Gartner预测2026年超过80%的企业都将使用AI应用程序编程接口或模型,或在相关生产环境中部署支持AI的应用,企业级AI进入高速成长期。

  然而,此时的AI却出现了无数分叉。从实现途径上,出现了开源和闭源两种模式;从发展方向上,大模型与小模型之争成了另一个看点;而在发展领域上,To B与To C两个方向已开始让AI厂商必须站队。

  但从用户端来看,用户真正需要的,却是过滤掉这些选择,一站式保障AI在实际工作场景中落地的方案。因此,从某种意义上讲,在2024年至2026年的AI应用落地关键之年,谁能够成为帮助用户AI落地的摆渡人,谁就将在这场新的AI革命中占得主动。也正是在这个关键点上,红帽公司出手了。

  摆平AI分叉

  在企业竞争中,开源和闭源是两种完全不同的竞争策略。互联网时代下开源Linux和闭源Windows之争,移动互联网时代下开源Android和闭源iOS之争,都曾造就了两个庞大的阵营。大模型的开源和闭源主要是指模型的源代码和训练数据是否公开。如今,人工智能大模型也出现了开源、闭源之争,并且两个阵营中都不乏强手。OpenAI从开源走向闭源,以华为为代表的厂商坚持闭源,而以Meta LLaMA为代表一直坚持开源。

红帽全球副总裁兼大中华区总裁曹衡康

  对此,红帽全球副总裁兼大中华区总裁曹衡康坚定地表示:“红帽坚定站在开源一方。”其中的原因,可以从安全和创新两个方面来考虑的。

  AI正在越来越多地被拿来与核武器类比,也被认为是“人类最后的技术”。大量中外科学家都发出了AI安全警告:我们正处于人工智能的“奥本海默时刻”。曹衡康强调:“开源和闭源的AI模型各有优缺点,但红帽秉持开源精神,做到100%的开源。我们的使命就是用开源的方式,把AI带入企业。在封闭体系下,生态垄断和安全隐忧已经初现端倪。在开源的状态下,如果出现安全问题,整个社区都会帮你检查问题出在哪里。只有在开源的状态下,语言模型才会因为透明而安全。通过红帽和IBM发布的Apache 2.0许可模型和工具,我们也可以很容易地扩展出AI生态。”

  在近年来多次新技术浪潮中,开源都因为具备巨大的创新潜力而成为了主流,这一次AI浪潮也不例外。而红帽利用开源将侧重点放在了小模型路径上,将帮助企业更好地利用AI实现创新。

  曹衡康介绍说:“大语言模型被很多公司做得太复杂了,动辄就要用到万兆数据,同时还会耗费大量GPU提供算力。反过来,在实际工作中,我们发现很多用户都在探索运用规模较小的模型,采用轻量化的方式来让AI应用落地。”

  曹衡康详细介绍了红帽的AI解决之道:“我们坚定地扎根于企业端,坚持‘化繁为简’的理念,就像曾经的红帽企业级Linux和OpenShift一样,我们要在硬件和应用之间搭出来一个基础架构、一个平台、一套工具,让合作伙伴跟我们合作,推进企业级AI落地。我们坚持混合AI的概念,因为用户应用AI的场景,不仅在云端,还可以在自己的数据中心,或者就在如工控设备这样的边缘端。在GPU资源短缺的条件下,混合AI可以实现资源利用最大化,同时提升效率,还会解决因企业自有敏感数据带来的安全问题。”

  当大模型由玩具真正成为企业的数字化工具时,不仅需要克服包括效率在内的一系列难题,更需要突破因企业敏感数据而带来的安全难题,甚至有一种极端的观点认为,由于大语言模型所需数据量的极速扩展和数据所有权问题,未来三年后大语言模型可能无法寻找到足够数据用于训练。

  因此,未来大语言模型与小模型在落地企业级应用时,可能如同“为了同一个登顶目标的南坡北坡”路径,但目前小语言模型显然已经因为简便而捷足先登了。应用红帽的系统,红帽全球总裁兼CEO Matt Hicks甚至已经在他的苹果电脑上,用CPU开始建模,将包括数据采集、训练等所有与AI相关工作都在笔记本电脑上完成。

  化繁为简

  当AI落地时,就必须与行业结合起来,也不可避免地需要大量开发工作,这些因素让这条路充满了艰辛。某国内排名100名之内的券商,在投入两年时间和两、三千万研发经费之后,却只是得出了一个结论——太累了,而且做不出来。但当他们见到了红帽的方案之后,却由衷地表示“你们把我的模型、数据分析和数据运算轻量化之后,带来的不仅是成功,还有大量的成本节省。”

  谈及这起有代表性的用户AI落地困境时,红帽大中华区解决方案架构部高级总监王慧慧表示:“企业实施AI创新从来就不是一件简单的事,而是一场会牵涉基础架构到应用层的变革。绝不是人们想象中的增加一个新模型概念,AI智能时代就水到渠成地到来了。这其中会涉及AI模型的选择和调优、协作效率和安全合规的保障,AI人才团队的建设,成本和投资回报率的计算等诸多问题。”

  王慧慧将这些难题概括成了这样几个方面:“首先是基础架构的革新,许多用户上来就问我们是否能帮助购买到GPU,但事实上却是国家为了缓解算力紧缺问题,建了许多智能中心,基础架构的革新可以让用户无需购买更多昂贵的GPU资源。其次是模型的调优,进入到这个阶段,企业领导就会发现缺人、缺数据、缺工具与缺模型的问题一起涌现出来。而红帽的做法,就是提供模型、模型调优的工具和平台,也会提供数据清洗和链接的平台。”

  解决了底层基础问题,用户却还要面临应用AI化的新问题,王慧慧介绍说:“用户的困惑在于原有人员都是做传统应用开发的,现在AI应用已经变成了‘50%的模型,50%的应用’,如何实现AI应用开发与模型之间的相互沟通,成为了一个难题。而红帽的做法,是提供一个统一的平台,让AI应用开发团队与模型训练团队在同一个平台上交流工作,也在同一个平台上交换数据和信息。”

 

  这其中也包含了红帽自身的蜕变,在5月“红帽峰会”上,红帽一口气发布了包括基础架构、平台、模型和AI赋能应用在内的20种产品,分布在AI的基础架构层、平台层、模型层和应用层等各个层面。或者我们可以想象这些产品在统一的红帽平台框架下,形成了一个AI中间件,将其中复杂的部分屏蔽在了中间件内部,而通过中间件提供的接口,企业IT团队就可以根据自身的需求搭建起一条通往AI落地的坦途。

 

  谈及坦途,王慧慧在这个产品框架之上给出了用户“AI落地三步走”的建议:“第一步,在资源受限的桌面环境下,采用小数据集进行实验性训练(qlora),InstructLab未来会集成到Podman Desktop里。第二步,通过完整的合成数据生成技术,采用‘教师’模型和‘学生’模型的训练方法,进行生产级模型训练,并提供基本操作脚本化的工具支持。第三步,在更大的分布式集群的环境下,与RHEL AI一样进入了生产级的模型训练。同时,充分利用Kubernetes扩展、自动化并实现MLOps的全部功能。”

  老中青的选择

  表面看来,红帽提供了一整套解决方案,但真正站在让AI落地的用户角度思考,却会发现还有大量的工作需要做。概括起来看,这些工作可以分成“老中青”三个层次。

  首先说“老”。AI变革与多年前的信息化浪潮颇为相似,依然是“一把手工程”,因此面对AI浪潮,企业决策者及时更新观念至关重要。从AI浪潮波及的范围来看,AI重构工业品已是大势所趋,《创新催化剂研究》更是显示,81%的企业都认同AI将极大地改变行业生态。

  王慧慧介绍说:“开源文化近年来在帮助用户创新方面,已经初显成效。面对AI浪潮,红帽咨询团队也可以在初期就加入用户AI团队,通过一个周期(一星期)的观察,帮助企业分析什么环境可以利用AI提升效率,有没有必要在企业设想的场景中引入AI。”

  其次说“中”。企业IT团队要在基础架构层面为AI应用落地做好底层准备。王慧慧解释说:“OpenShift AI作为一个AI的平台级产品,就可以解决数据和算力两个AI难题。一是数据难题,当企业看中一个开源的基础大模型,就可以把它导入OpenShift AI上。由于OpenShift支持公有云、私有云,也支持数据中心,导入进来之后就可以为企业模型训练团队准备所需的训练数据。另一方面,数据都有各种各样的合规和安全要求,这些数据都可以按合规的要求在在OpenShift平台上做管理和调优的训练。其次是算力问题,在OpenShift AI上面,可以实现对各个厂商的GPU、异构GPU卡的支持。这样利用OpenShift,就可以实现对于GPU资源的整体调度。而RedHat Enterprise Linux AI提供了一个包含单一或多台服务器的平台,可以用来做基础模型,以及模型之上的‘对齐’、优化和生命周期管理工作。用户在RHEL AI做的所有工作又都可以无缝的推送到OpenShift AI上面,也就是无论用户在分布式的集群环境,还是在门槛更低的较小环境里,都可以做基础模型。这样就可以用较小的资源、较低的门槛、更简单的数据合成方式做AI模型的建立和调优,实现成本降低。”

  最后是“青”。显然,离开AI应用开发者,AI落地也是不可能实现的。而面对“50%的模型,50%的应用”的新开发格局,开发人员显然有必要提升自己的技能。在这方面,红帽不仅提供了开源的Granite模型,还提供了InstructLab这样的免费开源对齐工具。

  红帽大中华区首席架构师张家驹介绍说:“针对AI人才短缺的问题,红帽已提供了一系列的培训课程。对于IT小白,经过一年的培训,就可以上手。而对于有基础的开发者,经过几个月的训练,就可以在新一轮AI浪潮中获得更大的发挥舞台。”

  而有了一站式AI利器,“老中青”齐上阵时,相信更多的传统企业就有能力在2024到2026年的AI应用高速成长期,获取更大的AI自由度,从而利用创新提升企业的核心竞争力。这也许才是AI浪潮给企业带来的最大礼物。


第四十届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:baxuedong

免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。