首页 产业新闻 将AI带入企业 红帽选择了“开源”和“混合”

将AI带入企业 红帽选择了“开源”和“混合”

产业新闻 31

    6月20日消息,在言必谈AI的当下,如何把握AI发展机遇?在2024红帽媒体Open讲话活动上,红帽全球副总裁兼大中华区总裁曹衡康对外阐述了红帽在生成式AI与大模型领域的最新理念和举措。

    在解读红帽在AI发展路线上的看法时,曹衡康着重强调了两点:AI必须是开源的,AI应该在混合云上做。

    曹衡康解释称,开源闭源之间并没有对错之分,但在封闭体系下,生态的垄断和安全隐患已初具端倪。相较之下,开源由于受到整个开源社区的监督,能够更好地应对安全问题。同时,开源能够降低企业拥有核心技术的门槛,让开发者参与到模型贡献当中,提升效率和性能。

    “未来,AI既会有开源,也会有闭源,但红帽绝对是开源的。”曹衡康说到,“开源精神是红帽文化的核心,也是红帽在AI领域取得成功的关键。”

    关于混合云,曹衡康提到,AI从开发到运行都并非仅能在云上操作,笔记本甚至智能手机都可以实现建模开发。因此,AI应该拿到混合云上来操作。

    这主要有三方面原因:一是能够最大化利用资源;二是可以提升效率;三则是安全问题,因为很多的模型可能很多企业是本身自己企业内部用的,假如放到“云”上面会有一些安全问题。

    红帽大中华区解决方案架构部高级总监王慧慧进一步补充称,将混合模式落到AI项目上其实并不难理解。比如某企业建模时可在数据中心搭建,培训时可在公有云上训练,推理时甚至可以在公司产线上的某一台风控设备上进行。而企业若要“单打独斗”实现这些操作,还需解决构建AI基础架构、保证协作效率、进行模型调优、开发AI应用、促进模型与应用间的高效交互等问题。

    如何以开源的方式将AI带入企业?红帽此前已经宣布了一系列与AI相关的创新,包括RHEL AI、OpenShift AI和Lightspeed等,并与NVIDIA等合作伙伴在混合云和AI领域展开合作。

    曹衡康表示,红帽不做硬件,不做应用,而是在两者之间提供领先的AI平台,帮助企业安全高效地部署和管理AI模型、应用;构建AI基础设施层,为企业提供安全的可扩展基础设施和自动化。

    对于在中国的发展策略,曹衡康表示,红帽将配合国家战略,加速企业智能制造升级,同时赋能与融合国内AI生态,加速AI在全行业的应用。

    以下为与曹衡康、王慧慧、红帽大中华区市场总监赵文斌的部分对话实录:

    问:混合AI是一个什么样的概念?

    曹衡康:从开发来讲,开发就不需要一定在“云”上开发、我可以在笔记本建模、开发。运行的时候可以在“云上、云下”,在我“私有云”、笔记本、甚至是手机上都可以运行,就是从“建模”跟“运行”都是一样。还有就是混合模式,找出最适合的计算方式。可能我在计算的时候,只要前提是数据、客户愿不愿意把数据放在公有云上面。当我在整个运行当中找出一个最优化的方式计算,因为GPU不够、又耗电,我就找出最优化的方式把这个东西、这个应用整个执行出来。

    王慧慧:它既可以被部署在公有云上、也可以私有云上,也可以一个私有化的数据中心或者某个设备上都可以。举一个比较简单的例子:同样一个AI项目或者AI应用,建模的时候可以在数据中心里面建,训练的时候可以在公有云上训练,最后做推理的时候可以在产线上的某一台工控设备上面去做推理,同样的一套AI。也就是说,这个AI项目本身的不同阶段可以用不同的环境。

    为什么这样做?因为我们支持的就是一个混合环境,只不过你每一次在使用的时候你觉得你的资源在哪边,你用什么方面觉得是安全的。你不希望你推理时候个人数据去公有云上,那你就放在自己的数据中心去做、都可以。

    问:为什么我们现在谈AI、大模型,大家都在关注GPU、不关注其它层面,根本原因是什么?

    曹衡康:其实算力讲“白”了、做的事情本身是最简单的,比如最核心的运算可能就是矩阵乘。现在的大模型训练本质上做的是一个大力出奇迹的事情,是需要大量的快速的做这些矩阵乘的运算,GPU资源可能就成为瓶颈。

    问:大家都相信“大力出奇迹”,觉得基础设施到位了,可能就能产生一些应用。但现实是,大家可能对于AI做事并没有太大的信心、做什么也没有看到。

    曹衡康:目前AI的发展还比较早期,可能首先要解决有无问题,因此我们看到在GPU,AI Infrastructure等方面,大家比较关注,顺便提一句,红帽是能够帮助您快速构建AI Infrastructure软件的一家公司。 在AI的应用和如何变现方面,整个行业都还需要探索,大模型本身目前还有一些问题,比如幻觉,所以对于AI做事,既要有信心,同时也应看到技术发展目前的局限性。

    赵文斌:大家都看“算力、平台、模型”。现在开源的模型很多、开发平台相对来讲也有一些开源或者一些选择,只是短期的一个焦点问题就是算力、因为相对紧张。这是一个现实的问题,所以关注度高。但是这是一个发展阶段的初级阶段的问题。“大力出奇迹”没问题,大模型是不是可以针对行业企业有小模型,用更小的算力就可以解决你的生产和应用的问题。其实市场的解决方法很多,只是因为大家对这个市场还是早期、还没有看清楚,短期突出的是算力紧张的问题。我觉得随着大家的研究更深入或者更多的工具、更多厂商的这些方案更清楚,我觉得这个问题相对会被平滑地过渡过去。只是这样的一个过程。

    王慧慧:我们如果看AI这件事的话,AI其实存在很久了。最近这么火是因为生成式AI、大模型把它炒热的,实际上企业AI落地的应用去年、前年都有了。在我看来AI至少有四个方面的问题是值得所有从业者、媒体朋友们一起讨论的:

    1.基础架构。就是所谓的算力平台,GPU的问题。

    2.算法和模型的问题。我们其实并没有人很多地去探讨“算法”和“模型”,可能是因为这个很难被广大的听众们和观众们能够理解。比方说我们今天说:Lab是个算法,很难去解释这个事情。

    3.数据。数据其实因为考虑到合规的问题,每个国家、每个地方都有数据合规的问题,以及数据隐私的问题,其实这也是AI相关的领域。

    4.AI本身的应用场景的问题。现在我觉得AI应用本身场景的问题,每一个企业都在摸索中。我们现在看到大量的生成式AI,就是ChatGPT给我们冲击太大了。国内也有很多大语言模型,例如:文心一言什么的,你问它个问题、它就回答了。但是这些不是企业级的AI应用,企业级的AI应用才是真正的为企业创造生产力的一个内容。什么样的企业级的AI应用真的能够做到新质生产力呢?就是用更少的投入得到更多的产出,这个其实是一个更值得探讨的问题,而且我们中国这么多的企业、这么多的不同的各行各业的企业,我是很坚信企业级的AI应用在中国一定会发展得特别迅速,只是现在大家好像还没有开始探讨这件事。(周小白)