首页 产业新闻 企业如何快速实现AI应用落地?红帽给出“三步走”AI部署路径

企业如何快速实现AI应用落地?红帽给出“三步走”AI部署路径

产业新闻 63

    11月4日消息,过去两年,全球资本大举投入AI基础建设,目前AI的基础架构已经基本完善,但许多企业应用仍未落地。不少企业曾尝试用大模型提升效能,但发现大模型不适合生产场景,因为一点小错就可能带来风险。

    在2024红帽论坛上,企业级开源解决方案提供商红帽公司展示了其如何用开放混合的AI和开源方法加速企业AI应用。红帽全球副总裁兼大中华区总裁曹衡康表示,用混合开放的模式来开发AI已成为一个必然趋势,红帽在基础架构上采用混合云模式,支持本地数据中心、公有云和边缘计算环境的运行,并支持开源和闭源模型,从而为企业提供灵活选择。

    在过去几年,红帽提出了“小模型”概念,即专属模型(faithful purpose),让企业的数据驱动AI模型的生成,确保模型稳定、安全,并符合企业的特定需求。同时还引入“社区版”小模型,通过合成数据大幅减少对真实数据的需求,将数据量降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,能耗也大幅减少,对环境更加友好。

    场景应用是ISV(独立软件开发商)和应用供应商最擅长的领域。由于许多企业和行业都有各自的特点,红帽加速了与本土ISV及方案开发商的合作,这合作涵盖芯片和软件等方面,同时也确保红帽的开源路线在国内得到更多本土化支持。红帽大中华区资深市场总监赵文斌透露,红帽最近与NVIDIA等全球合作伙伴开展了新项目,特别是在加速场景应用落地方面。

    值得一提的是,实际应用中,企业在AI预算方面非常谨慎,通常需要看到效果后才会进一步投入。对此,曹衡康表示,红帽的混合云理念鼓励客户在合适的场所部署算力,比如公司内部数据中心、公有云,甚至跨多云环境。去年红帽推出了“Unlock”理念,就是希望避免客户被锁定在特定云上,开源架构为客户提供更多弹性和自由度。

    具体来看,红帽提出了“分步实施”的策略,即企业AI应用三步曲。第一步,客户可以在最小资源配置下试用开源模型和工具,比如在笔记本电脑上用CPU试跑,而不需要额外的GPU卡。

    如果第一步测试效果满意,客户可以进入第二步,通过云租用算力进行进一步扩展。红帽平台几乎可在任何云上运行,客户可以选择公司数据中心或外部公有云资源,这样在确认模型适合需求后,才进入第三步的大规模部署。

    第三步,红帽的架构支持跨云混合部署。例如,客户可以在中国使用阿里云,在美国使用AWS,这种多云方案既灵活又经济。我们的目标是帮助客户实现最佳的投资回报率(ROI),并在每一步提供适配的支持。

    红帽大中华区方案架构部总经理王慧慧介绍称,自2019年IBM成为红帽母公司以来,IBM在开源方面的投入愈发积极,在工作方式和平台选择上越来越倾向开源。IBM将其最初的Watson平台(现称Watson X)逐步开源,接下来IBM和红帽将共同致力于维护开源模型的持续迭代。