首页 产业新闻 NVIDIA AI Foundry上线 ,可帮助企业构建和部署自定义Llama 3.1模型

NVIDIA AI Foundry上线 ,可帮助企业构建和部署自定义Llama 3.1模型

产业新闻 46

    7月24日消息,NVIDIA 宣布推出全新 NVIDIA AI Foundry 服务和 NVIDIA NIM 推理微服务,与同样刚推出的 Llama 3.1 系列开源模型一起,为全球企业的生成式 AI 提供强力支持。

    昨日晚间,Meta推出开源模型Llama 3.1,包括3个大小版本,分别是迄今为止最强大的开源模型Llama 3.1 405B,以及全新升级的Llama 3.1 70B和8B模型。其中,Llama 3.1 405B 在常识、可操纵性、数学、工具使用和多语言翻译方面的最先进能力方面可与GPT-4o、Claude 3.5 Sonnet和Gemini Ultra等顶级 AI 模型相媲美。

    现在,借助 NVIDIA AI Foundry,企业和各国现在能够使用 Llama 3.1 以及 NVIDIA 软件、计算和专业知识,为其特定领域的行业用例创建自定义“超级模型”。企业可以使用自有数据以及由 Llama 3.1 405B 和 NVIDIA Nemotron Reward 模型生成的合成数据,来训练这些超级模型。

    NVIDIA AI Foundry 是由 NVIDIA DGX Cloud AI 平台驱动。该平台由 NVIDIA 与全球领先的公有云共同设计,旨在为企业提供大量计算资源,所提供的计算资源可随着 AI 需求的变化轻松扩展。

    NVIDIA 创始人兼首席执行官黄仁勋表示:“Meta 的 Llama 3.1 开源模型标志着全球企业采用生成式 AI 的关键时刻已经到来。Llama 3.1 将掀起各个企业与行业创建先进生成式 AI 应用的浪潮。NVIDIA AI Foundry 已经在整个过程中集成了 Llama 3.1,并能够帮助企业构建和部署自定义 Llama 超级模型。”

    Meta 创始人兼首席执行官马克·扎克伯格表示:“全新的 Llama 3.1 模型是开源 AI 迈出极其重要的一步。借助 NVIDIA AI Foundry,企业可以轻松创建和定制大家想要的最先进的 AI 服务,并通过 NVIDIA NIM 进行部署。我很高兴能将它交付到大家手中。”(宜月)