首页 产业新闻 亚马逊云科技与英伟达扩展合作 加速超万亿参数级大模型训练

亚马逊云科技与英伟达扩展合作 加速超万亿参数级大模型训练

产业新闻 13

    亚马逊云科技与英伟达扩展合作,加速生成式 AI 创新。双方将在亚马逊云科技上提供 NVIDIA Blackwell 架构 GPU,包括 GB200Grace Blackwell 超级芯片和 B100Tensor Core GPU,以帮助客户解锁新的生成式 AI 能力。合作重点如下:

    1. 加速超万亿参数级大语言模型训练:亚马逊云科技提供 GB200NVL72配置的 NVIDIA Blackwell 架构,配备72颗 Blackwell GPU 和36颗 Grace CPU,通过第五代 NVIDIA NVLink 互连。结合亚马逊云科技的 EFA 网络、Amazon Nitro 系统和 Amazon EC2UltraClusters 超大规模集群,客户能够扩展至数千个 GB200超级芯片,加速大语言模型训练和推理。

    2. 提升安全性:整合 Amazon Nitro 系统、Amazon KMS 和 EFA 加密技术,保护模型权重的安全,防止未授权访问模型权重。通过 Amazon Nitro Enclaves 和 Amazon KMS 创建可信执行环境,实现数据加密和保护客户数据安全。

    3. 推进未来生成式 AI 创新:Ceiba 项目是 NVIDIA 在亚马逊云科技上搭建的世界上最快的 AI 超级计算机,采用 GB200GPU 和 Grace CPU 构建,性能提升6倍。Ceiba 项目将推动生成式 AI 领域的创新,包括大语言模型、图形、数字生物学等。

    4. 推动生成式 AI 应用开发及医疗健康与生命科学领域:整合 Amazon SageMaker 和 NVIDIA NIM 推理微服务,提供高性能、低成本的生成式 AI 推理解决方案。在药物发现领域,推出 NVIDIABioNeMo 基础模型,加速化学、蛋白质结构预测等应用。推出生成式 AI 微服务,推进药物发现和医疗领域的发展。

广告

文章目录

    标签列表