AWS与英伟达扩大生成式AI合作引入GH200

亚马逊云科技（AWS）在2023 re:Invent全球大会上宣布与英伟达扩大战略合作关系，共同推出先进的基础设施、软件和服务，推动客户在生成式AI领域的创新。具体合作内容包括：AWS推出结合NVIDIA Grace Hopper Superchip和Amazon UltraCluster扩展功能的云AI超级计算机；NVIDIA DGX Cloud首次在AWS上提供配备NVIDIA GH200 NVL32的AI训练即服务；英伟达和AWS在Project Ceiba上合作，打造全球最快的GPU驱动AI超级计算机以及最新的NVIDIA DGX Cloud超级计算机，用于英伟达的AI研发和自研模型开发服务；全新的Amazon EC2实例配备NVIDIA GH200、H200、L40S和L4 GPU芯片，显著提升生成式AI、HPC高性能计算、设计和模拟工作负载的性能；在AWS上运行的英伟达软件，包括NeMo LLM框架、NeMo Retriever和BioNeMo，加速自研模型、语义检索、新药研发等生成式AI应用的发展。