NVIDIA推出NIM平台,加速生成式AI部署

NVIDIA发布NIM平台,通过优化容器简化生成式AI应用的部署,将时间从数周缩短至数分钟。NIM提升开发者生产力,并让企业最大化利用基础设施投资。例如,使用NIM运行Meta Llama 3-8B可使生成式AI效率提高3倍。NIM已获200家技术合作伙伴支持,应用于代码助手和数字人类化身等领域。开发者可通过Hugging Face平台访问NIM微服务,并利用NVIDIA GPU实现快速推理。NVIDIA开发者计划成员可免费访问NIM进行研究和测试。

搜索