英伟达：发布新一代AI芯片H200

英伟达发布了H200 Tensor Core GPU，这是一款新一代的AI芯片。作为首款搭载HBM3e内存的GPU，H200具有更大的内存容量和更快的速度，为生成式AI和大型语言模型（LLM）的加速提供了强大的性能，并推动了高性能计算（HPC）中的科学计算工作负载。借助HBM3e技术，H200拥有每秒4.8 TB的内存带宽和141GB的内存容量，相较于A100，内存容量翻倍，带宽增加2.4倍。在处理Llama 2等LLM时，H200的推理速度比H100提高了2倍。全球的服务器制造商和云服务提供商预计将在2024年第二季度开始提供搭载H200的系统。首批采用H200的云服务提供商包括CoreWeave、Lambda、Vultr、AWS、谷歌云、微软Azure和甲骨文等。