英伟达宣布推出新一代 GH200 Grace Hopper 超级芯片平台。新平台依托于搭载全球首款 HBM3e处理器的新型Grace Hopper超级芯片(下称GH200),专为加速计算和生成式 AI 时代而打造。
在计算机图形年会 SIGGRAPH 上,英伟达创始人兼 CEO 黄仁勋发布了多款硬件,其中包括了 GH200。黄仁勋更称 “生成式人工智能(AI)是 AI 的 ‘iPhone’ 时刻”。
据黄仁勋介绍,图形芯片和处理器相结合的 Grace Hopper 超级芯片将从一种新型存储器中获益。GH200 Grace Hopper芯片又被称为 “加速计算和生成式 AI 时代的处理器” ,依赖于高带宽存储器 3(即 HBM3e),后者能够以每秒钟高达 5TB 的速度访问信息。
HBM3e 比当前的 HBM3 快 50%,可提供总共每秒 10TB 的组合带宽,使新平台能运行比前代大 3.5 倍的模型,同时通过快三倍的内存带宽提高性能。拥有更大的内存也意味着未来可以让模型驻留在单个 GPU 上,而不必需要多个系统或多个 GPU 才能运行。
因此,黄仁勋将 GH200 称为 “世界上最快的内存”。他表示,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的 GH200 Grace Hopper 超级芯片平台提供了卓越的内存技术和带宽,以此提高吞吐量,提升无损耗连接 GPU 聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。
目前,英伟达计划销售 GH200 的两种版本:一种是包含两个可供客户集成到系统中的芯片,另一种则是结合了两种 Grace Hopper 设计的完整服务器系统。
英伟达称,全新的 GH200 将大大降低训练成本和提升训练速度,将于 2024 年第二季投产。
资料来源:综合报道;图片来源:英伟达官方微博