售前咨询-李:13308089138
售前咨询-吴:17760489178 English
前沿资讯 真实、准确的物联网、互联网行业新闻

AMD在CES 上推出百亿亿次级数据中心加速器

你的位置: 网站首页 新闻动态 行业资讯
AMD在CES 上推出百亿亿次级数据中心加速器
2023-01-11 00:05:49 阅读: 发布人:纵横智控

消费电子展 (CES) 可能是您最不希望企业产品首次亮相的地方,但 AMD 在拉斯维加斯展会上推出的众多消费 CPU 和 GPU 中推出了一款新的服务器加速器。

AMD 揭开了其 Instinct MI300 加速器的神秘面纱,真是太棒了。

加速处理单元 (APU) 是 13 个小芯片的组合,包括 CPU 内核、GPU 内核和高带宽内存 (HBM)。加起来,AMD 的 Instinct MI300 加速器拥有 1460 亿个晶体管。相比之下,英特尔雄心勃勃的Ponte Vecchio处理器将有大约 1000 亿个晶体管,而 Nvidia 的Hopper H100 GPU只有 800 亿个晶体管。

RTU

nstinct MI300 有 24 个 Zen 4 CPU 内核和六个 CDNA 芯片。CDNA 是 AMD 的 RDNA 消费图形技术的数据中心版本。AMD 没有说明每个小芯片有多少个 GPU 内核。Instinct MI300 的四舍五入是堆叠在 3D 设计中的 128MB HBM3 内存。

3D 设计允许 CPU、GPU 和内存芯片之间的巨大数据吞吐量。数据不需要从 CPU 或 GPU 传输到 DRAM;它进入 HBM 堆栈,大大减少了延迟。它还允许 CPU 和 GPU 同时处理内存中的相同数据,从而加快处理速度。

AMD 首席执行官 Lisa Su 在 90 分钟的 CES 主题演讲结束时宣布了这款芯片,称 MI300 是“第一款将 CPU、GPU 和内存整合到单一集成设计中的芯片。这使我们能够为内存和 IO 共享系统资源,从而显着提高性能和效率,并且[变得]更容易编程。”

Su 表示,MI300 的 AI 性能是 Instinct MI250 的八倍,每瓦性能是 Instinct MI250 的五倍。她提到了大肆宣传的人工智能聊天机器人 ChatGPT,并指出训练模型需要几个月的时间;Su 表示,MI300 可将培训时间从数月缩短至数周,从而节省数百万美元的电费。

请注意,AMD 的 MI250 是一块令人印象深刻的硅片,用于橡树岭国家实验室的第一台百亿亿级超级计算机Frontier 。

AMD 的 MI300 芯片类似于英特尔在 2024 年推出的 Falcon Shores,以及英伟达在今年晚些时候推出的 Grace Hopper Superchip。苏说,该芯片目前正在实验室中,并为选定的客户提供样品,预计将于今年下半年推出。

AMD 推出的新 AI 加速器

Instinct 并不是 CES 上唯一的企业公告。Su还介绍了Alveo V70 AI推理加速器。Alveo 是 AMD 去年收购的 Xilinx FPGA 系列的一部分,它采用 AMD 的 XDNA AI 引擎技术构建。据 AMD 称,它可以在各种 AI 模型上每秒提供 4 亿次 AI 操作,包括视频分析和客户推荐引擎。

Su 表示,在视频分析方面,与竞争对手相比,Alveo V70 为智慧城市应用提供的街道覆盖范围增加了 70%,用于患者监测的医院病床覆盖范围增加了 72%,智能零售店的结账通道覆盖范围增加了 80%,但她没有说竞争是什么。

所有这一切都在 75 瓦的功率范围内,而且外形小巧。AMD 将于今天接受 V70 卡的预订,并于今年春季上市。


友情链接