您的位置:首页 / 二流茬博客 / AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!

信息未审核或下架中,当前页面为预览效果,仅管理员可见
  • #帮帮分享#AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!

    2024/01/23 20:26:11 发布6076 浏览0 回复0 点赞
jihepc
管理
VIP铁粉

帖子:522

精华:2

注册:2020/02/12 22:18:00

IP属地:未知

快科技1月23日消息,AMD去年底正式发布了新一代加速GPU Instinct MI300X/MI300A,首批向超算、数据中心等大客户出货,包括美国政府、微软、Meta,现在一些小客户也拿到了货。

LaminiAI,一家新兴的AI创业企业,一直与AMD关系非常好,就晒出了自己批量到货的MI300X,将用来训练自己的LLM大语言模型。

他们使用的是八路并行配置,单系统就有八块这样的加速器,从截图里就可以看到八块卡,只不过都处于空闲状态,并未火力全开。

AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!
AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!© 由 快硬件 提供
AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!
AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!© 由 快硬件 提供

早在去年7月,美国能源部旗下的劳伦斯利弗莫尔国家实验室(LLNA)就宣布,全新的“El Capitan”(酋长岩)超算已开始安装MI300A加速器,将在2024年满血上线,预计性能超过200亿亿次浮点计算每秒。

如今,小客户也拿到了MI300加速器,显然产能已经上来,可以批量供货了,对AMD来说非常关键。

AMD此前曾预计,MI300系列加速器将成为公司历史上最快达到1亿美元收入的产品。

AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!
AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!© 由 快硬件 提供

AMD MI300X集成八个5nm XCD加速计算模块,共计304个计算单元,搭配四个6nm IOD模块,集成256MB无限缓存,还有八颗共192GB HBM3内存,总计1530亿个晶体管。

按照官方说法,MI300X的性能可以超过NVIDIA H100 80GB。

MI300A是全球首款面向AI、HPC的APU加速器,配置六个XCD模块、228个计算单元,以及三个CCD模块、24个Zen4 CPU核心,搭配128GB HBM3内存,总计1460亿个晶体管。

AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!
AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!© 由 快硬件 提供
AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!
AMD MI300X加速GPU买家首秀:八路并行 死磕NVIDIA就靠它了!© 由 快硬件 提供


以下内容回复后可见

已有0人打赏

已有0人点赞

0人赞


    加载中...

    回复楼主

    该帖子已经关闭回复
    回复 承诺遵守文明发帖,国家相关法律法规

    超级管理

    发布新帖 帖子管理 返回顶部