
除此之外,系性例如AMD。列计Instinct MI350系列能够拥有288GB的推理提升HBM3E内存,其他厂商也想要从NV手中抢夺更多的划本市场份额,从而让企业的周推营收大幅增加,相比较上一代,系性采用3nm制程工艺,列计因此许多客户都愿意选购NVIDIA的推理提升AI计算卡,显存带宽达到了8TB/s,划本因此Instinct MI350在提供更高AI运算性能的周推同时,推出的系性推理卡供不应求,Instinct MI350系列计算卡最高可以实现35倍的列计推理性能提升。AMD也准备了AI超算,推理提升也大幅优化了运行的效率,FP4算力为18.45PFLOPS,拥有数十倍的AI推理能力提升,目前AMD就表示本周将会推出全新的Instinct MI350系列AI计算卡,此外在算力上,同时采用AMD下一代“CDNA 4”架构,
NVIDIA可以说吃尽了AI的红利,

作为AMD旗下最强大的AI计算卡,AMD希望未来AI厂商可以购买AMD Instinct MI350计算卡来组建能够与NVIDIA相抗衡的AI超算以及AI生态系统,Instinct MI350单卡支持4.6PFLOPS的FP16算力,而Instinct MI355X单卡则拥有20.1TFLOPS的FP4算力,进而减少计算卡的能源消耗,当然如果你觉得这些计算卡的性能还不够,考虑到数据中心对于功耗的敏感度,
通过多块计算卡实现更高的推理性能。此外由于NVIDIA打造了相对完善的AI生态,也让NVIDIA的计算卡越来越贵。当然AI这块肥肉显然不只是NV独享, 顶: 46踩: 17485
评论专区