在深度学习的背景下，NVIDIA的CUDA与AMD的ROCm框架缺乏有效的互操作性，导致基础设施资源利用率显著降低。随着模型规模不断扩大而预算约束日益严格，2-3年更换一次GPU的传统方式已不具可持续性。但是Pytorch的最近几次的更新可以有效利用异构计算集群，实现对所有可用GPU资源的充分调度，不受制于供应商限制。 本文将深入探讨如何混合AMD/NVIDIA GPU集群以支持PyTorch分布 ...

在快速发展的人工智能（AI）领域，亚马逊的5纳米Trainium2微处理器正试图打破Nvidia的垄断局面。尽管该芯片在单一性能上可能不及Nvidia最新的AI芯片，但亚马逊希望通过精心设计的垂直整合，充分发挥其芯片的计算能力。这是一个大胆的赌注，尤其是考虑到Trainium芯片的目标是用作构建世界上最强大的计算机的基础，这个项目被称为“Rainier项目”。此外，亚马逊在2015年以3.5亿美元 ...

然而，由于原料供应短缺，NVIDIA在8月份透露了设计 ... 其他大客户还包括亚马逊AWS、甲骨文和meta。 Blackwell GPU的GB200-NV36和GB200-NV72两款服务器计划 ...

早在今年3月份，NVIDIA就发布了新一代高性能GPU Blackwell ... 拿货数量最多，亚马逊AWS、甲骨文、Meta等也都是一级客户。 不过，具体的出货规模 ...