拥有大规模、高质量数据的金融行业，被认为是生成式AI应用落地最有前景的行业之一。NVIDIA（英伟达）《2024年金融服务业AI现状与趋势》调研报告显示，各个企业已经看到了AI的成效。68%的金融服务专业人士表示，AI提高了他们的运营效率，44%的受 ...

在过去两年中，生成式AI模型不仅快速普及，还在规模上呈现出急剧扩张的趋势。这一变化源于深度学习所需的加速器数量急剧增加，而电力则成为制约AI发展的瓶颈。因此，面对数据中心无法再继续扩建的困境，业界开始探索一种新型的超级计算机架构，可能跨越整个国家甚至跨大洲进行协同工作。这一设想意图明确：如果无法再建设更大的数据中心，就应当整合现有资源，连接起已建成的数据中心，开展分布式计算。正如Dell'Oro分 ...

一般来说，AI 工作负载需要高带宽且对延迟敏感。在数据中心内部，主要挑战在于数据包丢失或连接停滞，导致计算资源在等待数据重传时处于空闲状态。根据 AMD 的数据，平均 30% 的训练时间都在等待网络赶上进度。

因此，Nvidia 最自然的两个竞争对手是美国领先的 CPU 供应商英特尔和 AMD。英特尔的最大优势在于 CPU。英特尔的 Xeon CPU 仍然是企业服务器的首选，数十年来的传统软件都针对它进行了优化。在服务于传统科学和工程 HPC 代码以及新兴 AI 工作负载的混合工作负载环境中，这些 CPU 的兼容性和性能非常重要。

NVIDIA（英伟达）《2024年金融服务业AI现状与趋势》调研报告显示，各个企业已经看到了AI的成效。68%的金融服务专业人士表示，AI提高了他们的运营 ...

传统芯片在晶圆上以网格模式打印，然后切割成数百个小型芯片，而Cerebras的晶圆级集成则跳过了这种切割步骤，直接将整个晶圆设计成一个单一的超大芯片，因此称为“晶圆级”引擎。该方案通过将海量的计算资源和存储资源集中在单一的超大规模芯片（晶圆）上，优化了数据传输路径，减少了延迟，显著提高了推理速度。