自然界中，为何萤火虫会同步闪烁？为何不同材料的表面生长遵循相似规律？2025年玻尔兹曼奖授予Mehran Kardar和Yoshiki ...

最近，英伟达CEO黄仁勋在GTC大会上提出了一个大胆的 Scaling Law ...

这就是在业界甚嚣尘上的 scaling law 撞墙猜测。 简而言之，机器学习的 scaling law 的指的是随着模型大小（参数量）、数据集、训练成本这三大要素的提升，大模型的性能也会有所提升（具体细节不展开）。

这种方法主要是把像ChatGPT、Qwen、DeepSeek这些成型的LLM当作 “专家” ，当给一个输入的时候，有分类能力的Router（路由器）就会把这个输入分配给合适的LLM处理。

谷歌推出的DiLoCo分布式训练方法，其Scaling Law比数据并行更稳健、更优越、更高效、更强大，其模型规模越大优势越明显，有效解决通信瓶颈，为大模型训练开辟新可能。网友称DiLoCo可能会重新定义Scaling的方式。

在科技界的聚光灯下，英伟达CEO黄仁勋于GTC 2025大会上再度成为焦点。尽管近期英伟达股价遭遇重创，触及十年低点，但黄仁勋依旧以一身标志性的皮衣亮相，信心满满地展示着公司的最新GPU技术。

【新智元导读】 谷歌团队发现了全新Scaling Law！新方法DiLoCo被证明更好、更快、更强，可在多个数据中心训练越来越大的LLM。 更稳健（Harder） ：在不同模型规模下，DiLoCo的超参数依然保持稳定且可预测。

Scaling Law 由 OpenAI 团队于 2020 年正式提出，并在其论文《神经语言模型的扩展定律》（Scaling Laws for Neural Language Models）中进行了详细阐述。Scaling Law ...

英伟达发布BlackwellUltra等新GPU架构，虽被质疑创新不足但维持技术领先。DeepSeek通过低端GPU蒸馏实现高性能冲击行业，引发ScalingLaw失效讨论。黄仁勋提出token消耗激增将推动算力需求，推理模型消耗更多token抵消了 ...

近些年来，地缘政治格局出现巨大的不确定性，技术限制成了新闻常态。对我国来说，基于电计算的算力芯片，一直面临着高端工艺制程和封装的技术限制。美国商务部从2022年开始，逐年对此推出限制，从早起的算力密度、算力上限和互联带宽，到后来的晶体管数量、芯片面积 ...

｜2025年3月17日 星期一｜ NO.1 Joby Aviation在英国推出电动空中出租车 近日，Joby ...

在科技界的聚光灯下，英伟达创始人黄仁勋于GTC 2025大会上再度亮相，身着标志性的皮衣，风采不减当年。尽管近期英伟达股价遭遇重创，跌至十年谷底，但黄仁勋对自家最新GPU的信心并未动摇。