在2025年计算机视觉与模式识别会议（CVPR）召开之际，何恺明与深度学习领域的先锋LeCun联合发布了一项颠覆性的新技术——动态Tanh（DyT）。这项技术以其简单的实现方式和卓越的性能优势，引发了业内的广泛关注和讨论。DyT的核心在于通过仅9行代码，替代传统的归一化层，未尝减少性能的同时还显著加速了深度学习模型的训练过程。这一突破不仅挑战了现代神经网络中归一化层的必要性，也为未来的模型架构优化 ...

近日，何恺明与深度学习领域的明星研究员Yann LeCun联合发表了新论文，提出了一种名为DyT（Dynamic ...

编辑：编辑部 ZYJ 【新智元导读】Transformer架构迎来历史性突破！刚刚，何恺明LeCun、清华姚班刘壮联手，用9行代码砍掉了Transformer「标配」归一化层，创造了性能不减反增的奇迹。

梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI 何恺明LeCun联手：Transformer不要归一化了，论文已入选CVPR2025。 归一化长期以来一直被认为是必不可少的，在现代神经网络中无处不在。 但团队认为可以换用一种非常简单的技术 ...

在《刘永灼详解造车路线图》一文中写道：“而早在布局汽车产业支出，恒大集团总裁许家印便已确立了恒大造车的三大宏伟目标：2025年实现年产销超100万辆，到2035年实现年产销超500万辆，成为世界上规模最大、实力最强的新能源汽车集团：核心技术目标必须世界一流，知识产权必须自主拥有：产品品质必须世界一流。” ...

来自Meta AI的华人科学家刘壮团队，联合AI大神何恺明， 图灵奖得住Yann LeCun等大牛搞了个大新闻——他们的最新论文证明了：Transformer ...

机器之心报道机器之心编辑部何恺明又双叒叕发新作了，这次还是与图灵奖得主 Yann LeCun 合作。这项研究的主题是没有归一化层的 Transformer（Transformers without Normalization），并已被 CVPR ...

DyT适用于注意力块、FFN块和最终归一化层，尽管它可能看起来像是激活函数，但在这篇研究中不会改变原始架构中激活函数的任何部分，网络的其他部分也保持不变。

中国人民银行定于2025年3月18日发行2025版中国龙银质纪念币一枚，该银质纪念币为中华人民共和国法定货币。 一、纪念币图案 （一）正面图案。 该枚银质纪念币正面图案为长城图案，并刊国名、年号。 （二）背面图案。 该枚银质纪念币背面图案为中国龙形象 ...

Ensure words are spelled correctly. Try rephrasing keywords or using synonyms. Try less specific keywords. Make your queries as concise as possible.

受此启发，研究者提出了一种元素级运算，称为 Dynamic Tanh（DyT），定义为：DyT (x) = tanh (αx)，其中 α 是一个可学习参数。此运算旨在通过 α 学习 ...