资讯

腾讯网1月
Linear-MoE：线性注意力遇上混合专家的开源实践_腾讯新闻
1. 上海人工智能实验室团队发布了最新成果Linear-MoE，首次实现了线性序列建模与混合专家的高效结合。 2. Linear-MoE包括Modeling和Training两大部分，支持 ...