就像一个厨师学徒必须先观看大厨的示范，然后才能尝试自己烹饪一样，传统的医疗AI训练方法认为AI必须先"看到"专家如何一步步思考，才能发展出自己的推理能力。但这种依赖性带来了巨大的成本和复杂性。

这个团队上周刚刚在 Hugging Face 低调开源了32B稠密模型，但在多项关键推理评测中击败了 DeepSeek-R1，并与超大规模的 MoE 模型Qwen3-235B-A22B、Seed1.5-Thinking ...

在人工智能领域，大型语言模型（LLMs）的推理能力已经取得了令人瞩目的进展，但伴随而来的是计算资源消耗的急剧增加。2024年5月，来自北卡罗来纳大学教堂山分校、亚利桑那州立大学和弗吉尼亚大学的研究团队在arXiv上发表了题为《追求高效推理：面向思维链 ...

Meta CEO Mark Zuckerberg 和微软 CEO Satya Nadella 在 LlamaCon 2025 闭幕会议上进行对话，就人工智能（AI）的发展及其对技术平台、软件开发、生产力提升等方面的深远影响展开讨论。 Satya ...

大连理工提出基于Wasserstein距离的知识蒸馏方法。 【导读】大连理工大学的研究人员提出了一种基于Wasserstein距离的知识蒸馏方法，克服了传统KL散度 ...

模型蒸馏是一种将知识从大型语言模型（LLMs）转移到较小模型的技术，旨在创建资源高效且性能卓越的模型。 然而，过度蒸馏可能会导致同质化 ...

追光逐电，光引未来...欢迎来到今日光电！ 昨天，我们详细的介绍了模型蒸馏技术，DeepSeek的蒸馏技术更是这一领域的佼佼者，它不仅攻克了传统蒸馏的瓶颈，还在多模态数据处理等前沿领域取得了突破性进展。本文将深入剖析DeepSeek蒸馏技术的核心原理、创新 ...

点击上方蓝字关注我们，不错过任何一篇干货文章！ 最近，很多芯片厂商都官宣了适配DeepSeek，在其中非常高频出现的一个词汇是“蒸馏模型”。而在DeepSeek的一些深度解析中，也提到了“蒸馏”这一概念。那么，“蒸馏”到底指的是什么？ 模型蒸馏技术的 ...

金融界2025年5月29日消息，国家知识产权局信息显示，江苏盛泰化学科技有限公司取得一项名为“一种粗甲醇提纯装置”的专利，授权公告号 CN222900226U，申请日期为 2024 年 09 月。

我国有着悠久的酿酒史。但是一般认为,中国古代人喝的是酿造酒,而现代人常喝的白酒属于蒸馏酒,出现时间很晚,李时珍《本草纲目》认为元代才 ...

为解决医学图像分割中类间相似性干扰及自知识蒸馏学习目标制定难题，研究人员开展了对抗类明智自知识蒸馏（ACW-SKD）的研究。结果表明该方法超越多种方法，提升分割精度，减少计算需求，为医学图像分割模型部署提供新选择。 在医学图像领域，精准的 ...