LLM 在生成 long CoT 方面展现出惊人的能力，例如 o1 已能生成长度高达 100K tokens 的序列。然而，这也给 KV cache 的存储带来了严峻挑战。为应对这一难题，“hybrid model” ...

苏联KV-1重型坦克是美国“现代坦克之母”？这个观点不是天方夜谭，二战后期的M26重型坦克和M24轻型坦克，不少关键技术都来自KV-1的启发。这两种坦克也是美国现代坦克的开端。

因此，1941年7月底到8月初，开始出现配备了6到8个额外燃料箱的 KV-1 。这些坦克通常还配备了加厚的炮塔，分别来自伊治尔工厂和371工厂（列宁格勒机械制造厂）。这些燃料箱并非每辆K V坦克都有，部分坦克最初并未安装额外燃料箱。

相信很多读者一定听说过纳粹德国的虎式重型坦克，作为一个史无前例的巨无霸，它一度成为所有盟军坦克的危险对手，在1937年开始研发，从1942年正式服役。实际上，俄国人的重型坦克，却要来得更早一些。

而回到眼下针对Dynamis One的诉讼，据韩联社新闻报道称，早在朴炳林等人离职时，Nexon就发现未公开项目有数据泄露的迹象，去年便向警方报了案。警方则计划以扣押资料为基础，重点调查Dynamis ...

Tair Serverless ...

虎扑01月10日讯 挑杯决赛主KV今日发布：谁能成为这场巅峰之战的最后赢家？ 原文如下： 2024年王者荣耀挑战者杯 —决赛主KV今日发布 ！ 五位铁血无 ...

SepLLM团队 投稿量子位 | 公众号 QbitAI 文字中貌似不起眼的标点符号，竟然可以显著加速大模型的训练和推理过程？ 来自华为、港大、KAUST和马普所的研究者，就提出了一种新的自然语言建模视角——SepLLM。

摩尔线程科研团队近日发布了一项新的研究成果《Round Attention：以轮次块稀疏性开辟多轮对话优化新范式》，使得端到端延迟低于现在主流的Flash Attention推理引擎，kv-cache显存占用节省最多82％。