在科技不断进步的今天，来自清华大学高性能计算研究所的新闻如同一股清流，震撼行业！翟季冬教授团队与清华校友创办的清程极智共同推出了一款名为“赤兔Chitu”的开源大模型推理引擎。这款令人兴奋的引擎首次实现了在非英伟达Hopper架构GPU及众多国产芯片上进行FP8精度模型的原生运行，推理成本降低一半的同时，性能竟实现了翻倍，真是一次颠覆性的技术飞跃！

过去十年，归一化层已经巩固了其作为现代神经网络最基本组件之一的地位。这一切可以追溯到 2015 年批归一化（batch ...

在 A800 集群上的实测数据显示，用赤兔引擎部署 DeepSeek-671B 满血版推理服务，相比于 vLLM 部署方案，不仅 使用的 GPU 数量减少了 50% ，而且 输出速度还提升了 3.15 倍 当前，拥有完整自主可控的 AI ...