在人工智能技术迅速发展的今天,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智于近日联合推出了一款革命性的开源大模型推理引擎“赤兔Chitu”。此次发布的引擎,标志着AI推理领域又一技术的重大突破。
今天,清华系科创企业清程极智与清华大学翟季冬教授团队联合宣布开源大模型推理引擎「赤兔」(Chitu),率先实现了非 H 卡设备(英伟达 Hopper 架构之前的 GPU 卡及各类国产卡)运行原生 FP8 模型的突破。