这是一个用于对比测试不同大语言模型(LLM)性能的工具平台，支持DeepSeek API、Ollama本地模型和VLLM本地模型。通过预设测试用例或自定义输入，可以直观比较不同模型的响应速度、回答质量等指标。其中VLLM模型服务通过优化的内存管理和模型加载策略，提供了 ...