面向 InfiniTensor 的全面加速器评估框架
一个统一、模块化的测试框架，专为加速卡和软件栈的全面性能评估而设计。
InfiniMetrics 提供了标准化的接口，用于在多个层次进行基准测试：
- 硬件层：GPU 内存带宽、缓存性能、计算能力
- 算子层：单个操作的性能（FLOPS、延迟）
- 推理层：端到端模型推理吞吐量和延迟
- 通信层：NCCL 集合操作和 GPU 间通信
- 统一适配器接口 - 所有测试类型和框架的一致 API
- 可扩展架构 - 易于添加新的测试类型、框架和指标
- 全面的指标系统 - 标量值、时间序列数据、自定义测量
- 框架无关 - 支持 InfiniLM、vLLM、InfiniCore 等
- 生产就绪 - 健壮的错误处理、日志记录和结果聚合
详细的指南、配置说明和示例，请参阅完整文档。
欢迎贡献！请参阅我们的贡献指南了解详情。
- Fork 本仓库
- 创建特性分支 (
git checkout -b feature/AmazingFeature) - 提交更改 (
git commit -m 'Add some AmazingFeature') - 推送到分支 (
git push origin feature/AmazingFeature) - 提交 Pull Request
本项目采用 MIT 许可证 - 详见 LICENSE 文件。