- llm-api-benchmark 参考vllm和sglang编写的API性能测试可视化工具，可以直接本地浏览器打开，或者访问在线版本
- fan-control 基于GPU/GPU温度通过IPMI控制主板风扇的脚本，配置service实现自动化运行，当前在超微 H12SSL 主板上稳定运行，其他超微型号如H11SSL、H13SSL也许可以支持.
- CPU风扇插在主板的 FAN-A,FAN-B
- GPU风扇插在主板的 FAN1~N
klzsysy/local-llm-server
Folders and files
| Name | Name | Last commit date | ||
|---|---|---|---|---|