开发者自研多引擎 LLM 本地推理监控面板

2026年10月5日，一位开发者在 Reddit r/LocalLLaMA 展示了一款正在开发中的 LLM 推理资源仪表盘。该工具支持多种推理引擎，包括 llama、strata、自定义 CUDA 引擎、unsloth 和 LMS 等，本地运行的上限体积为 64MB，定位为轻量级本地监控工具。除本地运行外，该工具还可通过 collector 在网络 API 端点上进行扩展。作者表示，其提供的日志和指标比默认的 endpoint API 更为丰富。目前该工具尚未公开发布，作者正在帖子中征集用户的兴趣反馈，以判断是否继续推进开发。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。