跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/okoyl3·· 4 小时前AI 评分44

Strata 分支在 IBM AC922 上运行 Qwen3.8-FN UD-Q4_K_XL,prefill 最高 7,357 tk/s、decode 113 tk/s

A Strata fork for IBM AC922 running Qwen3.8-FN UD-Q4_K_XL is doing up to 7,357 tk/s prefill and 113 tk/s decode

AI 导读

一位开发者 fork Strata 并深度改造,使其能在 IBM AC922(双 POWER9 CPU + 4×16GB Tesla V100,NVLink 连接)上运行 Qwen3.8-FN UD-Q4_K_XL。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com