跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/PhysicsDisastrous462·· 4 小时前AI 评分46

原生 Rust + Vulkan Transformer 训练后端更新:14 天后达成 14 个 parity 验证架构与完整 PEFT

Follow-up: my native Rust + Vulkan Transformer training backend — 14 days later, now 14 parity-verified architectures and full PEFT

AI 导读

一位开发者的原生 Rust + Vulkan Transformer 训练后端在 14 天内将 parity 验证架构从 7 个增至 14 个,包括 Falcon H1、DeepSeek V4、Qwen3.5 等,误差门槛为 2e-7,最差两步 AdamW 参数误差 1.19e-7。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com