跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/jjusko20·· 4 小时前AI 评分21

Yandex/AliceAI 80B-A3B 微调进展更新:初始微调完成约 40%

Update: Yandex/AliceAI 80B-A3B fine tune progress

AI 导读

Reddit 用户更新了 Yandex/AliceAI 80B-A3B 模型微调进展,初始微调已完成约 40%。训练 loss 曲线因误用每个 micro 的最后 loss 而非每步平均值而显得波动剧烈,作者还得到 gemini 3.8 flash high 的帮助。训练过程有直播可查看全部训练数据,约 3.5k 条示例由 sftmill 生成,可提供为数据集。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com