Reddit r/LocalLLaMA (开源AI)· /u/jjusko20·· 3 小时前AI 评分28
Update #2:从零后训练 yandex/AliceAI-80B-A3B(instruct 版)
Update #2: Post training yandex/AliceAI-80B-A3B [instruct!] from scratch
AI 导读
作者正在对 yandex/AliceAI-80B-A3B 做指令微调,仅后训练 attention 和 shared expert、冻结 base experts,初始训练约 48 小时接近完成,平均 loss 稳步下降。
来源:Reddit r/LocalLLaMA (开源AI) · reddit.com