跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/jjusko20·· 11 小时前AI 评分46

SFTMill 发布:通过 OpenAI 兼容端点对任意现有 LLM 做 off-policy 蒸馏,把行为目标变成完整数据集

SFTMill: Easily [off-policy] distill any existing LLM with an OpenAI Compatible Endpoint. Turn any behavioral goal into a comprehensive dataset.

AI 导读

开发者开源 SFTMill,可用 OpenAI 兼容端点对任意现有 LLM 做 off-policy 蒸馏。用户在 yaml 文件中定义课程(curriculum),由 LLM 生成任务,再由被蒸馏的模型逐题解答,产出覆盖微调目标的完整 Q/A 数据集。作者用 qwen 3.8 27b(medium 档)生成任务,并已用该工具为 AliceAI 80B A3B 的微调生成训练数据。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com