热点事件持续更新
LLM蒸馏为287M编码器抽取500万份法律判决
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年10月4日，Reddit r/LocalLLaMA 一位用户分享了对约 500 万份法院判决做结构化抽取的方案：先用 Claude Sonnet 标注约 700 份判决，再将 LLM 蒸馏到两个 287M 的 GLiNER 编码器模型，一个负责标注实体、动作和值的 span，另一个做多项选择题式的实体归组和分类。推理在一张 RTX 5090 上约每秒处理 2.3 份判决，实体提及 F1 为 0.901，低于 LLM 自评的 0.935。作者表示在跑全量数据前公开完整配方，征求社区改进建议。
AI 根据报道生成 · 1 小时前更新
最新进展10月4日 21:58
作者公开蒸馏完整配方，全量运行前征求社区改进建议。报道时间线
沿着报道，了解事件的不同侧面。
10月4日
- Reddit r/LocalLLaMA (开源AI)作者将 LLM 蒸馏为两个 287M GLiNER 编码器做法律文书抽取，性能略低于教师模型
Reddit 用户为约 500 万份法院判决做结构化抽取，用 Claude Sonnet 标注约 700 份判决后蒸馏到两个 287M 模型：一个标注实体、动作和值的 span，一个做多项选择题式的实体归组和分类。推理在一张 RTX 5090 上约每秒 2.3 份判决，实体提及 F1 为 0.901，低于 LLM 自评的 0.935，作者在跑全量数据前公开完整配方征求改进建议。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。