跳到正文
原文
Mistral AI·· 2025-01-30精选AI 评分66

Mistral 发布 Mistral Small 3:24B 参数 Apache 2.0 开源低延迟模型

Mistral Small 3

AI 导读

Mistral 发布 Mistral Small 3,24B 参数、Apache 2.0 许可的低延迟模型,MMLU 超过 81%,延迟 150 tokens/s,官方称性能与 Llama 3.3 70B instruct 相当且同硬件下快 3 倍以上。

推荐理由

原文给出 24B 参数下的延迟与基准对比和部署平台清单,读者可以据此评估本地部署与低延迟场景的模型选型。

来源:Mistral AI · mistral.ai