Mistral 发布 24B 参数模型 Mistral Small 3,Apache 2.0 开源
Mistral AI 发布 Mistral Small 3,一个延迟优化的 24B 参数模型,以 Apache 2.0 许可证开源,同时提供预训练和指令微调两个 checkpoint。
推荐理由:24B 参数、Apache 2.0 开源并可在单张 RTX 4090 或 32GB MacBook 上量化运行,读者可据此判断本地部署的可行性。
跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。
Mistral AI 发布 Mistral Small 3,一个延迟优化的 24B 参数模型,以 Apache 2.0 许可证开源,同时提供预训练和指令微调两个 checkpoint。
推荐理由:24B 参数、Apache 2.0 开源并可在单张 RTX 4090 或 32GB MacBook 上量化运行,读者可据此判断本地部署的可行性。