法国 AI 公司 Mistral 开源推理模型 Magistral Small 1.2

法国人工智能公司 mistral ai 发布了其 magistral 系列的最新开源推理模型——magistral small 1.2。这款新模型具备 240 亿参数,基于 apache 2.0 许可协议开放使用,支持长达 128k 的上下文长度,涵盖多语言处理能力,并首次集成视觉输入功能。

法国 AI 公司 Mistral 开源推理模型 Magistral Small 1.2

法国 AI 公司 Mistral 开源推理模型 Magistral Small 1.2

与前一版本 1.1 相比,此次更新引入了视觉编码器模块,并新增了独特的 [THINK]...[/THINK] 特殊标记机制,用于明确标识模型内部的推理路径。该设计使得用户能够更清晰地追踪和理解模型决策过程。系统提示中已预置推理模板,兼容主流推理框架如 vLLM、Transformers 和 llama.cpp,开箱即用。此外,官方还发布了 GGUF 量化版本以及基于 Unsloth 的微调示例,便于开发者在不同环境中高效部署与优化。

与此同时,企业级版本 Magistral Medium 1.2 也完成同步升级,继续通过 Le Chat 提供流畅的对话体验,其 API 接口现已正式登陆 La Plateforme 平台,供商业用户调用。

网友留言(0 条)

发表评论