Mistral 公司推出 Ministral 3B 和 Ministral 8B 两款 AI 模型,无需连接云服务器,重点提升笔记本电脑和智能手机等设备的本地化 AI 体验,被官方称为“世界上最好的边缘模型”。越来越多企业希望在个人设备上运行 AI 模型以确保安全的数据处理和提高响应速度。这两个模型可在无互联网接入情况下执行翻译、本地分析和机器人等多项服务,上下文窗口均为 128K,能处理 50 页文档。Ministral 8B 每百万个 tokens 售价 0.1 美元,3B 版本为 0.04 美元,适合小规模操作或初创开发者。Ministral 8B 采用特殊的交错滑动窗口注意力机制,推理时更快且节省内存。
官网地址:
https://mistral.ai/news/ministraux/
