6 月 17 日消息,阿里巴巴通义团队开源了全新的千问 3 量化模型,完成基于苹果硬件的 MLX 框架的全系模型深度适配。MLX 框架是专为苹果芯片优化的机器学习框架,在 AI 开源社区广受关注。此次千问 3 一次性推出 32 个官方 MLX 量化模型,包含 4bit、6bit、8bit 和 BF16 等不同精度,可最大程度满足开发者在 Mac Studio、Macbook、iPhone 等不同苹果硬件上部署大模型的需求。据了解,此前在千问 3 发布时,苹果机器学习科学家 Awni Hannun 就曾第一时间用苹果硬件部署千问 3,他公开称赞千问 3 的超强性能,并表示 MLX 与千问 3 是最佳拍档。
