微软宣布了其紧凑型人工智能模型 Phi-3 Mini 的下一版本，这是该公司计划发布的三款小型模型中的第一个。
Phi-3 Mini 拥有 38 亿个参数，与 GPT-4 等大型语言模型相比，它是在小型数据集上进行训练的。微软计划推出 Phi-3 Small（70 亿个参数）和 Phi-3 Medium（140 亿个参数）。参数是指模型可以理解的复杂指令的数量。微软表示，Phi-3-Mini 的性能水平可与 Mixtral 8x7B 和 GPT-3.5 等较大型号相媲美。
令人兴奋：Phi-3 比前几代产品更适合直接与智能手机一起使用。由于其尺寸较小，可以量化为4位，占用约1.8GB内存。微软通过在配备 A16 Bionic 芯片（设备原生且完全离线）的 iPhone 14 上部署 Phi-3-Mini 来测试量化模型，实现了每秒超过 12 个令牌。
如果你想了解更多，请参考analyticsindiamag和arxiv上的相应研究结果。
