编程学习网 > IT圈内 > 微软推出Phi-3系列新的小型AI模型 可以在NPU驱动的设备上本地运行
2024
05-28

微软推出Phi-3系列新的小型AI模型 可以在NPU驱动的设备上本地运行


Phi 是微软研究院推出的人工智能模型,早前微软已经推出 Phi-3 系列,该系列模型具有轻量级的特点,即模型参数相对来说比较小但同等规模提供更好的性能。

今天微软基于 Phi-3 推出了两款新模型,第一款是适用于 NPU 驱动的设备运行的 Phi Silica SLM 模型;第二款是带有视觉支持的 Phi-3-Vision 模型。

其中 Phi Silica SLM 模型体积更小,参数只有 3.3B,但经过优化可以在 Copilot+PC 上本地运行,也就是由设备本地附带的 NPU 芯片进行驱动,为用户提供离线的本地推理并通过减少延迟提高响应速度。

这个模型也是 Windows 上 Copilot 库的一部分,这是一组 API,开发者可以通过 API 调用该模型实现更多与 AI 相关的新功能。

Phi-3-Vision 模型包含 4.2B 参数,相较于 Phi-3 14B 版本要小的多,但带来了视觉支持,即可以用来分析图片、图表和进行表格推理等功能。

不过目前该模型仅提供预览版,具体什么时候上市还不清楚,其他模型包括 Phi-3-mini、Phi-3-small、Phi-3-medium 等模型已经推出,从今日起开发者就可以通过 Microsoft Azure 调用这些模型。

以上就是微软推出Phi-3系列新的小型AI模型 可以在NPU驱动的设备上本地运行”的详细内容,想要了解更多IT圈内资讯欢迎持续关注编程学习网。

扫码二维码 获取免费视频学习资料

Python编程学习

查 看2022高级编程视频教程免费获取