英特尔开源 NPU 加速库,方便使开发人员优化其 AI 应用

英特尔在 GitHub 上开源了其 NPU 加速库(https://github.com/intel/intel-npu-acceleration-library),支持 Windows 和 Linux,开发人员可以对其软件进行优化以适配新一代 AI 模型。英特尔 NPU 加速库是一个 Python 库,旨在利用英特尔神经处理单元 (NPU) 的强大性能在兼容硬件上执行高速计算,提高应用效率。该库目前实现了 8bit 量化、Float16 支持等功能,并将继续开发支持 NPU/GPU 异构计算等功能。

搜索