AI的发展日新月异，形成了一个时代的强大潮流。然而，真正推动这一势头的，是AI算力的持续扩张，特别是向边缘计算设备的扩张。
AI已经不再只是数据中心的专属领域，它已经延伸到涉及我们日常生活方方面面的边缘设备。这种现象的出现，离不开精于执行AI运算的神经处理器（NPU）的发展和创新。通过集成NPU，这些设备能够在离源数据更近的地点，实时执行AI算法，而无需依赖于远端数据中心。
根据IDC发布的《AI PC产业（白皮书）》，AI PC分为AI ready和AI on两个阶段。目前，整个行业还处于AI ready阶段。其实，在这一阶段落地的产品AI PC和传统PC在硬件上就差了一个NPU，只要在传统硬件加入一个AI计算模块，也就是在架构设计上嵌入AI芯片，形成“CPU+GPU+NPU”的异构方案，这样的电脑就能称之为AI PC。
通过混合算力的加持，AI PC可以帮助用户离线使用AI技术，更高效地享受到AI算力带来的便捷。随着AI on阶段的启动，AI技术将全面渗透到用户日常的PC使用场景中，对工作流产生革命性的升级。
前面提到，在AI PC生态中的计算单元主要有CPU、GPU和NPU。对于CPU和GPU，大家想必都十分了解，可能也听说过各种的NPU、TPU等等，各种的ABCD…PU，那它们都是用来做什么的呢？其实，上文提到的NPU是一种对AI协处理器的统称，而各个厂商针对不同的领域都根据自己的产品定位推出了自己的NPU。下面介绍几种常见的AI协处理器。
• IPU — Intelligence Processing Unit，是Deep Mind投资的Graphcore公司出品的AI处理器产品。AMD的AI协处理器也使用IPU这一缩写，可能使用的是同一技术。
• NPU — Neural Network Processing Unit，神经网络处理器，是基于神经网络算法与加速的新型处理器总称，如中科院计算所/寒武纪公司出品的diannao系列。
• TPU — Tensor Processing Unit 张量处理器， Google 公司推出的加速人工智能算法的专用处理器。目前，一代TPU面向Inference，二代面向训练。
• VPU– Vector Processing Unit 矢量处理器，Intel收购的Movidius公司推出的图像处理与人工智能的专用芯片的加速计算核心。Intel还有一项技术叫做视觉处理单元（Vision Processing Unit，VPU）（截至2023年）是一类新兴的微处理器，它是一种特定类型的人工智慧加速器，用于加速机器视觉任务。不能确定这两者是否相同。
此外，Apple做为个人电脑市场的有力竞争者，也早早就做好了布局，早在M1处理器发布的时候中就内置了NPU，而在最新发布的M3处理器中更是将NPU的性能提升了60%以应对日渐增长的AI需求。
另一个值得期待的技术是高通的Snapdragon X Elite处理器，高通是AI芯片的老玩家了，早在2018年就开始在各种移动处理器中集成NPU功能，而这次推出的Snapdragon X Elite是特别针对PC的。预计今年中旬就能看到搭载Snapdragon X Elite的笔记本电脑，ARM的低功耗+高性能的NPU加持，相信这是帮助ARM进一步扩张PC市场的有力支持。
目前市场上最容易买到的PC或笔记本还是搭载Intel或者AMD处理器的机型。如果你的电脑比较新，可能它已经具备NPU的能力了。
Intel作为芯片行业的老大哥，自然不会缺席这场AI盛宴。从Meteor Lake系列开始，Intel就在CPU中引入了NPU（Intel称之为VPU）技术。想知道你电脑中是否存在NPU也非常简单，windows系统中只需打开任务管理器即可。
可以看到，在左侧视图中有NPU 0 Intel AI Boost这样一个处理单元，它就是NPU。
你可以跑一些AI应用，比如一些图像识别之类的算法，就可以看到NPU在工作了。
当然，前提是你使用的框架需要支持NPU才行，目前，还有一些框架对NPU支持的并不是太好，但这个情况正在逐步好转，越来越多的框架开始支持NPU计算。
AMD的AI协处理器称为IPU。如果你是AMD的粉丝，想找一款搭载NPU的AMD处理器是非常容易的。AMD提供了一个页面可以帮助筛选出具备AI能力的处理器。
AMD的IPU功能在windows环境下并不是开箱即用的，许多机型甚至默认不开启这项功能，有时候需要去BIOS设置中仔细搜索看看是否有相关的使能开关，有些机型甚至需要联系厂商更新特殊的BIOS固件。
确定了BIOS中IPU相关功能开启后，需要安装驱动程序，目前笔者还没有看到AMD的IPU驱动可以通过windows update安装。需要手动去ryzenai的官网上下载并安装。
如果一切顺利你将在设备管理器中看到IPU设备。
AMD的IPU在系统层面的支持并不像Intel VPU那样完善，并不能在任务管理器中看到IPU的实时使用情况。但这并不代表AMD的IPU能力逊于VPU，在笔者的测试过程中IPU的各项能力都很出色，而且对开发者更加友好，如果你是一名极客应该会更喜欢AMD的文档描述。
目前来看，NPU的安全风险主要来自于供应链。通过一段时间对Intel和AMD的NPU分析，这两款NPU的底层硬件可能使用了FPGA，而且不同厂商在NPU向上对深度学习框架的支持方式也各有不同，这涉及到多个厂商以及各种开源产品的集成。因此，从软件、驱动、固件、硬件这四个层面都可能引入一些安全问题。联想安全实验室正在积极关注这个领域，目前已经帮助相关厂商修复了多个安全漏洞。
联想安全实验将致力于为客户交付更安全的产品，继续为产品安全保驾护航，让用户享受更安全的AI PC所的提供的新质生产力。
原文始发于微信公众号（联想全球安全实验室）：AI PC之NPU漫谈
