美国马萨诸塞大学阿默斯特分校采用软硬件协同设计边缘AI算力资源消耗降低9

盖世汽车讯 据外媒报道，马萨诸塞大学阿默斯特分校Riccio工程学院的研究人员证明，同时重新设计硬件和算法，可以提高边缘设备上人工智能应用的效率。作为概念验证，他们开发的系统在语言识别任务中实现了95.24%的准确率，同时将计算资源需求降低了90%，达到同类系统目前报道的最高准确率。

如今，AI无处不在。它被嵌入各种边缘设备中——之所以称为“边缘设备”，是因为这类设备位于网络边缘，可以在本地处理数据，而无需依赖远程数据中心。例如，智能手机和摄像头、导航和交通控制工具，以及娱乐和购物平台等，都属于此类设备。

然而，AI不断融入日常生活，也带来了较高的能耗和硬件需求。对于家庭自动化中枢、汽车车载交互系统等边缘设备而言，这尤其具有挑战性，因为它们的计算能力有限。如果每台设备都具备数据中心级别的处理能力当然很方便，但这并不现实。

部分计算、能耗和硬件需求来自数据处理，而处理过程可能速度较慢、产生散热问题，并加快边缘设备电池的耗尽。以语言为例:人类通过直接或间接与AI交互来完成越来越多的任务，这意味着许多应用都需要处理人类语言，无论是识别、翻译还是理解语音或文本。即便只是判断当前使用的是哪种语言——英语、法语、阿拉伯语等——也会对处理能力提出要求，从而给小型电池供电设备带来较大的计算负担。

协同设计硬件与软件

为了促进边缘设备上的数据处理，马萨诸塞大学阿默斯特分校Riccio工程学院电气与计算机工程系教授、纳米器件与集成系统实验室负责人Qiangfei Xia与学术界和产业界的研究人员开展合作，不仅重新设计了算法，还重新设计了硬件。相关研究发表于期刊《Nature Communications》。

传统方法通常是在现有硬件上运行AI算法；相比之下，Xia团队将算法与硬件协同设计，使二者能够充分发挥彼此的优势。

该团队的解决方案结合了超维计算算法与模拟存内计算(analog in-memory computing，IMC)硬件，从而支持包括语言识别在内的边缘AI应用。

HDC是一种受大脑启发的AI计算方法，它使用大型数学模式表示信息，而不是处理精确数值。这些模式能够通过更加简单、高效的计算完成特定AI任务。