摘要：郑重声明：原文参见标题，如有侵权，请联系作者，将会撤销发布！ 以下是对本文关键部分的摘抄翻译，详情请参见原文。
Abstract
能量收集技术为未来的物联网应用提供了一个很有前景的平台。然而，由于这些设备中的通信非常昂贵，应用程序将需要“超出边缘”的推理，以避免在无意义的通信上浪费宝贵的能量。我们的结果表明，应用程序性能对推理精度非常敏感。不幸的是，精确的推理需要大量的计算和内存，而能量采集系统的资源严重受限。此外，能量收集系统间歇运行，经常发生电力故障，这会破坏结果，阻碍前进。
本文克服了这些困难，在能量搜索系统上首次给出了DNN推理的全面演示。我们设计并实现了SONIC，这是一个间歇感知的软件系统，专门支持DNN推理。SONIC引入了循环延续（loop continuation），这是一种新的技术，它大大降低了保证像DNN推断这样的循环繁重代码正确间歇执行的成本。为了构建一个完整的系统，我们进一步介绍了GENESIS，一个自动压缩网络以最佳平衡推理精度和能量的工具，以及TAILS，它利用一些微控制器中可用的SIMD硬件来提高能量效率。SONIC和TAILS都保证了正确的间歇执行，而不会在不同的电源系统中出现任何手动微调或性能损失。在商用微控制器上运行三个神经网络，SONIC和TAILS比最新技术分别减少了6.9和12.2倍的推理能量。
1. Introduction
能量收集技术的成熟和最近出现的可行的间歇计算模型为建立具有现有电池供电系统的大部分计算、传感和通信能力的复杂无电池系统提供了机会。许多未来的物联网应用需要频繁的决策，例如何时触发电池耗尽的摄像头，并且因为与其他设备通信通常是不切实际的昂贵，所以这些决策必须在本地做出。未来的物联网应用需要对原始传感器数据进行本地推理，推理精度将决定其性能。利用最新最先进系统的能量数据，我们表明这种本地推理可以将端到端应用程序性能提高400倍或更多。
近年来，深度神经网络（deep neural networks，DNNs）[44,66,69]在推理精度方面取得了长足的进步。DNNs依靠从许多例子中学习到的丰富模型，使用有限的、有噪声的输入实现复杂的推理。不幸的是，虽然DNNs比传统的替代方案[29,55]精确得多，但它们对计算的要求也更高。
典型的神经网络使用数千万的权值，需要数十亿的计算操作[44,66,69]。这些网络的目标是高性能、吞吐量优化的处理器，如GPU或谷歌的TPU，它每秒执行高达9万亿次的操作，同时消耗大约40瓦的功率[42]。即使是一个小的DNN（例如LeNet[46]）也有超过一百万的权重和数百万的操作。最有效的DNN加速器优化性能和能源效率，消耗数百兆瓦[11,12,26,31]。
Intelligence Beyond the Edge: Inference on Intermittent Embedded Systems
原文：https://www.cnblogs.com/lucifer1997/p/11734541.html