用于尖峰神经网络的神经形态人工智能芯片首次亮相

英纳特拉，这家为尖峰神经网络制造神经形态人工智能加速器的荷兰初创公司，已经生产了第一批芯片，评估了它们的性能，并透露了它们的架构细节。

该公司还宣布，Cadence和Synopsys联合创始人Alberto Sangiovanni Vincentelli已加入该公司，担任董事会主席。这位业内资深人士目前是加州大学伯克利分校的教授。

Innatera芯片旨在加速尖峰神经网络（SNN），这是一种神经形态的基于大脑生物学的人工智能算法，利用电信号中尖峰的时间来执行模式识别任务。SNN在结构上与主流人工智能算法完全不同，因此需要专用硬件来加速，但它们通常为传感器边缘应用提供显著的功耗和延迟优势。

大多数其他致力于尖峰神经网络算法和硬件的公司（例如，预见)以图像和视频流为目标。Innatera已决定专注于音频（声音和语音识别）、健康（生命体征监测）和雷达（用于消费者/物联网用例，如维护隐私的老年人跌倒传感器）。

Innatera营销和业务发展副总裁Marco Jacobs在接受《EE时间。“我们的阵列特别擅长处理时间序列数据……这是一种很好的技术。此外，从市场角度来看，我们在这一领域看到了很多有趣的应用程序，但没有那么多解决方案。”

这三种应用程序的另一个共同点是，由于需要在传感器节点中进行处理，因此功率包络非常紧凑。Innatera证实，在Innatera的测试中，每个尖峰事件（每个神经元响应输入数据而放电）所需的能量不到一皮焦耳——实际上，在台积电28nm中不到200毫微微焦耳。这接近于生物神经元和突触所使用的能量。Innatera首席执行官Sumeet Kumar表示，一个典型的音频关键词识别应用程序每次推理需要500个以下的尖峰事件，导致“深度亚毫瓦功耗”。在这种情况下，神经元簇一起放电代表语音中的不同音素。

神经元的簇状放电（此处为点组）代表对语音中音素的检测。由于输入数据包含了更多的噪声，大多数情况下都会出现相同的聚类，尽管它们更难被发现（图片：Innatera）

处理架构

Innatera的尖峰神经处理器使用尖峰神经元和突触的平行阵列，以细粒度的时间动力学加速连续时间SNN。该设备是一种模拟/混合信号加速器，旨在利用SNN的能力，将时间概念融入数据处理中。

Innatera的尖峰神经处理器包括一个大规模并行的神经突触阵列以及尖峰编码器和解码器（图片：Innatera）

Innatera计算结构的一个关键方面是其可编程性，这一点很重要，原因有两个。

首先，在芯片上编程不同的SNN。神经元需要以灵活的方式连接——大脑使用非常复杂的神经网络拓扑结构来高效地做事，这需要神经元之间的复杂连接，这些连接需要在硅中重建。

其次，优化性能。在SNN中，信息被表示为精确定时的尖峰，而不是将信息表示为字中的比特。峰值的时间需要在非常细粒度的水平上进行操作，以提取有关数据的见解。因此，神经元及其之间的连接（突触）需要表现出复杂的时序行为。这些行为可以通过Innatera的SDK进行调整，以优化性能。

Innatera将其芯片描述为模拟混合信号或“数字辅助模拟”。神经元和突触在模拟硅中实现，以保持超低功耗。模拟电子器件也允许使用连续时间网络（数字电子器件需要离散化）。这对SNN来说很重要，因为它们的性质意味着它们天生就有时间概念，并且需要能够在一段时间内保持特定的状态。

库马尔说：“在模拟领域，这样做要容易得多——你不必将保持状态的复杂性转移到网络拓扑中。”。“我们的计算元素自然会保留这种状态信息。这就是我们在模拟领域做事情的原因。”

Innatera阵列中的一个计算段，其中的神经元被设计为仔细匹配。可编程突触以多级交叉结构排列。（此处的黑线/短划线表示输入和输出尖峰）（图片：Innatera）

芯片上的计算元件之间以及不同芯片之间的制造中的微小不一致可能是在模拟域中准确实现神经网络的问题。Innatera的解决方案是将神经元分组为所谓的分段，这些分段经过精心设计，以匹配路径长度和神经元数量。

Kumar说，分段设计“本质上允许我们使用最好的模拟电路，同时最大限度地减少模拟电路中通常存在的非理想性”。“所有这些基本上都是为了确保节段内的神经元表现出确定性行为，并且它们的功能与它们的近邻相似。”

当同一个经过训练的网络被推广到现场设备时，不同芯片之间的不一致可能会导致问题。Innatera通过软件解决了这一问题。

Kumar说：“不匹配和可变性是在SDK内部处理的。”。“如果你是一个超级用户，我们可以向你展示其中的一些，但一个典型的程序员不需要为此烦恼。”

特定于应用程序

Innatera是代尔夫特理工大学的子公司，在进入硬件领域并在2020年底筹集了500万欧元（约600万美元）的种子资金之前，它已经在与收入客户合作开发其SNN算法。

库马尔说：“自从我们真正创办公司以来，我们一直在与许多客户合作，这些合作仍在进行中——它们已经非常成熟。”。“我们希望能够在今年下半年与其中一些客户一起展示更多的演示。”

Kumar表示，该公司将继续专注于计算解决方案公司，也就是说，他们将提供包括硬件和特定应用程序的SNN算法在内的交钥匙解决方案。

Innatera的第一款芯片适用于音频、健康和雷达应用。该公司的路线图可能包括针对每个应用程序的进一步优化芯片。

库马尔说：“我们以这样一种方式设计了该设备，这样我们就可以加速各种各样的尖峰神经网络。”。“[我们的芯片]可以跨应用程序域实现这些网络。但随着我们深入领域，可能有必要优化硬件设计，这是我们未来将关注的问题。目前，硬件并没有过度专门用于任何特定类别的应用程序或任何类型的尖峰神经网络，其目的是在架构内支持各种应用程序。”

最初芯片的样品有望在2021年底前提供。

>>这篇文章最初发表在我们的姐妹网站上，EE时间.