尽管科技行业继续鼓吹人工智能的“复兴”,但随着主要参与者构建内部解决方案和对人工智能软件的关注增加,人工智能芯片初创公司的数量已开始趋于平稳。

当科技行业继续鼓吹人工智能的“复兴”时,人工智能芯片初创公司的数量已经开始趋于平稳。人工智能初创公司发现,数据中心这个曾经很有前途的市场的进入门槛很高,也许令人望而却步。他们的问题可以追溯到谷歌、亚马逊和脸书等超大型公司现在正在开发自己的人工智能处理器和加速器,以满足他们的特定需求。


需要明确的是,机器学习(ML)仍在继续发展。越来越多的神经网络变体正在涌现。人工智能正在成为每个电子系统的内在特征。


Arteris首席运营官Laurent Moll预测,未来,“每个人的SoC中都有某种人工智能。”这对Arteris来说是个好消息,因为它的业务是通过提供片上网络(NoC)IP和IP开发工具来帮助公司(大公司和小公司,或新公司和旧公司)集成SoC。


对于人工智能芯片初创公司?没那么多。竞争越来越激烈,使破解适合特定人工智能设计的细分市场的挑战变得复杂。


《EE泰晤士报》将于下个月发布我们的“Silicon 100”(2021版),这是一份新兴电子和半导体初创公司年度名单。该报告的作者彼得·克拉克二十年来一直在密切跟踪半导体初创公司。他告诉我们,专注于GPU和AI的专业芯片初创公司数量“与前一年相比持平。”他说,“我们认为该行业可能已经达到‘人工智能峰值’。”


简言之,人工智能芯片初创公司的沙拉时代可能已经结束。


Tirias Research首席分析师Kevin Krewell预计会有更多的人工智能芯片初创公司被收购。“毕竟,在英特尔收购Nervana之后,人工智能初创公司的资金爆发了。风投和天使们看到了一个可能有利可图的退出策略。”他补充道,“今天有太多的[人工智能]初创公司,行业无法长期支持。我相信还会有更多的公司推出涉及模拟或光学的更具异国情调的解决方案。[但]最终,AI/ML功能将被纳入更大的SoC或小芯片设计中。”


<img data-lazy-fallback="1" decoding="async" src="https://uploads.9icnet.com/images/aritcle/20230419/Laurent-Moll.jpg">

劳伦特·摩尔

在这种背景下,EE时间最近与Arteris新任命的首席运营官坐了下来。Moll曾是Arteris的首席技术官,在高通公司工作了七年多,最近一次是担任这家移动芯片巨头的工程副总裁。


我们向Moll询问了人工智能芯片领域的变化以及初创公司的发展方向。


淘金热


不出所料,莫尔将该行业对人工智能的冲刺描述为他所见过的“最大的淘金热之一”。然而,这些现代49人不再只是初创公司或小公司。Moll说,勘探者包括“长期生产硅的公司,以及许多(以前)没有生产过硅的新人”。每个人都“在同一个竞技场上比赛”,每个人都在“努力破解难题”


不断增长的开发者基础和多样化的应用程序发挥了Arteris的优势,但这为人工智能芯片初创公司描绘了一幅截然不同的画面。他们不再仅仅与拥有同样光明新想法的人工智能初创公司竞争。但现在他们也要面对大男孩。超级规模制造商和汽车原始设备制造商正在大力发展人工智能,以便他们可以在自己的系统中使用自己的芯片。


仍处于扩张阶段


Arteris的Moll观察到,人工智能芯片市场“仍处于扩张阶段”,“每个人都在探索”。尽管如此,他看到数据中心方面出现了“一点秩序”。这在很大程度上是因为超大型计算机正在通过开发自己的人工智能处理器和加速器来控制自己的命运。


超大型计算机和其他人工智能芯片设计者之间的区别可以归结为一个因素。“他们拥有数据集,”莫尔说。Hyperscaler并没有与其他人共享数据集,但他们正在开发专有的软件堆栈。“他们觉得自己可以制造出更适合自己数据访问的硅。”


与此同时,外部供应商——较小的人工智能芯片初创公司——正在“开发构建SoC的新方法,使用SRAM和DRAM、堆叠和使用光学的新方法”,Moll说。“有很多方法可以创造一种秘密酱汁,使他们能够比现在现成的人工智能芯片做得更好。小家伙正在改变游戏规则,他们非常聪明地做与其他人不同的事情。”


相比之下,超大型公司追求的人工智能芯片就没有那么创新了。莫尔观察到,超标量可以使用更传统的方法。谷歌的TPU就是一个很好的例子。“如果你看看它,它的架构很好,但在很多方面都不是革命性的。”尽管如此,“它非常适合谷歌想要做的事情。所以,它符合他们的目的。”


如果规模较小的人工智能初创公司的芯片如此新颖,难道它们不应该悄悄进入超大型公司的数据中心吗?


“不,不,不。”莫尔说。“规模较小的公司不太可能在数据中心市场扩张……或者超规模公司购买他们的产品。”然而,他指出,“一旦超规模公司看到他们的技术有用并适用于他们想要做的事情,他们肯定会购买其中一些初创公司。”


Moll将超规模的思路描述为:“我知道我的数据集是什么。我知道如何做一种更为中心的架构。如果有人有一个很好的想法,让我们抓住这群人和IP,让我们改进我们自己的产品。”


Tirias Research的Krewell对此表示赞同。“你必须做一些了不起的事情,让超标量承诺使用你的机器学习芯片。”小脑Krewell说,例如,用晶片大小的芯片推动了信封。“由于其无处不在的软件和可扩展性,英伟达仍然是人工智能开发工作的默认平台。”


边缘呢?


Moll指出,对于人工智能芯片设计师来说,与数据中心相比,“边缘是一个完全不同的故事”。边缘的最终市场是多功能的,希望有更大范围的解决方案。莫尔说:“很多人仍在想人工智能在哪里应用,以及如何实现。”。


单击以获取全尺寸图像

<img data-lazy-fallback="1" decoding="async" src="https://uploads.9icnet.com/images/aritcle/20230419/Arteris-1_nu.png">

到2025年,半导体总可用市场的19%将与AI/ML相关。(资料来源:Bernstein、Cisco、Gartner、IC Insights、IHS Markit、Machina Research、麦肯锡分析-Arteris编译)

Tirias Research的Krewell对此表示赞同。“边缘仍然是一个相对未开发的领域。仍有机会将ML添加到传感器和边缘设备中。非常低功率的模拟和内存设备以及MCU和应用程序处理器中的加速器都很有前景。我认为边缘处理器中的INT4和INT2推理有很大的潜力-具有很好的准确性,对功率和内存的要求要低得多。”


虽然多样化的应用程序听起来令人兴奋,但它也有陷入边缘人工智能炒作周期的危险。


边缘人工智能之所以成为一个流行词,并不是因为边缘是一个新市场,也不是指任何特定的产品类别。相反,缺乏定义已经将“边缘”变成了一种包罗万象的东西,初创公司可以将其产品与之联系起来。


在广泛的边缘应用中,Moll看到了两种不同的趋势。他指出,其中之一是“芯片内部的人工智能可以做其他事情”。“那就是爆炸发生的地方。”


他补充道,这个嵌入式系统市场是“形状因素、功率和散热等因素真正重要的地方”。


莫尔指出,另一个趋势是“只做人工智能的巨大芯片”。然而,边缘大芯片的应用仍在不断发展。


“芯片内的人工智能”最好的例子可能是智能手机的应用处理器,Moll对此很清楚。人工智能加速器在语音识别和视觉处理方面发挥了关键作用。如今,人工智能已经成为手机销售吸引力的重要组成部分。莫尔承认,一个结果是“移动领域的现有公司(如高通公司)具有优势”。


汽车领域的人工智能


莫尔认为人工智能在汽车中的应用是完全不同的。


他指出,将有一系列解决方案,从人工智能密集型计算机视觉芯片到完成所有繁重处理的大型人工智能芯片。随着汽车从ADAS向自主发展,Moll预计更大的人工智能处理器将在高端汽车市场发挥关键作用。


虽然汽车领域的现有公司通常拥有自己的小型人工智能芯片,在ADAS方面具有优势,但在拥有相当大人工智能芯片的自主市场上,人工智能芯片初创公司有足够的空间。


但这里有个转折点。


模仿超大型汽车的汽车原始设备制造商也在向垂直方向发展。特斯拉已经设计了自己的芯片,称为“全自动驾驶”计算机。几周前,大众汽车首席执行官赫伯特·迪斯告诉一家德国报纸该公司计划为自动驾驶汽车设计和开发自己的高性能芯片以及所需的软件。


Moll证实,汽车制造商“都在非常仔细地考虑这一点。”尽管Arteris是一家知识产权公司,但“我们接到汽车原始设备制造商的电话,因为他们想了解整个堆栈,他们想控制”即将到来并改变汽车架构的“一大堆硅”。


人工智能芯片初创公司,如认可,Blaize公司和神话的将汽车列为他们瞄准的边缘人工智能细分市场。汽车制造商最终将如何在汽车中实现这种芯片还有待观察。


Krewell强调,“汽车平台仍在发展。分布式功能具有模块化和降低风险的优势,但它的构建和维护成本比集中式处理复合体更高。”


他补充道,“另一个问题是数据。传感器将发送大量数据,边缘具有智能可以减少数据传输,但要权衡传感器延迟的增加和机箱中更多的分布式电源。传感器轻量级边缘处理的一些平衡可以减少中央处理器的负载,而不会增加过多的延迟或需要太多的分布式电源”。”


人工智能之战从芯片转向软件


Krewell观察到,“我看到人工智能的重点从芯片转向软件。部署ML功能需要良好的软件。要让更多的嵌入式设计工程师和程序员能够访问ML,需要制作ML低代码。它还需要为特定应用程序自动创建自定义模型。”


莫尔也得出了类似的结论。当被问及为什么决定从高通公司回到Arteris时,他列举了两点。


首先,Arteris曾经在一个利基市场中发挥作用——“IP供应商之间的狭窄空间”。但这个利基市场现在已经成为人工智能芯片设计师寻求帮助的“关键空间之一”,通过在芯片上构建大量网络来“组装非常大和复杂的SoC”。这就是来自Arteris的片上网络(NOC)可以以整体方式解决问题的地方。


第二Arteris IP去年收购了MagillemMoll认为Magillem提供的“软件层”是创建一个非常庞大和复杂的SoC的另一个关键。在高通公司负责交付顶级芯片的团队后,“我开始认识到Arteris作为用户而不是营销人员所提供的价值。”


>>这篇文章最初发表在我们的姐妹网站上,EE时间.