大发uu快3_uu快3套路_大发uu快3套路

Cadence公布人工智能芯片Tensilica DNA 100:性能提升4.7倍 能耗比提升2.3倍

时间:2019-11-20 05:16:17 出处:大发uu快3_uu快3套路_大发uu快3套路

雷锋网(公众号:雷锋网)消息,Cadence是一家AI行业参与者,一群人的Tensilica IP产品仍然非常引人注目,因此经常出現在流行的SoC中,如HiSilicon的Kirin阵容或MediaTek的芯片组(编辑备注:Cadence也是寒武纪的公司企业合作 方。随着业界试图将基于云的AI推理转移到边缘端设备一种,设备内神经网络推理的市场正在爆炸式增长,以实现更低的功率和更低的延迟。

雷锋网了解到,Cadence于本周展示了从物联网、移动、AR/VR到智能监控和汽车应用等各个领域的广泛性能需求,并公布了更多有望加速边缘端神经网络推理的产品,并公布推出一种新的专用“AI”IP,专注于满足各种各样需求的性能和扩展,扩展比事先更高,性能有望达到60 TMACs(万亿矩阵积累操作)。

Cadence表示,在汽车动力等应用中将拥有絮状传感器,包括摄像头,激光雷达和超声波等,对于推理性能的需求非常急迫。标准DSP将处里信号处里的主要任务,但实际上对数据有意义的任务将被移交给神经网络加速器,这类处里感知和决策制定任务的DNA 60 。

Cadence宣称与具有这类尺寸的MAC引擎的竞争处里方案相比,DNA 60 具有高达4.7倍的性能优势。Cadence通过它的稀疏计算架构实现了这名 点,这愿因它只计算非零激活和权重,并实现了比竞争对手更高的硬件MAC利用率。

“神经网络的特点是固有的权重和激活的稀疏性,这会愿因很多处里器中的MAC通过加载和乘零而不想要地消耗性能。DNA 60 处里器的专用硬件计算引擎消除了这名 个多多 大现象,允许利用这名 稀疏性来提高传输时延和减少计算量。神经网络的再训练利于增加网络的稀疏性,并通过DNA 60 处里器的稀疏计算引擎实现最大性能。”

在架构方面,DNA 60 与很多推理加速器看起来很这类,其最重要的处还能能力在于Cadence称之为“可扩展稀疏计算引擎”的MAC引擎,它们处里卷积阶段以及完整篇 连接的分类层的任务。

MACs是本地的8位整数,不想 在全吞吐量的量化模型上操作,但它也提供了半传输时延的16位整数和四分之一吞吐量的16位浮点操作。单个MAC引擎/稀疏计算引擎在256/512/1024 MAC中都不 可伸缩的,事先IP还不想 通过打上去更多引擎进行扩展,最多可达一个多多 。这愿因最大配置的单个DNA 60 硬件块最多蕴含4096个MAC。

Cadence仍然非常清楚,很多应用场景或神经网络模型机会无法由固定函数IP处里,因此仍然提供了将DNA 60 与现有DSP IP耦合的机会性。这名种产品紧密耦合,DSP还不想 有效位于理更多特殊的的NN层,将内核传递回DNA 60 ,从而使处里方案具有未来的可扩展性,并可扩展到客户希望的定制层。

传输时延是神经网络推理硬件中的一个多多 关键瓶颈,因此为了获得最佳性能因此不受平台限制,压缩是必不可少的。DNA 60 除了通过压缩权重和激活来提供传输时延减少功能,在原始传输时延方面,IP还提供1到一个多多 AXI 128或256位接口的非常宽的接口选项,这愿因在最宽的配置中最高可达1024位总线角度。

要将IP扩展到4096MACs以上,只需将多个硬件块并排放置到SoC上,就还不想 大大提高理论计算能力。软件在这里扮演了一个多多 关键角色,机会它不想 在不同的块之间正确地分配工作负载。Cadence解释说,这名 最好的措施也还不想 用来加速单个内核/推理,此外一群人还设想通过芯片到芯片通信实现机会的多芯片扩展。

就DNA 60 的性能而言,Cadence再次强调其架构的实际性能明显高于具有相同数量MAC的等效竞争架构。这里的“有效TMACs”是一个多多 奇怪的指标,以雷锋网获取的信息来看,根据权重和激活数据算是经过编译器和培训的修剪,有效性能也在2倍到3倍之间浮动。

Cadence展示了ResNet60 的性能,其DNA 60 配置为最大4K MAC配置,具有4TMAC的原始硬件性能。根据官方数据,DNA 60 的性能比竞争处里方案高出4.7倍,它的性能达到了2560 fps,而竞争对手的性能为538fps。在能耗比方面,DNA 60 相比竞争处里方案也具有2.3倍的优势。当然,测试中的网络经过了修剪,以在DNA 60 上达到最好结果。

在软件方面,Cadence提供了一个多多 完整篇 的软件栈和神经网络编译器来充分利用硬件,包括网络分析器和优化器以及所需的设备驱动程序池池。Cadence最近还公布,它将支持Facebook的Glow编译器(一个多多 跨硬件平台的机器学习编译器)。

DNA 60 的硬件IP将在2019年初获得许可,产品最早将在2020年底左右面世。

微信公众号搜索"

驱动之家

"加关注,每日最新的手机、电脑、汽车、智能硬件信息还不想 让人一手全掌握。推荐关注!【

微信扫描下图可直接关注

热门

热门标签