网红CNN技术也要玩移动端了 但没有专门DSP可不行

字符大小: 【】 【(默认)】 【

网红级别的CNN(卷积神经网络技术)已经开始应用在车载、监控安防、无人机和移动/可穿戴设备中,以提升这些设备的图像识别能力。传统的解决方案是由图像DSP加硬件加速器来完成,但效率低下且耗能较高,新的技术因此呼之欲出。

近日,Cadence公司正式公布业界首款独立完整的神经网络DSP —Cadence®Tensilica® Vision C5 DSP,面向对神经网络计算能力有极高要求的视觉设备、雷达/光学雷达和融合传感器等应用量身优化,可以胜任目前的CNN计算任务。

CNN是两位科学家在上世纪60年代研究猫大脑时所提出的概念,经过多年演化,已经进入了实用领域。去年人机大战的胜者阿法狗就是CNN结合深度学习的产物。目前,CNN正以“令人难以置信”的速度飞快演进。“不仅每隔几个月就会诞生新的神经网络算法,而且在2012-2015年这短短的3年时间内,神经网络算法的复杂度也增加了16倍,远远超过摩尔定律的发展速度”,Cadence公司Tensilica事业部市场高级总监Steve Roddy说。

CNN 的应用领域非常广泛,主要包括图像和模式识别、语音识别、自然语言处理,以及视频分析。从智能手机到智能手表,从高级驾驶辅助系统(ADAS)到虚拟现实游戏机,再到无人机控制和安防设备,依赖高分辨率成像(1080p,4K,甚至更高)的应用领域正在快速发展。

通用CPU/GPU是CNN主流的应用平台,不过这种方法更适合于数据中心。Steve Roddy认为,CPU/GPU有强大的计算能力,但是功耗、体积都限制了它们在移动端的应用。还有重要的一点,前方采集的数据回传到数据中心是需要时间的,这就影响了应用端面对复杂情况的处理能力。

就像Google开发自己的TPU一样,前端设备也需要自己的专用处理器,这也是Vision C5 DSP诞生的原因。我们来看看这颗处理器的能力:
• 不到1mm2的芯片面积可以实现1TMAC/秒的计算能力(吞吐量较Vision P6 DSP提高4倍),为深度学习内核提供极高的计算吞吐量;
• 1024 8-bit MAC或512 16-bit MAC 确保8-bit 和16-bit精度的出色性能;
• 128路8-bit SIMD或64路16-bit SIMD的VLIW SIMD架构;
• 专为多核设计打造,以极少的资源代价获得NxTMAC的处理能力;
• 内置iDMA和AXI4总线接口;
• 使用与Vision P5和P6 DSP一致的经验证软件工具包;
基于业界知名的AlexNet CNNBenchmark,Vision C5 DSP的计算速度较业界的GPU最快提高6倍;Inception V3 CNN benchmark,有9倍的性能提升。

下面这张图比较了Vision C5 DSP与其他几种方案的特点。从图中可以看出,在易于开发、能效、升级空间和单核运算能力方面,Vision C5 DSP都处于绝对的优势。

1.jpg

Steve Roddy指出,通用CPU/GPU加硬件加速器有一个重大的弊病。那就是,通用CPU/GPU与硬件加速器执行CNN运算时会进行海量数据传输,这样不但会占用相当的资源,并且会带来惊人的能耗。
另外,硬件加速器属于ASIC,从设计到投产会有很长时间,完全赶不上技术发展的速度,Steve Roddy补充。

以基于摄像头的视觉系统为例,目前此类系统在汽车、无人机和安防领域最为常见。这种架构需要两种最基础的视觉优化计算模式:首先,利用传统视觉算法对摄像头捕捉到的照片或图像进行增强;其次,使用基于神经网络的认知算法对物体进行检测和识别。现有的神经网络加速器解决方案皆依赖与图像DSP连接的硬件加速器,神经网络代码被分为两部分,一部分网络层运行在DSP上,卷积层则运行在硬件加速器上,直接导致架构效率低下,且耗能较高。

Vision C5 DSP是专门针对神经网络进行了特定优化的DSP,可以实现全神经网络层的计算加速(卷积层、全连接层、池化层和归一化层),而不仅仅是卷积层的加速。因此,主视觉/图像DSP能力得以释放,独立运行图像增强应用,Vision C5 DSP则负责执行神经网络任务。通过移除神经网络DSP和主视觉/图像DSP之间的冗余数据传输,Vision C5 DSP的功耗远低于现有的神经网络加速器。同时,Vision C5 DSP还提供针对神经网络的单核编程模型。

Steve Roddy表示,Vision C5 DSP是一款灵活前瞻的永不过时(future-proof)解决方案,支持各类内核尺寸、深度和输入规格。Vision C5 DSP采用多项系数压缩/解压技术,支持未来添加的新计算层。与之相反,CNN硬件加速器由于程序重编能力有限,扩展能力较差。

据悉,目前已有客户正在利用C5 DSP核心开发下一代支持神经网络算法的SoC芯片。第一颗内建VISION C5 DSP 内核的SoC产品会在2018年量产出货。

技术特刊

减小隔离式同步栅极驱动器的尺寸并降低复杂性带同步整流功能的隔离式DC-DC转换器的传统设计方法是使用光耦合器或脉冲变压器进行隔离,并将其与一个栅极驱动器IC结合在一起。
选择适合医疗器械应用的磁性元件多年来,可植入医疗器械变得越来越小。更小的器械可提高患者舒适度,植入时对人体的损伤也小。同时,更小的器械可降低手术的侵入性和复杂性,既方便医生操作,也
软件模拟+硬件仿真=验证成功如果您还没有注意到现在是SoC时代(虽然并非总是如此),不妨回想一下个人计算时代,许多实例都证明这个时代已快速衰落,成为历史。曾几何时,使用计算机意味着坐

杂志/赠阅

往期查阅:

站内搜索

相关文章