选场景降成本,云知声「自主造芯」的思与辨

2019-04-04 18:41:12 来源:网络整理 作者:管理员

原标题:选场景降成本,云知声「自主造芯」的思与辨

2015 年是云知声的历史转折点。

在此之前,这家专注于物联网人工智能服务的初创企业一直以算法公司自居。但很快,团队愈发意识到算力和成本是不可化解的矛盾。当通用芯片的成本居高不下,批量生产遇到了成本瓶颈,于是云知声决定「自主造芯」。

从决定「造芯」的第一天起,创始团队就非常笃定,AI 芯片是成本问题的唯一解决办法,也为企业自身发展指明了一条通路。从 2015 年搭建团队,到 2017 年着重技术打磨,终于,云知声在 2018 年 5 月份宣布,其首款自研 AI 芯片「雨燕」得到成功验证,并于同年 8 月份正式量产。2019 年 4 月份,第一批搭载云知声 AI 芯片的产品将在市场流通。

这仅是云知声「自主造芯」的开始,若干款芯片「正在赶来的路上」。如何把握住巨大的市场,号准商业脉搏,对云知声来说既是机遇亦是挑战。在云之声 Open Day 上,云知声副总裁李霄寒分享了自己对 AI 芯片的思考和心得。

选场景降成本,云知声「自主造芯」的思与辨

(云知声副总裁李霄寒 | 云知声自主造芯的底层逻辑

2007 年,随着移动互联网时代的开启,移动智能设备的数量呈现了指数级的增长,数字化程度明显提高。当下,用户的个人位置、信用、货币都已基本实现数字化,为人工智能的落地和发展,奠定了坚实的数据基础。

「而在即将进入的物联网时代,设备数量会再次大幅攀升」。李霄寒注意到,除了移动互联网所应用的传统数据之外,物联网囊括了家庭环境、位置、温度、语音、图像等数据维度。这些新数据是「弹药」,在产业界、资本界以及科研界都予以了高度重视。

李霄寒认为,在物联网时代,人工智能的落地和挑战需要一个新的 SOC,这其中包含芯片、云和人工智能技术。

如今,云端不仅集成了很多 AI 能力,还集成了教育类、医疗类等知识,发展程度相对完备。当所有的知识与用户连接时,就需要一个载体。过去,这个载体是智能手机,但在物联网时代,这个载体可能是开关插座、音箱等智能设备。李霄寒认为,边缘 AI 芯片和服务端芯片同等重要。借助这些载体来承接云端的能力,并触达至用户,采用 AI 芯片是绝佳的解决方案,它是 AIoT 落地的核心关键。

「我们现在处在一个非常牛的时代」,李霄寒感叹。当闻名遐迩的 AlphaGo 击败了围棋世界冠军李世石,无人不惊叹机器的强悍实力。有趣的是,早在 1997 年,深蓝击败了当时的国际象棋冠军时,有一种论调认为「国际象棋复杂度有限」,如果有一天机器能够在围棋赛场击败人类,才是人工智能时代的标志。

近 20 年后,AlphaGo 不负众望。它采用的是谷歌自研的 TPU 架构的人工智能芯片,与同期的 CPU 和 GPU 相比,TPU 可以提供 15-30 倍的性能提升,以及 30-80 倍的效率(性能/瓦特)提升。

「AI 芯片可以分为两类,第一类是服务端芯片,即经过大规模的数据处理进行训练并形成 AI 模型;第二类是边缘 AI 芯片,云知声主攻这方面的芯片打造」,李霄寒表示。

云知声以往在设计传统 CPU 的时候,更在意电路的设计是否足够好、足够强劲,能否降低成本和功耗。「通用芯片要面向所有的场景,有可能运行一款游戏,也有可能运行图像处理软件,它不需要考虑不同的需求,只需要把芯片设计得足够强劲。」

但边缘 AI 芯片的设计,需要考虑的因素截然不同。因为不同的场景下的芯片需求不同,譬如电视端的芯片和风扇选用的芯片肯定不一样,前者要更加强大,能够做视频的检测,后者只需要控制电机和遥控感应即可。

李霄寒总结说,云知声的特别之处在于,抛弃了传统芯片企业「先造芯再考虑卖给谁」的套路。他们认为正确的路径应该恰恰相反,先用方案解决某一个场景下的问题,验证成立后,再考虑如何生产降本。所以,先要有成熟的落地场景,清晰的需求和系统的 AI 算法,有了这三个前提之后,可以定义清楚芯片的 SPEC,然后再考虑后面的芯片的研发步骤、架构设计等问题。这是云知声做芯片的逻辑和流程。

选场景降成本,云知声「自主造芯」的思与辨

(李霄寒表示,打破冯•诺依曼的计算机架构已成为业内的共识 | 云知声)

自主造芯的矛盾与挑战

新时代自然会对传统的 AI 解决方案提出一些新要求。

首先是通用架构在 AI 落地的过程中,需要更强大的边缘算力来测算边缘数据。比如降噪需要大量的计算,算力越强大,数据维度就越多,效果也会越好。

但是企业不可能无止境地去满足它。这个约束来自于成本。「我们不可能为了解决智能音箱的拾音问题,造一款百元级的芯片,即便非常强大,但在商业上是不成立的。」必须要把它的成本控制在一个范围。这就构成了一种矛盾。

这对云知声来说是一种巨大的挑战,李霄寒表示,「在新的场景和新的环境下,要基于场景,针对具体的应用,着眼 AI 算法,再加上芯片的应用,设计新的芯片。因此基于这种环境下,我们要考虑的因素要多得多。」

另外一个挑战受制于上世纪四十年代,以冯•诺依曼内存墙为代表的计算机架构。这一架构在芯片上明确了计算和存储分离的概念,「需要计算的时候,把大脑拉过来,在运算单元上处理,再从内存上不断获取数据,拿回去」。人们现在几乎使用的所有芯片,均是基于冯•诺依曼架构运行的。

显然,在 AI 芯片的架构下,它碰到了新的复杂问题。芯片在处理 AI 算法的时候,面临「需要处理的数据非常多」,以及「大量的数据拷贝需求」的问题。在这种情况下,CPU 大部分的时间是在休息,带宽却频繁地在做传输工作。运算构件与存储构件之间大量的数据交换限制了系统的运算效率。

打破冯•诺依曼限制,拉紧计算单位和存储单位的距离,让二者尽可能的接近,已成为业内的共识。DeepNet 是云知声的 AI 加速处理器,DeepNet 1.0 成功应用于去年 5 月份发布的「雨燕」芯片。「雨燕」相对传统的芯片来讲,计算效率获得了 50 倍的提高。这枚芯片贯彻了云知声「让冯•诺依曼更矮」的核心思想。

DeepNet 2.0 是云知声的多模态神经网络处理器,支持多种推理网络,可重构计算并支持某一系列计算公式的硬加速。它的原理是把乘法等价换算成加法,大幅提高计算效率。

这样还不够,云知声期望让这堵墙变得更加低矮。在计算器内部,计算单元和行使单元基本结合在一起。当数据输送到第一个 MACKJ 的时候,计算完成完马上放到 M1,然后再做相应的其他计算,保证在 10 个周期之内,完成全部计算,这样使计算效率得到大幅度的提高。

在我们进行语音计算的时候,一般来讲 CPU 的利用率也就是 10% 左右,剩下的 90% 都是在搬运数据。这个架构可以把 CPU 的利用率提高 60% 以上,只剩下不到一半的数据搬运工作。

此外,服务端有低功耗的需求,边缘侧对低功耗的需求更加旺盛。电池供电设备,手机、音箱、眼镜等所有这些便携式的设备都面临一个功耗的问题,但低功耗和大规模的并行计算是相互矛盾的,怎样在特定的功耗条件下,支持设备的算力,这是非常大的挑战之一。

李霄寒认为,解决这个问题的必然方法是使用新的架构,来处理新的数据维度,因此需要在边缘侧(设备端)具有相应的算力。

据了解,在云知声第一代 AI 芯片设计上,可以用 2% 的算力做动静检测,把 98% 的功能关掉。当设备被唤醒,机器判定动静之后,会做一个活体检测,整个初步的判断,仍然有 90% 的算力处于休眠状态。一旦检测到是人在发声,并判断发音和唤醒词是否匹配,至此需要 20% 的算力足矣。李霄寒表示,在实际情况中,绝大部分芯片在夜间都是处于休眠状态。

追求效率的传统方式,是更灵活地控制功耗,「当芯片工作的时候会全力以赴的运行,不工作的时候就关闭。但 AIoT 时代的游戏规则变了,我们首先要从应用层面考虑,然后再考虑算法是否要为芯片本身改变。」所以,AI 芯片不仅是硬件和芯片的设计问题,而且是芯片上层应用到整个场景的系统性问题。

安全同样是一个绕不开的话题,云知声高度重视 AI 芯片的安全性。AI 芯片的安全包含两方面,第一是防止软件放在芯片上「被拷贝」、「被倒卖」。一旦发生类似事件,企业的知识产权就没办法受到保护,蒙受巨大的金钱损失;第二是确保代码的完整性。当所有的设备都可以联网,意味着在开放的环境下,任何人都可以访问用户的芯片,一旦被黑客利用并被曝光,对于企业而言就是一场毁灭性的灾难。

故此,云知声在芯片的所有设计工作中都考虑到了机密性和完整性,确保芯片的所有代码全部经过加密,确保所有在 NTO 内运行的代码不被人篡改。

李霄寒最后强调,AI 芯片的设计绝对不能被孤立。基于端云互动的思想提供了多模态处理的能力,在性能、功耗、面积上达到优异的平衡,并兼顾连接和安全的需求。

图片来源:云知声

显示全文
为您推荐
父母受扰 王一博方呼吁抵制“追私”
父母受扰 王一博方呼吁抵制“追私”

近日,剧组被闯,父母受扰,王一博方呼吁抵抗“追私”违规行为!之前王一博被曝出一段视频,视频中王一博的手机被安装了监听软件,并且在某酒店房间内,拍照了大量的不雅观视频。该工作曝光之后,引发了众多网友的重.........

发布时间:2023-06-01 02:03:11

三星堆为什么不挖了 挖掘保护技术不够成熟(现今技术突破)
三星堆为什么不挖了 挖掘保护技术不够成熟(现今技术突破)

【导读】 三星堆为什么不挖了 挖掘保护技术不够成熟(现今技术突破),下面是小编为你收集整理的,希望对你有帮助!三星堆自1929年被发现,1934年时华西大学博物馆组成的考古队首次小范围发掘了三星堆遗址,此后在八十多年当中陆陆续续进行了十多次挖掘。明明三星堆可以进行深入研究,毕竟它带给我们如此多的谜团,挖掘的越......

发布时间:2023-06-01 02:01:03

西游记七大圣怎么排名 混天大圣是七大圣中辈分最低的大圣
西游记七大圣怎么排名 混天大圣是七大圣中辈分最低的大圣

【导读】 西游记七大圣怎么排名 混天大圣是七大圣中辈分最低的大圣,下面是小编为你收集整理的,希望对你有帮助!西游记中七大圣的排名分别为驱神大圣、覆海大圣、齐天大圣、移山大圣、通风大圣、平天大圣、混天大圣。七大圣是西游记中本领最高的集团代表之一,七大圣各个都是英雄豪杰,并且武功和本领都不在齐天大圣孙悟空之下,......

发布时间:2023-06-01 01:01:04

16开本子是多大的尺寸
16开本子是多大的尺寸

【导读】 16开本子是多大的尺寸,下面是小编为你收集整理的,希望对你有帮助!16开本子的尺寸是长26厘米、宽18.5厘米。纸张有国际标准和国内标准两个标准,即国际标准是大度纸,而国内标准是正度纸。正度纸和大度纸分别是国内标准纸张和国际标准纸张,它们主要用于纸品印刷行业,正度纸......

发布时间:2023-06-01 00:01:03

《尼斯大冒险》发终极海报 裸眼3D视效超立体
《尼斯大冒险》发终极海报 裸眼3D视效超立体

《尼斯》终极海报备受关注的裸眼3D动画《尼斯大冒险》今天发布最新剧情预告和全阵容海报,影片主角小雨燕马努的伟大冒险之旅即将拉开序幕。本片由《泰坦尼克号》女主角凯特·温斯莱特和《蜘蛛侠》反派威廉·达福联.........

发布时间:2023-05-31 23:03:13

金字塔之谜,金字塔的未解之谜
金字塔之谜,金字塔的未解之谜

【导读】 金字塔之谜,金字塔的未解之谜,下面是小编为你收集整理的,希望对你有帮助!对于金字塔,我们还是有很多很多不知道的东西,一直以来探索金字塔的秘密没有停止过。但是仍然会有很多的谜团困扰着我们,探索金字塔的秘密的道路还有很长,那么金字塔到底有哪些未解之谜呢?什么是金字塔?&ldq......

发布时间:2023-05-31 23:01:04

旃檀功德佛是干什么的 消除过去生中阻止斋僧的罪业
旃檀功德佛是干什么的 消除过去生中阻止斋僧的罪业

【导读】 旃檀功德佛是干什么的 消除过去生中阻止斋僧的罪业,下面是小编为你收集整理的,希望对你有帮助!《西游记》中唐僧师徒一行人最终取经成功,各自被封了佛号,这也算是对这十余载取经路上的辛苦最好的一个回馈了。但是有的人说唐僧被封的佛号地位非常低?倘若你知道白龙马最后封号是什么,就不会这样想了。很多人觉......

发布时间:2023-05-31 22:01:05

点映倒计时7天!动画《阿里巴巴与神灯》发海报
点映倒计时7天!动画《阿里巴巴与神灯》发海报

5月25日,距离合家欢动画电影《阿里巴巴与神灯》6月1日全国点映只有7天,为了给影片点映宣传造势,片方发布了点映倒计时7天版海报。海报上,乌云滚滚而来,黑压压的一片,将繁华的阿兹罗德笼罩其中,紧张的氛.........

发布时间:2023-05-31 21:03:12

奎木狼两个孩子为什么要死?孙悟空想要报复(妖怪之子不可留)
奎木狼两个孩子为什么要死?孙悟空想要报复(妖怪之子不可留)

【导读】 奎木狼两个孩子为什么要死?孙悟空想要报复(妖怪之子不可留),下面是小编为你收集整理的,希望对你有帮助!奎木狼本是天上的神仙,下凡后成了妖怪改名叫黄袍怪并以此为非作歹,他在凡间和百花羞公主结为了夫妻并孕育了两个孩子,但最后这两个孩子被弄死了?为什么奎木狼的孩子会是这样的结局呢?跟着小编一起看看吧。奎木狼......

发布时间:2023-05-31 21:01:04

张萌问我出轨的角色这么经典吗
张萌问我出轨的角色这么经典吗

有网友问张萌新剧《后浪》有没有出轨,张萌表示:这次母胎solo三十多年,还反问:我越轨的人物这么经典吗?那是,又经典又气人,令人形象深刻,都被网友称为“渣女专业户”了。尤其是在《安家》里的体现,名台词.........

发布时间:2023-05-31 20:03:17

金缕曲一词中的季子平安否的季子指的是谁?
金缕曲一词中的季子平安否的季子指的是谁?

【导读】 金缕曲一词中的季子平安否的季子指的是谁?,下面是小编为你收集整理的,希望对你有帮助!顾贞观是清代文学家,原名华文,字远平、华峰,亦作华封,号梁汾。他是江苏无锡人,擅长写词,代表作有《弹指词》《积书岩集》等。他不仅和陈维崧、朱彝尊并称明末清初“词家三绝”,还和纳兰性德、曹贞吉共称为“京......

发布时间:2023-05-31 20:01:04

春城是哪个城市
春城是哪个城市

【导读】 春城是哪个城市,下面是小编为你收集整理的,希望对你有帮助!1、春城是指云南昆明,昆明一年中10个月是春天,两个月是冬天,但在冬天里平均气温也接近10℃,因此有春城的美誉,春城名称来源于杨慎的诗句天气常如二三月,花枝不断四时春”。云南省三面环山,南临滇池,气候......

发布时间:2023-05-31 19:01:04