巨头纷纷撤离OpenStack阵营,芯片上视觉任务的神经网络设计

图片 14
宝马娱乐1211com

原标题:干货 | 地平线:面向低功耗 AI 芯片上视觉任务的神经网络设计 |
职播间第 2 期

原标题:因特尔之后是ebay,巨头纷纷撤离OpenStack阵营

原标题:创始人声称被合伙人绑架,网秦还能更糟吗?

AI 科技评论按:随着这几年神经网络和硬件(GPU)的迅猛发展,深度学习在包括互联网,金融,驾驶,安防等很多行业都得到了广泛的应用。然而在实际部署的时候,许多场景例如无人驾驶,安防等对设备在功耗,成本,散热性等方面都有额外的限制,导致了无法大规模应用深度学习解决方案。

继今年4月英特尔停止对OpenStack投入后,又一家互联网巨头退出了Openstack阵营。

被董事长绑架13个月
网秦创始人林宇称生不如死

近日,在雷锋网 AI 研习社第 2
期职播间上,地平线初创人员黄李超就介绍了 AI
芯片的背景以及怎么从算法角度去设计适合嵌入式平台高效的神经网络模型,并应用于视觉任务中。之后地平线的
HR
也进行了招聘宣讲,并为大家进行了招聘解读。公开课回放视频网址:

近日,eBay平台工程副总裁Mazen
Rawashdeh宣布,eBay正远离OpenStack,使用Kubernetes和Docker来重新平台化,这也是全面改造eBay数据中心基础设施计划的一部分。

图片 1

黄李超:本科毕业于中山大学,在帝国理工硕士毕业之后于
2014
年加入了百度深度学习研究院,期间研发了最早的基于全卷积网络的目标检测算法——DenseBox,并在
KITTI、FDDB 等特定物体检测数据集上长期保持第一名。 2015
年,他作为初创人员加入地平线,现研究方向包括深度学习系统研发,以及计算机视觉中物体检测,语义分割等方向。

然而,在1年前,eBay还透露过95%的流量运行在OpenStack上。但从那以后,eBay已经从OpenStack转移,作为一项为期三年的重大基础设施计划的一部分。

因为一则匪夷所思的“绑架”事件,网秦——这个几乎快被遗忘的公司,再次回到了公众的视野。

分享主题:面向低功耗 AI
芯片上视觉任务的神经网络设计

eBay为何放弃OpenStack?有媒体分析,原因不外乎eBay希望使用自己设计的服务器和硬件,以减少对第三方的依赖,但是OpenStack由于其自由扩展、高度开源的特点,存在着诸如升级困难、厂商利益不一致、组件不一致、开发运维成本高等缺陷,显然无法满足eBay的要求。

新浪科技报道,网秦创始人林宇在朋友圈自我宣布回归,称现董事长史文勇涉嫌重大刑事案件,绑架其长达13个月,并受到非人折磨,幸被警方解救。按照林宇所说,他被绑架的这一年多,带上20多公斤重的手铐和铁链,被拳打脚踢,生不如死,家人也受到威胁恐吓。

分享提纲

打个比方,如果说云计算企业用户需要的是一栋房子,而OpenStack最智能提供一张图纸,最终的云产品需要一点点拼凑,成熟度低不说,平台的可靠性和数据中心的灵活性都难以确保。

林宇还单方面宣布:免除史文勇网秦董事长,董事,COO等所有职务。继任 CEO
许泽民因参与5.12亿上市公司现金质押贷款事宜,并且向董事会隐瞒此重大事宜,免除职务。由网秦创始人林宇接任CEO,并担任Co-Chairman
(联席董事长)。陈亦工因向董事会隐瞒现金质押等重大事宜,免除其President&General
Cousnel职务。

  1. 介绍当前 AI
    芯片概况,包括现有的深度学习硬件发展情况,以及为何要为神经网络去设计专用芯片。
  2. 从算法角度,讲解如何设计高性能的神经网络结构,使其既满足嵌入式设备的低功耗要求,又满足应用场景下的性能要求。
  3. 分享高性价比的神经网络,在计算机视觉领域的应用,包括实时的物体检测,语义分割等。
  4. 地平线 2019 年最全的校招政策解读。

图片 2

图片 3

雷锋网 AI
研习社将其分享内容整理如下:

OpenStack曾辉煌一时,包括IBM、AMD、英特尔、戴尔、思科、惠普均投入它的怀抱。但OpenStack在设计之初没考虑过为大规模业务服务,缺乏大规模实战检验,版本分支众多难以兼容……OpenStack自身的众多局限性就成了制约其发展的难题。

史文勇则发布声明,称林宇毫无底线,恶意造谣,将采取必要的法律行动回击,“林宇正是在上周末提前知道公司调查结果和公司决定后,挺而走险,悍然发动对上市公司的疯狂攻击。这一切都是恩将仇报,为了一己私利不惜把上市公司砸烂的疯狂手法,已经远远超出法律和道德的底线”。

今天,我将从以下三个方面来进行分享:

其实,eBay的想法正是现在很多企业共同的想法,所以近几年很多巨头陆续抛弃了OpenStack。2012年,OpenStack的发起者之一NASA宣布退出OpenStack的研发,随后,Rackspace、惠普、思科都宣布停止基于OpenStack的云服务,Mirantis也大幅度裁撤的OpenStack的开发者。

这两年网秦已经折腾不动了,创始人林宇也已消失在公众视线许久。据腾讯科技
2014
年报道,在12月11日网秦科技突然宣布林宇因个人原因卸任公司CEO及董事长职务之前,坊间有传闻称林宇失联已近2个月。有接近网秦人士称林宇因病在某医院
ICU 病房治疗,也有消息称林宇是“跑路”了。

第一,当前 AI 芯片发展的现状。这里的 AI
芯片并不是单指狭义的 AI 专用芯片,而是指广义上包括 GPU 在内所有可以承载
AI 运算的硬件平台。

图片 4

4年后,林宇用被绑架的消息,上演了一出“华丽”的回归。

第二,在嵌入式设备的环境下如何设计高效的神经网络。这里我使用的案例都选自业界中比较重要的一些工作——也有一部分来自我们的地平线。同时这一节大部分的工作都已经落地到实际应用场景。

在几个月前,英特尔提前关闭了与Rackspace共建的OpenStack创新中心,至此,外界普遍认为,OpenStack败局已定,回天无力。

图片 5

第三,算法+硬件在计算机应用上的一些成果。

但是有趣的是,国内的一些厂商仍然选择OpenStack作为其核心能力,并称之为“开放式创新”。在OpenStack基金会贡献榜中,45家中国企业榜上有名。

关于绑架的传闻目前还无法确定真实性,不过再次公开亮相的林宇确实消瘦了很多

介绍 AI 芯片之前,先介绍 AI
的大环境。大家都知道现在是机器学习时代,其中最具代表性的是深度学习,它大大促进图像、语音、自然语言处理方面的发展,同时也给很多行业带来了社会级的影响。例如在社交网络的推荐系统、自动驾驶、医疗图像等领域,都用到了神经图像技术,其中,在图像医疗,机器的准确率甚至大大超过了人类。

就在前几天,OpenStack发布了它的第18个版本,但随着亚马逊带领的公有云高歌猛进,OpenStack的没落已不可避免,传统IT硬件厂商在云计算领域,打不过互联网公司,这是宿命,由各自的基因所决定。返回搜狐,查看更多

目前双方各执一词,“绑架”一事剧情太过离奇,还无法确定真实性。唯一能确定的是,网秦已经完全边缘化了,乃至于只有这种电影版的剧情才能让人们想起它的存在。

图片 6

责任编辑:

网秦曾经算是一家明星互联网企业。2015
年,时任北京邮电大学副教授的林宇,在一场论坛中受诺基亚工程师启发,看到了手机安全的重要性和前景,于是创办了专注移动安全业务的网秦。此前,他拉来了高中同学史文勇入伙。

从整个互联网发展的情况来看,我们先后经历了 PC
互联网、移动互联网时代,而接下来我们最有可能进入一个智能万物互联的时代。PC
时代主要解决信息的联通问题,移动互联网时代则让通讯设备小型化,让信息联通变得触手可及。我相信在未来,所有的设备除了能够互联之外,还能拥有智能:即设备能够自主感知环节,并且能根据环境做出判断和控制。现在我们其实看到了很多未来的雏形,比如无人车、无人机、人脸开卡支付等等。不过,要让所有设备都拥有智能,自然会对人工智能这一方向提出更多要求,迎接更多的挑战,包括算法、硬件等方面。

创业之初网秦可谓是非常艰苦,由于业务模式没有可参考的样本,拉不到投资,林宇和创始团队只能租用北邮附近的废弃幼儿园作为临时办公室。

大规模运用深度学习需要去应对很多挑战。首先从算法和软件上看,如果把
AI
和深度学习用在某个行业中,需要对这个行业的场景有深入的理解。场景中也有很多痛点需要去解决,但是是否一定要用深度学习去解决呢?在特定场景下,往往需要具备能耗比、性价比的解决方案,而不是一个仅仅能够刷数据集的算法。随着这几年算法的快速发展,人们对
AI
的期望也在不断提高,算法的发展是否能跟上大家的期望,这也是一个问题。

不过在塞班时期,智能手机市场远没有现在成熟,通过大量预装以及关于防护病毒重要性的渲染,“网秦手机杀毒”和“网秦安全”很快积累了第一批用户,收入也节节攀升,最终于2011年5月在纽交所上市,成为中国第一家成功登陆美国纽交所的移动互联网企业,也创造了中国公司从创立到上市用时最短的纪录。

从硬件上看,当前硬件的发展已经难以匹配当前深度学习对于计算资源的需求,特别是在一些应用场景中,成本和功耗都是受限的,缺少低成本、低功耗、高性能的硬件平台直接制约了
AI
技术和深度学习方案的大规模应用,这也是我们地平线致力于解决的行业难题。

然而,盛景之下,网秦一直是一家备受争议的公司。

当前 AI 芯片发展的现状

首先是关于网秦的核心业务——手机杀毒,塞班系统虽然也是智能机,但远不如现在的
Android 和 iOS
扩展性强。有人扒出其实塞班手机根本就没有那么多病毒,之所以搞得人心惶惶,是因为网秦在背后唱“双簧”,一边制造病毒,一边强迫用户升级病毒库以查杀病毒,从而借此牟利:升级一次病毒库两块钱。

接下来我们介绍一下 AI
硬件的一些情况。大家都知道,最早神经网络是运行在 CPU 上的。但是 CPU
并不能非常高效地去运行神经网络,因为 CPU
是为通用计算而设计的,而且其计算方式以串行为主——虽然一些运行指令可以同时处理较多数据。除此之外,CPU
在设计上也花了很多精力去优化多级缓存,使得程序能够相对高效地读写数据,但是这种缓存设计对神经网络来讲并没有太大的必要。另外,CPU
上也做了很多其他优化,如分支预测等,这些都是让通用的运算更加高效,但是对神经网络来说都是额外的开销。所以神经网络适合用什么样的硬件结构呢?

2011 年 3 月 15 日,就在网秦准备赴美 IPO
的前一天,央视“3.15晚会”点名批评网秦,并曝光了一条水货手机恶意扣费的灰色产业链。

图片 7

在曝光中,央视提及用户购买水货之后,飞流软件会自动安装,然后再用户没有任何操作的情况下,进行数据下载,之后默认安装一些软件后会出现手机故障,并且会删除其他安全软件,只有网秦可解,但用户需要通过网秦交费更新病毒库后才能正常使用。

在讲这个问题之前,我们先从神经网络的特性说起:

图片 8

第一,神经网络的运算具有大规模的并行性,要求每个神经元都可以独立并行计算;

但是央视调查发现,飞流和网秦压根就是一家。网秦不仅是北京飞流九天科技有限公司的第二大股东,更是在后续直接完成了对飞流的收购。

第二,神经网络运算的基本单元主要还是相乘累加,这就要求硬件必须有足够多的运算单元;

此外,网秦安全卫士的卸载还非常复杂,所谓“请神容易送神难”,要想卸载,只能刷机。

第三,神经元每一次运算都会产生很多中间结果,这些中间结果最后并不会复用,这就要求设备有足够的带宽。一个理想的设备,它应该有就比较大的片上存储,并且带宽也要足够,这样才能放下网络的权重和网络的输入;

那个年代,各大手机论坛对网秦怨声载道,讨论最多的帖子就是“如何卸载网秦”,以至于“天下苦秦久矣”都成为了对于网秦流氓软件的调侃。

第四,由于神经网络对计算的精度并没有那么敏感,所以在硬件设计的时候可以使用更简单的数据类型,比如整型或者
16bit 的浮点数。因此,这几年大家使用的神经网络解决方案,都是
CPU+比较适合于神经网络运算的硬件(可以是 GPU、DSP、FPGA、TPU、ASIC
等)组成异构的计算平台。

总有人说,互联网的记忆只有七秒,但是大家对于网秦的记忆似乎格外深刻。甚至林宇声称自己被绑架的微博下面,也几乎没有同情之声,大部分评论都是网友在声讨网秦扣费的流氓行径。

最常用的方案是
CPU+GPU,这个是深度学习训练的一个标配
,好处是算力和吞吐量大,而且编程比较容易,但是它存在的问题是,GPU
的功耗比较高,延迟比较大,特别是在应用部署领域的场景下,几乎没有人会用服务器级别的
GPU。

图片 9

应用场景下用的更多的方案是 FPGA 或者
DSP
,它们功耗比 GPU
低很多,但是相对的开发成本较大。DSP 依赖专用的指令集,它也会随着 DSP
的型号变化有所差异。FPGA
则是用硬件语言去开发,开发难度会更大。其实也有一起企业会用 CPU+FPGA
去搭建训练平台,来缓解 GPU 训练部署的功耗问题。

而在公司运营层面,网秦也受到了很多质疑。

虽然刚刚提了很多神经网络加速的解决方案,但是最合适的还是 CPU+专用芯片。我们需要专用 AI 芯片的主要原因是:
虽然现在的硬件工艺不断在发展,但是发展的速度很难满足深度学习对计算力的需求。其中,最重要有两点:

首先是关于数据作假,网秦2012年Q4的财报显示,网秦自称全线产品的累计注册用户数量达到2.83亿,这一数字在一个季度之前是2.42亿,一年之前是1.47亿。

第一,过去人们认为晶体管的尺寸变小,功耗也会变小,所以在相同面积下,它的功耗能保持基本不变,但其实这条定律在
2006 年的时候就已经终结了

彼时,中国互联网网民总数刚刚突破 5
亿,至于移动互联网那就更少了,也就是说,如果网秦的数据属实,中国一大半网民都安装了网秦的产品。

第二点,我们熟悉的摩尔定律其实在这几年也已经终结了。

但第三代数据平台给出了截然相反的答案。FJE
Research的报告表示,网秦在中国的安全市场最多只有3%左右份额;艾媒咨询2012年2季度的中国移动安全市场报告。网秦的排名位于腾讯QQ移动安全管理产品之后,份额只有5.4%。

我们可以看到芯片在这几年工艺的发展变得越来越慢,因此我们需要依靠专门的芯片架构去提升神经网络对计算平台的需求。

另外,网秦也算是中国互联网史第一个大规模使用“水军”这个核武器的企业,在这个职业还被称作“枪手”的年代,各大应用平台和论坛就已经被网秦所“统治”。

图片 10

在应用平台上,有网友指出,网秦在 Google Play
的下载量造假,网秦手机卫士和网秦安全在 Google Play 上的评分和 G+
分享分别达到了 118,293(52,371)和
156,328(299,611),反观国内几大常见安全应用,360 手机卫士
24,471(15,877),LBE 安全大师 4,942(3495),腾讯手机管家
9,977(5588)。

最著名的的一个例子就是 Google 的
TPU,第一版在 2013 年开始开发,历时大约 15 个月。TPU
里面使用了大量乘法单元,有 256*256 个 8 位的乘法器;片上有 28MB
的缓存,能够存储网络的参数和输入。同时,TPU 上的数据和指令经过 PCN
总线一起发过来,然后经过片上内存重新排布,最后计算完放回缓冲区,最后直接输出。第一版
TPU 有 92TOPS
的运算能力,但是只针对于神经网络的前向预测,支持的网络类型也很有限,主要以多层感知器为主。

而友盟排名上,网秦只能排在 200
多,而上文的竞品则是在前十名,数据对比十分明显。

而在第二版的 TPU
里面,已经能够支持训练、预测,也能够使用浮点数进行训练,单个 TPU 就有
45TFLOPS 的算力,比 GPU 要大得多。

在各大论坛上,只要有网秦的负面评价,或是询问如何卸载,“枪手”们就会倾巢而出:

图片 11

图片 12

其实我们地平线也研发了专用的 AI
芯片,叫做 BPU,第一代从 2015 年开始设计,到 2017
年最终流片回来,有两个系列——旭日和征程系列,都针对图像和视频任务的计算,包括图像分类、物体检测、在线跟踪等,作为一个神经网络协处理器,侧重于嵌入式的高性能、低功耗、低成本的方案。

截自天涯网

图片 13

而网秦官网的“用户之声”版块,也是一个神奇的存在:

比较值得一提的是,我们在我们的 BPU
架构上设计了弹性的 Tensor
Core,它能够把图像计算所需要的基本单元,常用操作例如卷积、Pooling
等硬件化,非常高效地去执行这些操作。中间通过数据路由桥(Data Routing
Bridge)从片上读取数据,并负责数据的传输和调度,同时,整个数据存储资源和计算资源都可以通过编辑器输出的指令来执行调度,从而实现更灵活地算法,包括各种类型的模型结构以及不同的任务。

图片 14

总的来说,CPU+专用硬件是当前神经网络加速的一个较好的解决方案。针对专用硬件,我们可以根据功耗、开发容易度和灵活性进行排序,其能耗跟其他两者(开发容易度和灵活性)是相互矛盾的——芯片的能效比非常高,但是它的开发难度和灵活度最低。

感受一下画风……

如何设计高效的神经网络

数据造假给了做空机构可乘之机。2013 年 10 月,美国做空机构浑水(Muddy
Waters)发布最新报告称,称其中市场份额、产品安全、负债表、收购业务等都存在作假或者捏造行为。在这份长达81页的报告中,浑水还指称网秦严重夸大了该公司在中国市场上的占有率,称其所占份额仅为1.5%,而不是网秦自己报称的55%;付费用户人数仅为不到25万人,而并非网秦自己宣称的600万人。网秦股价应声大幅下跌50%以上,跌幅创下历史最高纪录。

说了这么多硬件知识,接下来我们讨论怎么样从算法角度,也就是从神经网络设计的角度去谈怎么加速神经网络。相信这个也是大家比较关心的问题。

虽说次年网秦靠着一份调查结果回应了做空机构的攻击,股价也有所回升,但网秦也没能再现当年辉煌。

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图