加入收藏 | 设为首页 | 会员中心 | 我要投稿 PHP编程网 - 湛江站长网 (https://www.0759zz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 业界 > 正文

宋继强:20年后来看今天 人工智能还是早期阶段

发布时间:2016-12-19 19:34:07 所属栏目:业界 来源:网易科技
导读:副标题#e# 网易科技讯12月17日消息,由中国人工智能学会主办,网易科技承办的2016中国人工智能产业大会暨第六届吴文俊人工智能科学技术奖颁奖盛典今日在深圳登喜路国际大酒店举行。 本次大会以“AI新时代·产业新动能”为主题,会上英特尔中国研究院院长宋

这是它的一张架构图,中间那些绿色的实际上是计算处理单元,提供了我们称为基于张量架构的单元,我们做很多块运算,张量计算架构可以很快速直接进行快运算,比用处理器快很多,而且我们看到这里面有个Flexpoint技术,以前有定点数,有浮点数,但这都是固定的告诉你,你用了多少,Flexpoint是介于这两者之间,是可以动态变化的,也就是你在做的初期,你不需要那么高的精度,你可以用广的精度做,运算到后期,你需要越来越多进度的时候,再增长为它提供很好计算的密度。同时还有一个好处,这四个黄块,是直接就在一个芯片里面分装在一起,有各自独立的IO接口,而且距离主芯片非常近。第三个好处,我设计了一款芯片之后,其实总值是有一个上限,怎么样去突破这个上限,你是否能容易构成节点。这上面的蓝块ICL,是私有定制芯片间的通讯链路,这个链路的速度非常快,带宽也很高,而且它的12个意味着什么?一个芯片可以跟12个芯片连接,可以构成一个12维的超网络支持你的运算,现在大家可能还用不到这么多。这就是它有一定灵活性的深度学习计算的架构。

这是我们收购了很多公司带来的新技术,我们之前的技术仍然存在,包括至强融核的技术,去做通用计算的加速。Arria FPGA可以做在功耗和性能优化的情况下做加速,这也是非常好的,这在2016年就有。2017年,这些继续往前推进,同时我们会增加在特定优化的时候,增加Lake Crest架构,我们会把这些人工智能的硬件和方案统称为Nervana平台产品组合,这是我们的商标,而不只是收购过来的一款芯片。

有了硬件,我们还要注意,不能放松对算法的研究,因为硬件很好,但是你可以用很烂的算法把它用得很差。所以在这里,英特尔内部也和外面的学术界一起合作,在这几个前沿的领域在快速推进深度学习领域的算法和研究,这里面包括我们怎么更快的训练,怎么更好的利用少一些的数据和少一些的监督,去达到训练的特性,并且我怎么把记忆元素加进去,记忆其实是通过对历史数据的一些分析和挖掘,找出来的开展的模式,这些模式是利用来大幅提高对训练的指导。第二,怎么把大模型稀疏化和修剪,因为现在模型和参数非常多,千万级别,上亿级别的都有,这么多里面,有用的没有那么多,大量的是为零的,为零你还为他存储和计算不是浪费资源吗?所以怎么做好大量模型的稀疏化,重要的留下,让我的硬件利用效率最高。另外就是我们看怎么支持更大规模的计算,包括在云端我们有更多的批量,可以同时做运算,在每个节点可以用更高阶的方法做处理。

(编辑:PHP编程网 - 湛江站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!