按关键词阅读:
AI科技评论:那是在哪一个节点稍微感觉有头绪了呢?
陈云霁:可能是2012年左右开始有一点感觉了。
AI科技评论:当时是取得了哪些突破、让你们感觉没那么茫然吗?
陈云霁:这个没有。我们不是坐在那突然灵光一现,都是慢慢摸索,有很多小的成功,最后汇成了一个大的突破。
在2014年以前,我们最大的挑战可能是,我们在做的这个研究在当时的学术界是不认可的,工业界是不关心的,然后做这个(深度学习处理器)也发不了论文、申不了项目。但是,我们相信自己的学术理想,所以最后能够坚持做下来。
其实世界上聪明的人很多,只要你看准了一个方向,能够坚持做起来,我觉得基本上都能够看到成果。
AI科技评论:2014年获得ASPLOS最佳论文后,你们的研究内容有变化吗?
陈云霁:2014年之后,我们还是在这方面继续做了一系列工作。比如,我们开发了国际上第一个深度学习处理器的指令集 Cambricon,发表在了ISCA 2016上(获得最高分)。我们获得国家自然科学奖的成果,有很多是从那篇文章(如下)体现出来的,因为它归纳了一些最基本的计算与访存知识。
文章插图
论文链接:https://max.book118.com/html/2019/0610/8003056114002027.shtm
AI科技评论:您在刚刚工作的时候就去做这种交叉研究,还是非常有勇气的。
陈云霁:是的,我现在想想也是挺无知无畏的。
我觉得当时最主要是有一个比较好的环境。坦率来说,现在国内学术界的青年科研人员的压力其实非常大,一会要评副高,一会要评正高,一会要评博导,在这么大的生存压力下,他们还有没有勇气去做一些国际主流学术界不认可的方向?反过来说,你想做一个国际上原创性的工作,那么在这个工作做出来之前,它一定是不被认可的。
去做一个全世界不认可的工作,然后通过自己的努力让这个工作被国际学术界认可,而且成为国际学术界的主流,这是最理想的情况。这条路的风险非常大,所以现在大部分青年科研人员只能屈从生存压力,在国际主流学术界已经认可的方向上做一些添砖加瓦的工作,比较容易发文章,评职称的风险会小一点。
但真正具有原创性的创新工作,往往是一个年轻博士在刚毕业时做出来的。比如,爱因斯坦提出狭义相对论的时候只有25岁。那现在我们25岁的人敢不敢去做这样的大问题?这是个问题。
不过人非圣贤,肯定都要考虑自己的实际生活。我觉得还有一种选择,就是青年科研人员能有一半的时间做国际主流的研究,再拿出一半的时间去做一些非共识的研究,能够平衡一下风险与收益。当时我们也是这样做的。
AI科技评论:您当时除了做深度学习处理器,还有做其他研究吗?
陈云霁:对。我从刚毕业到2012年评上研究员、博导之前,主要的工作是做龙芯的通用CPU。当时胡伟武老师让我担任龙芯3号的主架构师,做的是传统的芯片。所以我相当于大部分精力是花在了这上面。
文章插图
AI科技评论:如果当时是all in的话,可能也受不了。
陈云霁:对。我一个刚刚毕业的博士生,一篇论文发不了,就算计算所不会把我怎么样,我自己也会感觉不踏实。但是你不能说一个人等已经评上了教授,再去做真正原创性的创新。雷锋网
AI科技评论:您刚刚谈到冯诺依曼体系架构。上世纪90年代,国际上也曾经有过一阵研制神经网络计算机的热潮,现在的深度学习与神经网络处理器研究与当年相比有什么突破?解决了哪些当年无法解决的问题?
陈云霁:在上世纪90年代,不说国外,国内像李国杰院士、陈国良院士都做过这方面的工作。但当时最主要的问题是,他们那个时候能处理的神经网络规模很小,一般来说几层神经网络,1000个神经元。
在深度学习时代,我们要处理的神经网络是没有上限的,理论上可以达到几百层,几十亿个神经元,这就带来了一个质变:你怎么样用一个有限规模的硬件去处理一个无限规模的算法?这是上世纪90年代那些工作不一定能解决的。
AI科技评论:你们提出来的深度学习处理器可以解决多大的神经网络?
陈云霁:不受规模限制。雷锋网
AI科技评论:现在大模型预训练已经成为一种潮流,但由于对计算资源要求高、运行时间长、成本高,中小企业难以接受。您如何看这种趋势,您的研究是否可以补上中小企业AI研究的短板?
稿源:(雷峰网)
【傻大方】网址:/c/1123a25W2021.html
标题:对话陈云霁:深度学习处理器之外,用人工智能指导芯片设计也渐成趋势|独家 | 陈天石( 四 )