传奇大神何恺明被曝回归学界,网友:要成全 MIT 引用最高的人了
- 量子位
2023-03-10 18:53
AI 大牛何恺明有了最新动向,而且是回归学术界。
MIT CSAIL 实验室发布公告,3 月 13 日下周一,何恺明将到 MIT 做学术演讲。
此事引起 AI 圈广泛关注。在相关知乎问题下,MIT 博士 @Charles 指出,何恺明参加的这个研讨会全是 Job Talks(求职演讲)。
杜克大学教授陈怡然也表示,一直听说何恺明在寻找教职,现在终于能确认了。
求职演讲是学术界一大传统,指申请博士或教职者到校做学术报告,内容是他们自己的研究成果,通常正是在每年三四月份集中进行。
并且进入这个阶段,就代表何恺明至少已经通过了简历筛选,研究成果和能力受到了 MIT 的认可。
还有网友预测,鉴于之前李飞飞到 MIT 演讲座无虚席,何恺明这回讲座恐怕也会非常火爆,成为深度学习大型追星现场。
但也有网友在评论区补充到,这不代表最终何恺明就会选择去 MIT,也可能会去其他学校,但总之在找教职基本可以确定了。
或成为全 MIT 引用最高的人
虽然不确定何恺明最终的选择,但眼尖的网友已经发现,如果他真去了 MIT,被引用次数将成为全校最高。
目前,MIT 全校被引用次数最高的,是化学与生物医学工程系的重量级教授 Robert Langer,次数为 38 万 +。
而何恺明被引用次数高达 40 万 +。
尽管不同学科无法直接这么对比,但何恺明的引用次数实在是太引人注目了。
有网友表示,虽然引用量不一定能说明太多问题,不过“引用量是天文数字的一定是大神”。
要论何恺明最高引研究,必须是 ResNet。在 2021 年底突破 10 万大关,如今已经涨到 15 万。
ResNet 本身虽为计算机视觉领域研究,但其核心思想残差连接已经跨界成为现代深度学习模型的基本组件。
开启上一次 AI 热潮的 AlphaGo Zero 就是结合了 ResNet + 强化学习 + 蒙特卡洛搜索共同完成。
而开启最新 AI 热潮的 ChatGPT,其中的“T”也就是 Transformer 网络中同样使用了残差连接。
在计算机视觉上,何恺明的主要贡献还包括 Faster R-CNN 及后续的 Mask R-CNN 等一系列研究,在很多年都是目标检测的主流方法。
他的近期主要研究兴趣是无监督学习,21 年底提出的 MAE,将语言模型的掩码预训练方法用在视觉模型上,为视觉大规模无监督预训练大模型开路。
最近他还将掩码方法引入众多 AI 绘画应用的基础模型 CLIP,把训练速度提升了 3.7 倍。
在 MIT 即将进行的演讲中,何恺明准备的主题也是“视觉智能”。
包括他在 ResNet、目标检测方面的成果,以视觉无监督学习对未来研究的影响。
至于何恺明可能要加入的 MIT CSAIL (麻省理工计算机科学与人工智能实验室),是麻省理工最大的实验室,也是世界著名的计算科学和 AI 实验室。
这里云集了众多计算机科学和 AI 领域的知名人物,包括万维网发明人 Tim Berners-Lee,分布式计算和并发算法专家、图灵奖得主 Leslie Lamport 和 Barbara Liskov 等等。
当 Meta AI 有了产品压力
何恺明本科就读于清华大学,博士毕业于香港中文大学,2011 年他加入微软亚洲研究院。
自 2016 年起他加入 Facebook AI Research,也就是大名鼎鼎的 FAIR,继续研究计算机视觉。
但就在最近一年之内,该部门已发生两次重大调整,都是增强应用型研究,削减基础研究。
去年 6 月,受公司转型元宇宙影响,FAIR 被降级为元宇宙部门 Reality Labs 的下属组织。
同时,支持旗下各大 App 的算法团队转移进产品工程团队。新架构给了产品团队更大权限,加速技术的应用落地。
今年 2 月底,扎克伯格面对 ChatGPT 热潮再次做出调整,宣布成立顶级 AI 产品团队。
把全公司搞 AIGC 的都集中起来。
多年前,在 LeCun 卸掉 FAIR 管理层、就任首席 AI 科学家时,还在 FAIR 的田渊栋、吴育昕等研究员都曾表示,在这一部门没有产品的压力。
但近期一系列调整下来,Meta 流失不少研究型人才,包括带领过强化学习研究的 Edward Grefenstette 等至少 4 位知名学者离职,甚至位于伦敦的 AI 实验室失去了大部分顶级研究者。
从何恺明回归学术界的动向来看,他还是更倾向于搞基础研究。
One More Thing
就在这段时间,关于学术界与工业界的对比再次成了 AI 圈热点话题。
一方面,有网友指出工业界大厂的日子不好过,工程、应用型的岗位增加,研究型的越来越少。
另一方面则是大模型当道,AI 科研成本指数级增加,连顶刊 Science 都在正刊发文表示:学术界与工业界掌握的算力已不在一个数量级。
两者夹击之下,AI 大牛回归学术界和离开大厂创业成了同时存在的两股趋势。
回归学术界的代表除了何恺明,代表人物还有谷歌 Tensorflow 创始成员 Pete Warden。国内也有蚂蚁金服原副总裁漆远加盟复旦、商汤原执行研究总监代季峰加盟清华等。
离开大厂创业的代表人物则有谷歌 Transformer 作者们出走成立 Adept AI、Character.AI,以及前两天刚曝出的亚马逊李沐与 Alex Smola 携手创业。
在《如何看待 Kaiming 面试 MIT 教职?》的知乎热议话题下面,一个高赞回答是:
参考链接:
[1]https://www.csail.mit.edu/event/eecs-special-seminar-kaiming-he-pursuit-visual-intelligence
[2]https://weibo.com/2199733231/4877346375735190
[3]https://www.zhihu.com/question/588205714
本文来自微信公众号:量子位 (ID:QbitAI),作者:梦晨 Alex
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。