海森推荐图灵奖得主:约书亚 本吉奥
在现代人工智能领域,所有的道路似乎都绕不开三位与加拿大大学有联系的研究人员。
首先,在多伦多大学任教的70岁英国人 杰弗里·辛顿开创了一个名为“深度学习”的分支学科,这个分支学科已成为人工智能的同义词;其次,57岁的法国人杨立昆,80年代在辛顿实验室工作,现在纽约大学任教。第三个,54岁的约书亚·本吉奥,出生在巴黎,在蒙特利尔长大,现在蒙特利尔大学任教。
这三个人是亲密的朋友和合作者,所以AI领域的人戏称他们为“加拿大黑手党”或“深度学习三巨头”(前两位可查看海森大数据微信公众号之前的文章介绍)
不过, 辛顿于2013年去了谷歌, 杨立昆去了Facebook。两人都保持着学术地位。但约书亚没有去任何大公司,他创建了世界上最大的深度学习研究小组、独立非营利组织:蒙特利尔学习算法研究所(MILA),然后拿走了图灵奖。
约书亚——学术纯粹主义者
约书亚1964年出生于法国巴黎,是一名不折不扣的学霸。
他在麦吉尔大学的时候,就一口气获得了电子工程学士学位、计算机科学学士学位和计算机科学博士学位。
接着约书亚还拿着NSERC奖学金,继续到世界一流名校麻省理工学院深造,成为一名大脑和认知科学系的博士后研究员。
约书亚曾加入贝尔实验室(贝尔实验室自 1925 年建立以来就有着辉煌的历史,一***获得两万五千多项专利,荣获 8 次诺贝尔奖。),约书亚在贝尔实验室进行学习和视觉算法的博士后研究,在这里,约书亚结识了文章开头提到的“三教父”之一的杨立昆,并培养了深厚的友谊。从贝尔实验室出来后,自1993年开始,约书亚一直是蒙特利尔大学计算机科学和运算学系的一名教授,他加入蒙特利尔大学后,常常被人提到的,既不是他经历的趣闻,也不是他的教授生涯,而是同年他在蒙特利尔大学创建的学习算法研究所——Mila(全称:Montreal Institute for Learning Algorithms)。
Mila专注于机器学习研究,包括但不仅限于深度学习和强化学习等。如今(2020年),Mila拥有包括教职员工和学生在内的大约500名研究人员,是世界上最大的深度学习研究小组,同时,作为一家独立的非营利组织,Mila还拥有着很多AI公司的研究实验室。
教书育人、创办非盈利的科研教育机构的同时,约书亚还研发了序列的概率模型。序列的概率模型被认为是1990年代神经网络研究的巅峰之作,现代深度学习语音识别系统正在扩展这些概念。约书亚还撰写了具有里程碑意义的论文一种神经概率语言模型,引入了高维词嵌入和注意来表示词义,对自然语言处理任务(包括语言翻译、问题解答和视觉问题解答)产生了巨大而持久的影响。
自2010年以来,约书亚的有关深度学习的论文,特别是与伊恩·古德费洛(Ian Goodfellow)合作研发的生成对抗网络(Generative Adversarial Networks ,简称GAN),引发了计算机视觉和计算机图形学的革命。
“序列的概率模型”+“高维词嵌入和注意”+“生成对抗网络”=图灵奖
2019年,约书亚荣获2018年ACM AM图灵奖,那一年,还有两人获得了该荣誉,你猜是谁?没错,就是杰弗里·辛顿和杨立昆,从此,世间就有了“AI教父三人组”。