CNET科技行者

网站导航

对话深度学习大神Yoshua Bengio:蒙特利尔何以成为AI圣地?

半个多世纪以前,人工智能曾经历了几次低潮,那些灰暗时期被称为“AI寒冬”,当时鲜有人涉足且财力不足。然而,如今异常火爆的AI现状之所以让大家兴奋,很大程度是源于“卷积神经网络(CNN)”的研究进展。这项机器学习技术为计算机视觉、语音识别和自然语言处理带来了巨大进步,而CNN,就是深度学习的模型。

几乎没有人比53岁的Yoshua Bengio更能与深度学习紧密地联系在一起,Bengio是Deep Learning (《深度学习》)一书的合著者(另两位作者是Ian Goodfellow与Aaron Courville),这本书被Elon Musk评价为“深度学习领域的权威教科书”,且Bengio的”A neural probabilistic language model”论文开创了神经网络的语言模型 language model 先河。根据网传的一张关系图,Bengio曾是吴恩达恩师Michael I. Jordan的博士后,于是业界称之为“深度学习三驾马车”(另外两位是Geoffrey Hinton、Yann LeCun)。

对话深度学习大神Yoshua Bengio:蒙特利尔何以成为AI圣地?

Bengio不仅在AI领域影响力日益增长,而且在把蒙特利尔大学塑造成AI孵化地也有巨大影响。2016年,Bengio与他人合伙创立了人工智能孵化器Element AI,宣称“将全球领先的人工智能研究转化为变革性的商业应用”,目的是促进私营企业与学术界的合作。同一年,谷歌在蒙特利尔设立一个深度学习和人工智能研究部门,并为蒙特利尔学习算法学院(MILA)的Yoshua Bengio等八人提供了337万美元的资金。

我们与Bengio聊了聊,了解到这所AI孵化地、RNN的发展程度、深度学习的下一阶段、Element AI如何孵化AI企业等等话题。

对话深度学习大神Yoshua Bengio:蒙特利尔何以成为AI圣地?

问:深层神经网络目前处于什么样的发展阶段?

Yoshua Bengio:我们已取得了巨大的进步,但要想让计算机拥有与人类同等的智力,还需要付出艰辛的努力。目前的大多数进展都是基于监督学习,本质上是教授机器如何模仿人类。通过监督学习,人类提供了让计算机学习的高级概念,这些概念往往单调乏味,甚至限制了计算机自身观察发现新事物的能力。而无监督学习或强化学习,指计算机不仅被动地观察世界或者模仿人类,而且要与环境相互作用,从中得到反馈。人类很擅长这一点。我目前正在研究的课题之一就是将无监督深度学习和强化学习结合在一起。

问:需要采取哪些步骤才能更进一步实现无监督学习?

Bengio:首先,必须了解目前面临的问题,也是科学运作的流程。这不仅仅只关乎创造新事物,也关乎理解我们正在研究的算法和现象。看一下目前最先进的深度学习系统会发现,那些经过数百万乃至数十亿样本训练得到的系统,或者所犯错误的类型,告诉我们他们对这个世界粗浅理解或他们接受训练的某一方面。我们的发现和进展不应该令人沮丧,因为动物对世界的理解也很粗浅。人类有更深层次的理解,是比动物更好地生存下来的原因。人类会哄诱动物做事,就像我们现在哄诱神经网络得出错误答案一样。

如何进一步取得成功呢?十多年来,我的研究集中在学习更好的表征,尤其是具有解耦属性的表征,这是深度学习的核心。解耦(Disentangled)将不同的概念和不同的解释区分开来—我们称之为因子—它可以解释数据,解释智能体看到的其周围的事物,以及解释智能体如何在世界各地巡逻。解耦可以捕捉一些因果关系,解释了我们看到的和计算机看到的东西。

但我还不知道实现这一目标的具体步骤。我有一个项目,还存在很多未知因素。从多方面探索研究这个项目很重要。这就是长期性基础研究与探索性、应用性研究的区别。探索性、应用性研究中,我们把已拥有的东西进行精细调整,能够创造出新产品以解决具体问题。应用型研究十分重要,因为AI正影响着全世界的商业、医疗、教育、农业等许多方面。

问:近期深度学习领域中,哪些进展对我们的日常生活产生影响?

Bengio:自然语言是一个方面。随着计算机更好地理解人类文字和语言,并且可以以自然语言应答、生成自然语言等技术的进步,我们与计算机的互动方式也会发生转变。这可能对我们的就业市场产生很大影响。因此,有很多公司都投入巨资。这也是AI可以发展如此迅速的重要原因之一。科学进步与我们的努力成正比。过去三年里,深度学习可以如此成功,一个原因正是越来越多的人参与到AI研究中,且利用它开发新项目。而这一趋势,还将继续持续下去。

问:您最近合伙创立了一家名为Element AI的公司,请问创立这家公司的初衷是什么?它的使命又是什么?

Bengio:成立公司的初衷是在蒙特利尔建立一个国际化AI中心和新AI生态系统。要创建一个既有研究元素又有创新元素的AI生态系统,我们需要优秀公司参与其中。

Element AI是众多引领性公司之一,在AI生态系统中举足轻重。与Google,Facebook,Amazon,Microsoft,IBM这些大型跨国公司不同的是,Element AI有一支专门从事AI研究的科学家队伍。这些大型跨国公司现在已意识到,若不组建内部AI研究团队,他们的业务可能会受到影响。Element AI帮助这些公司与当地初创公司建立联系,研发衍生品,进行业务交易。

Element AI另外一个工作重心是培养一个由内部研究人员和外部研究人员共同组成的团队,从事AI、机器学习和深度学习研究。这个团队由大学里的研究人员和Element AI研究人员共同组成,可以自由探索任何新的想法。他们还与Element AI的应用研究人员合作,以便他们能够站在应用领域的前沿。例如,Element AI正在研究的一项就是我们所说的“迁移学习”,是机器的一种能力:通过利用之前学过数据集或其他问题,提高学习解决新问题的能力。这意味着我们可能不需要一个很大的数据集,就能找到解决新问题的好办法。

问:是否有些公司或行业特别适合成为Element AI的客户?

Bengio:各行各业的反应惊人。他们的需求已经超过我们团队目前的处理范围。我们现在主要是招募新人。Element AI不只专注某一个特定领域,而在许多领域探索可能性并展开一些项目。

问:如果一家刚涉足AI领域的企业,希望得到Element AI的帮助,您会给他什么建议?比如,从哪些模块开始开发?

Bengio:首先要提出一个策略,能汇集该公司各个方面的专家。这些专家了解不同产品,有不同视野,包括能够预见不同产品的未来发展,了解市场发展前景等。

数据积累方面也很重要。譬如,公司已经累积了哪些数据?还可以收集什么样的数据?最后,我们需要从深度学习的视角检验这样的战略是否可以成功的解决这些问题。能否在合理时间内提出解决方案,基于预测数据应对这些潜在的棘手问题?大公司的专家各有所长,Element AI的团队成员根据经验提出了许多推荐方案,双方一定会产生思想的碰撞。对大公司而言,开展一个项目之前他们会把一系列可能的方案分出优先级,并进行评估。

问:您不仅是企业家,还是蒙特利尔大学的教授。您目前在蒙特利尔大学从事的研究,是持续周期较长、成果显示较慢的基础研究,而您在Element AI从事的研究,是持续周期较短且具有商业性质的应用研究。那么,您如何分配这两种研究的时间?

Bengio:我的主要工作依然是学术研究。我在蒙特利尔大学是全职教授,只是为Element AI和其他公司提供咨询。我与Element AI以及像微软这样的公司合作本质上具有前瞻性。这是我能力所在,也是我的强项,但我不会参与到公司的具体商业事务中。

我也在建设蒙特利尔学习算法研究所(MILA)。这个研究所就像一个大型初创公司,且已经成为蒙特利尔AI生态系统的核心。MILA汇聚了来自蒙特利尔大学和麦吉尔大学的机器学习研究员,约200人参与。我们希望未来的两到三年中,参与研究的教授和学生数量可以增长一倍。

问:如您所说,在蒙特利尔大学以及MILA、Element AI的工作很大程度上是在建设一个AI生态系统。这样的描述是否准确?

Bengio:社区工作是必不可少的一个方面。许多成功都归功于MILA实验室所建立的一种特殊文化。MILA既非常重视也迫切需要研究人才,把人才视若珍宝。我们给予研究人员充分的自由,让他们在社区里找到自己的位置,以更好地激励他们尽可能地发挥自己的聪明才智为研究做贡献。同时,魁北克(Quebec City)不像北美的其他地区,并非过分强调个人主义和竞争意识。所以我们可以更好的团结协作,取得佳绩。

问:加拿大正在通过一些非常有趣且新颖的工作吸引AI人才。您说过希望把蒙特利尔发展为人工智能中心。我们特别想知道,为什么蒙特利尔可以在AI领域获得成功呢?这是不是与该地区学术机构、省市政府以及商业界形成的伙伴关系(对于AI革命的爆发至关重要)有关?

Bengio:您确实列举了一些重要的因素,但我想说,关键点很简单,是群聚效应(critical mass)。我的团队是最先开展深度学习研究的团队之一。尽管这一领域当时少有人涉足,但是蒙特利尔大学非常肯定我们的设想,允许我们在一个还未受到大众欢迎的领域继续聘请更多教授。接着,便是“滚雪球效应”(snowball effect),研究员越优秀,培养的学生和博士后就越优秀。这意味着我们可以发表更高质量的论文,在国际上获得更多关注,反过来,我们可以聘请到更优秀的研究员。

同样,深度学习的商业价值越高,吸引的公司和投资者越多,因此,加速了该领域的发展。随着大大小小的公司(包括Microsoft、Google、Facebook等)相继来到蒙特利尔,蒙特利尔会在科学界以及投资界变得更加引人注目。所有这些都催生了企业家精神。我的学生中有更多人想创业,他们正在蒙特利尔付之实践。以前,投资者会要求这些企业家搬到硅谷,但现在,他们很乐意看到这些企业家留在加拿大。

正如您提到的,不仅仅是蒙特利尔大学,多伦多大学也在相似的轨迹上快速发展着。我们已经在多伦多的向量学院、蒙特利尔的学习算法研究所、及埃德蒙顿的阿尔伯塔机器智能研究所之间建立了合作关系,努力打造加拿大的AI联盟。我们的目标是让加拿大成为AI强国并且在全球科学界占有一席之地。与美国和中国相比,加拿大只是一个小国,但我们的群聚效应将会带来巨大改变。就人数而言,硅谷的规模并不大,但它能够成为创新中心,正是因为其群聚效应。

问:接下来,我想谈一谈“AI威胁论”的话题。Elon Musk曾经表示他担心AI会引发第三次世界大战,有这样想法的不止他一个人,许多企业家和学者也都强调,如果不能合理利用AI,它将对我们产生潜在威胁。对此,您有何看法?

Bengio:我并不担心AI会统治人类。值得赞扬的是很多人正在研究这些问题,而且这些问题离我们也太远。我所担心的是,AI应用过程中存在的一些潜在短期问题和中期问题。AI可能被滥用。

正如您所提到的,令人担心的问题是AI可能会被应用于军事领域。科学界很多人支持禁止研发致命性自主武器的国际公约或者国际法律。包括联合国在内的许多组织都在严肃地讨论这个问题。但是,像美国等一些国家,却试图阻止这些禁令。这是极为严重的错误。如果轻易让法律商业化,将会降低一些小国使用致命性自主武器的门槛,以致所有人的安全都将受到威胁。为抵御这些致命性自主武器,开展有关防卫技术方面的军事研究非常有必要。但是,我们需要一个国际公约,这个公约可以像我们过去二十年里成功的制止核武器、化学武器、生物武器以及地雷那样,制止研发致命性自主武器。尽管我们现在能做的还微乎其微,但是如果可以让每个国家、每个大公司、每个人都清楚地明白,研发这些武器是不道德的,我们可以为地球上的人减少很多安全风险。

<来源:Forbes;编译:科技行者>

关注科技行者公众号

即将跳转至电脑版页面您确认跳转吗?
取消 跳转