文章插图
深度神经网络在 1980 年代就已经被提出 , 但在最初的成功过后 , 因为它本身训练的复杂性、结构的不确定性、对数据量的依赖性、理论的不清晰性等 , 在 2000 年初的一段时间逐渐被更加有理论依据的概率图模型等取代 。当时仍然专注于深度神经网络的学者 , 被认为是人工智能学界的少数派 , 而日后被称为“深度学习三巨头”的杨立昆、辛顿和本吉奥就在其中 。
杨立昆和辛顿、本吉奥回忆起自己在这段时间的坚持的时候 , 笑称这是“deep learning conspiracy”(深度学习的阴谋期) , 而自己是 Canadian Mafia(加拿大黑手党) 。杨立昆在当时坚设计出了一个简单的人脸识别系统 , 但他的成果并没有引起太多科学家的重视 。
从 2003 到 2013 大约十年的时间里 , 尽管赶上了人工神经网络研究的低谷 , 以杨立昆为代表的这一小撮“顽固分子”仍在默默坚持着从事各种人工神经网络算法 , 特别是卷积网络算法的研究 , 不怕被视作“蠢Huo”和“少数派” 。正是这些研究成果 , 奠定了今天深度学习算法的基础 。
但是从 ImageNet 的成功开始 , 神经网络 , 或者说“深度学习” , 开始以摧枯拉朽之势在各个领域展示出它的优势 。感知领域是最先被征服的:让计算机看懂人看得懂的图片 , 听懂人听得懂的声音 , 读懂人读得懂的文字 。基于此 , 人工智能算法迅速开始在其他领域崭露头角 , 例如棋类[AlphaGo]和游戏、自动驾驶、人工智能医疗、公共服务等领域 。可以说 , 今天人工智能已经成为一门“显学” , 成为任何技术领域都值得了解的一个称手的工具 。
杨立昆等人的工作也因此被全世界瞩目 , 2019 年 3 月 , 他和辛顿 , 本杰欧一道获得了计算机科学领域的最高奖——图灵奖 。
如果要总结杨立昆的成功经验 , 可以用这样四句话来概括:
- 求学是为了知识本身 , 而不是文凭;
- 广泛地阅读高水平的专业著作 , 培养科学的品味;
- 特立独行 , 做自己感兴趣的事情 , 即便那件事在短时间里不被人看好;
- 长期的坚持 。
但在现实生活中 , 他与许多人工智能科学家都是同路人 。他们有时合作无间 , 有时又各自独立研究 , 但互相之间从未停止交流 。这也与他能够在由一群富有激情的人组成的群体中逐渐占有一席之地有关 。这些人都是 20 世纪 50 年代控制论的继承者 , 他们提出了一些深刻又大胆的问题 , 比如 , 神经元这些非常简单的物体是如何通过互相连接制造出“智力” 这种涌现属性的 。
杨立昆曾说喜欢钻到一群比自己聪明的人里面去 , 因为在很多方面他都根本没觉得自己有什么天赋 。
杨立昆职业生涯的转折点也出现在一场聪明人的集会上 。1985 年 2 月 , 在阿尔卑斯山莱苏什举行的研讨会上 , 他遇到了当时世界上对神经网络感兴趣的顶级专家 , 他们有物理学家、工程师、数学家、神经生物学家和心理学家 , 尤其还有贝尔实验室新成立的研究神经网络的小组成员 。在当时 , 贝尔实验室在科学界是宛如神话一般的存在 。得益于这场研讨会的相识 , 在三年后 , 杨立昆被该小组聘用 。
此后 , 在杨立昆还只是个学生的时候 , 另一位聪明人——也是“深度学习三巨头”之一——辛顿邀请他做了一场报告 , 并介绍说杨立昆发现了反向传播 。杨立昆在书中回忆:“在一次晚餐时 , 辛顿跟我说 , 他将在一年后离开卡内基·梅隆大学 , 加入多伦多大学 。他问我愿不愿意成为他的客座研究员 。我回答:‘当然了!’这一年时间正好够我完成博士论文 。”
- 怎么追双子座女生
- 怎么追双鱼座男生
- 怎么追天秤座女生
- 怎么追天蝎座女生
- 怎么追天蝎座男生
- 2021公共基础知识考试真题模拟题精选 法律基础知识试题
- 数学是对理解的追求,而不仅仅是追求计算
- 数学趣味故事:数学小故事,小侦探巧用数学知识破解谜题
- 抖音小店带货知识有哪些 抖音小店提现需要多久
- 抖音小店线上订单开票开通流程相关知识介绍