2018年深度学习领域的十大预测
我有种不祥的预感, 2018年可能是发生戏剧性变化的一年。
我们在2017年看到的令人难以置信的突破将在2018年以非常有力的方式继续下去。大量的研究成果将会被移植到日常软件应用中。
以下是我对2018年深度学习领域的十大预测。
1.大多数硬件初创公司都会失败
许多深度学习硬件初创企业,在2018年终于可以交付他们的芯片了。然而,这只是成功的一半,他们都忽视了提供良好的软件来支持新解决方案。这些公司有资本、硬件。不幸的是,在DL领域,软件同样重要。这些创业公司大多不了解软件,也不了解软件开发的成本。他们可以提供芯片,但没有东西能在上面运行。
英特尔的解决方案将继续推迟,这可能很令人失望。该方案的记录显示,英特尔无法在2017年中期发布展示方案的任何产品。他们没有取得人们期待的进步,我们不得不说这是英特尔的一大败笔。
随着TPU的发展,谷歌将继续给世界带来惊喜。也许谷歌还会将IP授权给其他半导体厂商,来发展硬件业务。如果他们继续做英伟达之外的其他硬件厂商的合作伙伴,将是非常有意义的。
2. 元学习将成为新的SGD
2017年出现了大量关于元学习的强大研究。随着对元学习的深入理解, 研究界将抛弃随机梯度下降(SGD)旧的模式, 转而采用一种将开发性搜索和探索性搜索相结合的更有效的方法。
无监督学习将渐进式发展,主要靠元学习算法驱动。
3. 生成模型推动了一种新的建模方式
生成模型将会越来越成熟和完善。目前,生成模型的大多数研究都关注图像和语音生成方面。然而, 我们将看到这种方法用于构建复杂系统。你将看到的更多活动的领域之一是深度学习在经济建模中的应用。
4. 自我对弈是自动化知识创造方式
AlphaGo Zero和AlphaZero从零开始学习的自我发挥是一个巨大的飞跃。在我看来,它与深度学习的发现具有同样的影响力。深度学习发现了通用函数逼近器,强化学习自我对弈发现了自动化的知识创造方式。
预计我们将会看到更多与此相关的内容。
5.直觉机器将弥合语义鸿沟
这是我最雄心勃勃的预测。直觉机器和理性机器之间的语义鸿沟将被弥合 (如果它还没有被弥合)。双过程理论 (两种认知机制的概念, 一个是无模型的, 另一个是基于模型的)将成为建立新AI的流行概念。在 2018年,人工直觉将不再是一个边缘化的概念,而是一个更普遍被人们接受的概念。
6. 可解释性是无法实现的
可解释性有两个问题。其中一个比较常见的是,过多的规则是人类无法解释的。第二个不太为人所知的问题是,机器创造的概念是完全陌生和无法解释的。我们已经在AlphaGo Zero和AlphaZero的策略中看到了这一点。人类能够发现某个举动是非常规的,然而他们可能无法理解这一举动背后的逻辑。
我认为这是无法解决的问题。同时,机器正变得非常擅长“伪装”。大多数情况下,人类完全无法给出一个完整的解释。
7.深度学习研究信息泛滥
2017年对于从事深度学习研究的人来说已经很疲惫了。ICLR举办的2018年会议收到的论文数量约为4000份。为了赶上这次会议,研究人员一天要写10篇论文。
这一现象还会更加严重,因为理论框架正紧锣密鼓地建立。为了在理论空间取得进步,我们需要运用更高级的数学知识,以获得更好的洞察力。但这只是一个简单的过程,因为大多数深度学习的研究者不需要太深的数学背景来理解这些系统的复杂性。深度学习需要更多能够构建复杂理论的研究者,然而这类研究人员却太少了。
过于泛滥的论文和糟糕的理论,像炼金术一样使研究领域陷入窘境。
同样缺少的还有AGI(通用人工智能)发展的通用路线图。这个理论很弱,因此我们能做的最好的事情就是指出发展的方向,以及创建一条与人类认知相适应的道路。而我们现在只有来自认知心理学的推测理论的框架。这是一种糟糕的情况,因为来自这些领域的经验证据是不可靠的。
深度学习研究论文在2018年可能会翻三番或四番。
8.通过教学环境实现产业化
深度学习系统更可行的以及可大力发展的条件是开发出具体的教学环境。关于这个问题,我在我的《Embodied Learning is Essential to Artificial Intelligence》和《Deep Teaching: The Sexiest Job of the Future》两篇文章中都有详细的讲解。如果你想找到粗糙点的教学方法,那么只需要看看深度学习网络的训练过程。我们在这方面取得了很多进展。
期待更多的公司展示他们的内部实力,看他们是如何组织大规模的深度学习的。
9. AGI新的认知方式
我们衡量AGI的进展的方式是过时的,而需要一种新的方式,这种新方式会解决现实世界的动态(即非平稳)复杂性。我们将在2018年看到更多关于这个新领域的报道。我将在阿姆斯特丹(3月1 - 2日,信息能源2018年会议)讨论这种新的认知方式。
10. 人工智能的伦理应用
人们越来越希望人工智能可以更合乎道德地使用。现在, 人们逐渐意识到自动化失控带来的灾难性影响。我们通过 Facebook、Twitter、谷歌、亚马逊等,已经发现了简单的自动化给人类社会带来的不必要的影响。
我们需要了解并部署机器的道德规范。面部识别就是机器一项非常危险的能力,它的算法能否准确识别现实情况而不产生歧视?我们需要迅速攻克这一难关, 让 AI为整个人类社会的利益服务, 而不是成为导致不平等的工具。
希望在来年能够看到更多关于道德方面的讨论。
准备冲击吧!
这就是我们现在所拥有的一切。2018年将是重要的一年,我们都要牢牢系好安全带,向新时代发起冲击!
作者简介:
Carlos E. Perez是《Artificial Intuition and The Deep Learning Playbook》一书作者,人工智能初创公司Intuition Machine的联合创始人。
—完—
亲爱的朋友:
于我个人来说,读完这篇文章,感觉视野又开阔了很多。为了分享给大家,我们的小伙伴努力让这篇文章更通俗易懂。
希望你也会喜欢。
祝安!
智能观 一米
2018-1-8 于北京中关村
想知道AI加教育领域有哪些最新研究成果?
想要AI领域更多的干货?
想了解更多专家的“智能观”?
请在对话界面点击“找找看”,去获取你想要的内容吧。
声明:
编译文章旨在帮助读者了解行业新思想、新观点及新动态,为原作者观点,不代表智能观观点。