精准学习1

《精准学习》

斯坦尼斯拉斯·迪昂

27个笔记

  文前

>> 大胆挑战脑科学研究的终极问题

  导言 人脑中最伟大的才能：学习能力

>> 导言　人脑中最伟大的才能：学习能力

>> 人脑具有极强的可塑性——通过学习自我改变、适应环境。当然，我们也会发现迥然不同的反例。在这些反例中，学习似乎没有任何进展，停滞不前。

>> 人脑的可塑性似乎是“喜怒无常”的：有时它可以克服巨大的困难，有时它又会让原本积极性很高、智力很高的儿童和成年人连生活都无法自理。这取决于特定的神经回路吗？这些神经回路是不是随着时间的推移失去了可塑性？可塑性可以重新开启吗？管理它的规则是什么？人脑是如何做到从人类出生到青年时期都高效运行的？什么样的算法可以让我们的神经回路形成对世界的表征呢？了解它们能帮助我们更好、更快地学习吗？我们能否从人脑汲取灵感，以制造更高效的机器和人工智能，最终模仿甚至超越人类？

>> 从发现火种到制造石器、发展农业、探索世界，再到发现原子裂变，人类的故事是不断进行自我重塑的故事。所有这些成就的根源在于：我们的脑有着提出假设并选择适合环境的假设的这种非凡能力。

>> 注意帮助我们选择并放大相关信息，睡眠帮助我们的脑通过算法整合前几天学到的东西。具有这些特性的新机器正在开始涌现，它们的性能也在不断提升，在不久的将来，它们无疑将与我们的脑竞争。

>> 当代学习科学之旅由三部分组成。

在第一部分“什么是学习”中，我们首先探讨学习对人类或动物意味着什么，包括学习的所有算法或机器的学习。学习的定义很简单：学习就是在脑中逐步形成外部世界的内部模型。

  第一部分

>> 从本质上讲，智能可以被视为将非结构化的信息转化为有用的、可操作的知识的过程。

>> 在认知科学中，学习是在脑中逐步形成外部世界的内部模型。通过学习，那些触动我们感官的原始数据被转换成经过深思熟虑之后产生的想法，抽象到足以在新的场景下被重复使用，成为描绘现实的微缩模型。

>> 第1章　学习的7个定义

>> 学习是在脑中形成外部世界的内部模型。

>> 学习就是调整心理模型的参数

>> 学习是什么? 学习就是根据外部反馈调整脑心理模型的参数。

>> 学习是在利用组合爆炸

>> 数以百万计的神经元在视网膜的各个地方做着同样的工作，它们的输出成为下一个层级的输入，从而检测“规则的规则”，以此类推

>> 学习就是将错误降到最低

>> 程序很简单：我试着回答，被告知我的答案是错误的，我测算错误偏差，然后调整参数以纠正错误，逐步调整，每一步只往正确的方向上做一点小小的修正。

>> 低层级的单位会选择性地对线条或质地做出响应，层级越高，就会有越多的神经元对复杂的输入起反应

>> 梯度下降算法的研究者发现，将误差最小化这些模式对影像分类是最有用的

>> 学习就是探索各种可能性

>> 在实践中，人们可以通过各种方式引入一定程度的随机性到设定中，或更新参数使训练范例的呈现顺序多样化，或在数据中添加一些噪声，或随机选择一部分联结来用，所有这些方法都会使学习的算法更加健全。

>> 学习是一种优化的奖励函数

>> 计算机科学家发现的技巧是给机器编程，让它同时做两件事：行动和自我评估。自我评估被称为“评论者”，它的目标是尽可能准确地评估游戏的状态，以便预测最终的奖励。我是赢了还是输了？我处于势均力敌的状态还是快要输了？评论者可以让系统时时刻刻评估自己的行动，而不仅仅是在结束的时候得知结论。“行动者”的目标是使用这个评估来纠正自己。等等，我最好不要这么做，因为评论者认为这会增加我失败的概率。

>> 一个专注于最有效的行动，另一个学习更敏锐地评估这些行动的结果。这个“行动者—评论者”组合被赋予了一种非凡的先见之明：在浩瀚的棋局海洋中，预测哪些行为可能会赢，哪些行为只会导致失败。

>> 学习限定了搜索空间

>> 神经网络拥有的大量参数往往还会导致另外一个问题，这就是所谓的“过度拟合”(overfitting)或“过度学习”：系统拥有如此多的自由度，以至于它发现记住每个例子的所有细节比找出一个更普遍的规则来解释这些细节更容易。

>> 学习是投射先验假设