「哥德尔、艾舍尔、巴赫——集异璧之大成」读书笔记下部

本篇笔记因为篇幅超长（共两万八千余字），超出简书允许的字符数，所以拆成两部分，各对应书的上半部和下半部。上半部笔记在这里。因为人气的下滑，和这本书的专业性，我需要时间确定下如何写这一篇文章，敬请期待。

下篇 EGB 异集璧

前奏曲……

• 由费马大定理导向的：
  • 由现有的大气分子现状恢复几百年前巴赫的纯正演奏
  • 证明过程中的自指
• 由如何听巴赫「平均律钢琴曲集」中的赋格而提出整体论和简化论（注：或称为还原论）之间的互不兼容

第十章 描述的层次和计算机系统

• 描述的层次
  • 屏幕上显示的含义描述层次（卓别林在跑）和屏幕像素矩阵的含义（一大堆色点）
• 组块化和棋术
  • 正常的对局过程中，会出现多次的某种局面，或者模式，大师对这种模式十分敏感。大师和新手在不同的层面上思考。
  • 智能紧密地依赖于为复杂的对象构造高层描述的能力（将矩阵点理解为一副画面）
• 相似的层次
  • 同一个系允许两种以上不同层次的描述，而这些描述又都是相似的，这种情况下容易混淆层次区别，迷失方向
• 计算机系统
  • 存储器
• 指令和数据
  • 指令：一组固定的有限的操作
  • 数据：存储方式通常是记下数据的位置，并由指针指向那里
• 机器语言之别于汇编语言
  • 汇编语言比机器语言更加高级
  • 机器语言把机器语言的指令「组块化」了，更让人容易理解，更加便捷
• 翻译程序的程序
  • 汇编程序：将汇编语言翻译成机器语言好让机器可以运行
• 更高级的语言、编译程序和解释程序
  • 子程序/过程（function/procedure）：用已知的实体定义新的高层实体，并且可以随时通过名字调用
  • 编译语言(compiled language)：将整个代码块同时进行完整的解释然后只能
  • 解释语言(interpreted language)：每一行每一行地解释同时执行，读取、解释、执行同时进行
    • Lisp（List Processing）语言：长期垄断人工智能语言
• 自举（注：bootstrap）：由程序自己来自动引导接下来的一系列行为，就像是哪些行为被包装好了
  • 一个部分完成了的编译程序而已对其他部分进行编译，直到完整得出整个所期望的编译程序
• 运行着的程序的各种描述层次（注：最明显的例子就是当发生exception的时候我们查看的stacktrace）
• 微程序设计和操作系统
  • 微型计算机：非常低层次的微指令
    • 这种微指令可以做进电路，成为硬件的一部分
  • 操作系统
• 方便用户并保护系统
  • 一个系统的多层级使得人们只需要关心最上层的实现，而无需关心底层的复杂，同时也避免了人们对系统底层的运行造成破坏
• 计算机是过于灵活还是过于刻板？
  • 如果出现了任何拼写错误或者违反规则的编程方法，程序非常有可能立刻就会崩溃
• 猜出程序员的意图
  • 灵活性和可靠性不能兼得
• 人工智能的进展即语言的进展
• 妄想狂和操作系统
  • 操作系统无法回答它被编写的规则之外的问题
• 软件和硬件之间的界限
  • 所有的灵活的软件下面都必然有着最底层的不灵活的硬件
  • 人脑也可以分为硬件和软件，而我们软件的某些方面很明显是由硬件控制的
• 中间层次和天气
  • 可以无限迭代下去的层次
  • 地区的雨雪和全球冰川期相比是很低层次的，而和某个地点的一股风相比可以看做是很高层次的
• 从龙卷风到夸克
  • 原子的结构也可以根据整体论和简化论（注：或称为还原论）而理解出不同的层面
  • 「几乎可分解系统」，各个部分可以单独独立出来而又有互相联系的系统
• 超导：一个关于重正化（重正化：第五章，表示粒子之间的作用力正常开启的模式）的「悖论」
  • 超导的原理是对部分进行了组块化，所以在该层次上出现了超导的现象
• 「隔离」
  • 层次之间是相对隔离的（注：或者说越隔离越有灵活性），所以人们不需要下面层次的事物
• 组块化和确定性之间的利弊平衡
  • 组块化模型通常不具有精确的预测力
• 「计算机只能做你告诉它去做的事情」
  • 但是，人很难预知告诉计算机去做的事情可以导致什么结果
• 两类系统
  • 第一类：某些部分的行为趋向于抵消另一些部分的行为，结果是在高层次看基本没有影响
  • 第二类：单个底层时间的效果将被放大成一个巨大的高层后果
• 旁效现象：整个系统组织的可见结果（人的极限跑步速度是根据全身的整体状态得来的）
• 心智能否完全区别于大脑？

……蚂蚁赋格

• 以一首四声部赋格的形式，通过对于三幅包含多个不同层次信息的图案，和蚁群马姨的层次划分和最高层的交流能力，以及蚁群和人脑之间的映射，来表达出对不同层次的理解会导致不同的看法，而且智能要在一定层次之上才会体现出来
• 被动符号 vs 主动符号
• 最高层次上描述似乎最有解释力
• 「信号」和「符号」，「信号」映射于兴奋状态的神经元，「符号」映射于大脑状态
• 在大脑中，主动的符号总是在调节自身，以反映出大脑的整个状态，这一切总是在符号水平之上
• 高层次会对低层次一无所知（注：应该只在封装隔离非常完好的情况下）

第十一章 大脑和思维

• 关于思维的新观点
• 内涵与外延
  • 注意：在现实世界中，符号和事物之间不必具有严格的一一映射关系
  • 内涵的：描述可以「篇幅」着而不落在实在具体的已知客体上
    • 一个关于世界的灵活的内涵表示是思维的全部所在（注：换句话说，思维就是一个能够构造虚构概念和世界的东西）
  • 外延的：概念依赖于物质实体
• 大脑中的「蚂蚁」
  • 即神经元，人脑中有约100亿个，每个最多可以有20万个不同的输入端口，输入的综合超过阈值后发射电化学流，每秒频率可达上千次
• 脑的大尺度结构
• 脑之间的映射
  • 所有蚯蚓的脑在神经细胞级别是完全同构的
  • 人类脑之间的映射可以达到什么等级的同构？
• 大脑过程的定位：一个谜
  • 无法确实地判断大脑思维过程究竟是不是对应于某个大脑区域
• 视觉处理的特性
  • 视网膜的神经元->侧膝体中转站->大脑正后方的视觉皮层
  • 简单细胞、复杂细胞、超复杂细胞和高阶超复杂细胞，依次渐渐从最简单的信号处理到高级的识别
• 一个「祖母细胞」？
  • 是否存在一个「祖母细胞」，当祖母出现在视野中时，它就会被最终激活？
• 汇集到神经模块
  • 并没有找到大尺度硬件和高层次软件之间的直接对应关系，无法确认哪一部分的大脑就是控制哪部分工作的
  • 「汇集」替代「祖母细胞」：信息处理的终点是一组神经元，当祖母有进入视野的时候全部发射，对于每个不同的可识别对象，都有唯一的一个神经元网络和聚焦于该网络的汇集过程
    • 也有可能汇集的过程不是必须的，本身视觉细胞的反应印迹或集体反应可能就是标识
    • 使人看到了同一对象的景象可以有无数个（穿着各种各样的祖母）
    • 一个同样的印迹可以有不同的解释
• 作为思维过程媒介的模块
  • 对应于每个概念，都存在一个界说良好的可触发模块，「神经复合体」，但是这个模块的界限仍然无法圈定
  • 作者感觉，要理解意识现象，对同一个脑的同一个状态来说，低层次的描述（面向神经元）要变成高层次的描述（面向模块）才可以。
• 活跃的符号
  • 活跃的符号之间互相保持联系
  • 符号的规模：大概是一个单独的词汇所能表示的东西
• 类与例（一个类别和该类别的个例）
• 原型规则
  • 原性原则：最具体的时间可以被用作一雷时间的一个一般范例
  • 一般性即寓于特殊性之中
  • 例符号和类符号可能同时存在，而不仅仅前者是后者的激活方式
• 从类中分离例
  • 当我们仅仅得知一个个体的类别的时候，我们本能地将脑中的类的属性继承给了该个体；当对于该个体了解得越来越多的时候，该个体也越来越独立于类而存在而拥有了自己的各种属性
• 搞清符号间的纠葛是很难的
  • 一个极端：符号代表了一整个类，每个不同的个例都以不同的方式激活该符号
  • 另一个极端：每一个个例都有一个符号
  • 中间情况：多种类与例的区分方式
  • 多个符号还可以绑定在一起成为一个新的符号
• 符号——是软件还是硬件？
  • 一种理论认为存在硬件上可区分的符号
  • 一种理论认为符号可以重叠，但能靠激活方式来彼此区别
• 智能的可抽取性
  • 如果可以自足地解释高层次的符号激活通讯，建立一个不涉及底层神经事件的理论，那么只能就可能实现于不同于大脑的其他硬件上
• 单个符号能否被隔离出来？
  • 符号可互相辨别区分但是不能隔（类似互相调用的RTN）
  • 一个符号的个性存在于它与其他符号的相互联系
• 昆虫的符号
  • 人独有的智能：类中产生例，例中产生类
  • 例子：黄蜂像是被编码写好地重复机械程序
  • 人思考「如果我这样就会这样这样」的能力来自于构造例并处理的能力
• 类符号和假想世界
  • 符号可以成为符号的模板，这样人的心智就获得了某种相对于现实的独立性：人可以在想象中创造宇宙
  • 人们的精神很大一部分是同构的，但是在边界区附近，愿意接受哪一种假想世界却是带有鲜明主观色彩的
• 直观的物理定律
  • 物理定律可以为假想的物理定律所取代
• 过程性知识和描述性知识
  • 描述性知识：具象地存在大脑某处（北京总人口）
  • 过程性知识：分布在各处，是一个程序的工作过程的全局性结果，是旁效现象的结果（家里有几张桌子）
• 视觉表象
  • 思维是如何构成一个虚拟的视觉表象的？
    • 表象可能是基于我们对运动行为的抑制能力的
  • 即使是言语可达的知识，也要以复杂得不可达的过程为媒介，才能到达可以用语言表达的状态中

英、法、德、中组曲

• 刘易斯·卡罗尔的Jabberwocky和它的各种译文组成，毫无意义
• 试图引入这个问题：不同的语言，或者说不同的心智，可以互相映射吗？

第十二章 心智和思维

• 心智之间能够彼此映射吗？
  • 我们关心的是在符号层次上是否存在同构
  • 我们可以放弃寻找精确的同构软件，不过很明显存在着某些部分的软件同构，能将风格相似的大脑联系起来
• 不同语义网络的比较
  • 任何网状结构，都可以考察局部性和总体性
• Jabberwocky的翻译
  • 说明在两个不同的网络中，试图找出「相同的结点」这样的问题
  • 所有语言的翻译，读者在大脑之间存在着一种粗略的同构，部分是总体的，部分是局部的
• 自想国：凭靠想象画出的精确国家地图
• 版图换掉：在自想国中旅游，却拿着显示的地图。在大方面会有不少一致，但细节方面全乱套了
• 中心性和普遍性
  • 中心即为「节点」，类似符号，公路则像是潜在的触发通道
  • 每个人的符号网络很大一部分是有普遍性的，人们在大多数方面是一致的
• 语言和文化在多大程度上引导思维？
  • 语言的本地性不仅要依靠用词，词汇之上还有「联想层次」
  • 不通语言的人，思维在符号的层面上很相似，但更精细的层面就不那么相似了
• 自想国中的旅行和旅行路线
  • 一个想法若充分经常地在一个人的大脑中重现，它就会逐渐地组块化而形成一个单独的概念
  • 旅行路线代表思维过程
• 可能的、潜在的、反常的通道
  • 潜在的通道：只出现特殊外部环境的时候我们才走它
  • 任何离奇的通道都可以分解为一些不离奇的路段，离奇的思维可以分解成简单的信念和知识
• 小说翻译的不同风格
  • 对于不同翻译风格的比较
  • 有一种可以客观描述的意义隐藏在符号之中，也就是说，一个很好的程序是有可能捕捉到其意义的
• 程序之间的高层次比较
  • 比较程序的时候，我们事实上实在比较不同程序所做的事情是否一样，即所谓「以太件」（相对于软件硬件）
• 大脑之间的高层次比较
  • 人的大脑高层次是肯定可以被读出的，因为我们的语言就是用词汇来形容所思所想
  • 我们的描述是高度组块化的，以至于我们不必在乎描述的是大脑的哪一部分
• 潜在信念，潜在符号
  • 大脑状态本身不具有说明哪条路线将被采纳的信息，外界环境在决定路线的选择时扮演着极为重要的角色
  • 一个大脑状态的组块化描述将由一个带或然性的登记表构成，其中列着一些符号，它们在各式各样「多半合理」的环境中（这些环境也是在组块层次上描述的）最可能被唤起。
• 自我意识在哪里？
  • 意识是系统的一种性质，每当系统中有服从触发模式的符号时，这种性质就会出现
• 子系统
  • 一个复杂的符号，符号集群，具有自己的可选符号集，并且在其内部可以相互触发
  • 我们的亲密朋友在我们大脑中就是以子系统的方式存在的
• 子系统和共用编码
  • 子系统可以调用大脑其他部分的符号，假设子系统所代表的事物的观念中和我的观念中该符号的意义等同（注：这一点其实是默认的）
  • 计算机的某些方面正在达到同样的复杂性，互相调用，多个程序共用一段编码
  • 艾舍尔的例子说明，大脑中的某类子系统一旦被激活，就几乎是自主的了（注：应该只在很复杂的子系统中存在）
• 自我符号与意识
  • 由于自我子系统可以对自己进行观察，它必定有表示心智活动的符号，即符号的符号
  • 自我符号即意识
• 我们与卢卡斯的初次会面
  • 卢卡斯认为，有意识物是个整体，因为能够在意识到别的东西的同时意识到自己，并且不可分解，所以破解了哥德尔式的问题。而机器需要更加复杂，复杂到临界点以上的程度，才会开始自行其是不可预知。

咏叹调及其种种变调

• 巴赫的「哥德堡变奏曲」
• 「哥德巴赫猜想」有穷的证明
• 「哥德巴赫变奏」无穷的证明
• 有穷但不知道终点于何处（有终止但不可预测其终止）的检验
• 数论中，单个数字的特性都是所有数的特性的体现。（注：推而广之，我想任何存在的任何特性都是周围大环境的部分体现）

第十三章 BlooP和FlooP和GlooP

• BlooP和FlooP和GlooP是三门专门为本章发明的语言
• 自我意识和无序
  • 要在形式化的情况下分析自我意识
  • 一个奇怪的现象：一个复杂到能反映自身的有序系统不可能是完全有序的，其中必定包含某种无序特征（而在无序之中，又有种某种奇特的无序的有序）
• 可体现性与冰箱
  • 冰箱对于唱片内容的体现性不足
  • 全部原始递归真理的可体现性将作为一个系统足够强有力的判别标准
• 元数学中的岩头之斧：无论系统如何，哥德尔之斧都会说它是不完全的
• 选择适当的过滤器来发现有序
  • 一些复杂的无序现象，人们后来都发现只不过是很温顺的有序现象的某个不同角度的看法
• BlooP语言（Bounded Loop）
  • 只能相加、相乘和比较，并且循环有次数上界
  • 块结构（Block）
  • IF条件语句和分支
  • 自动组块（调用之前已经定义的过程）
  • 可以输出boolean（T或F）
  • 定义了一个过程之后，需要调用才算开始运行
  • 可以用BlooP来计算的函数叫做「原始递归函数」，可以用BlooP来测验证的性质叫做「原始递归谓词」
• 可表示性和可体现性
  • 可表示性：可以从自然语言翻译到严格的形式化表述
  • 可体现性：谓词的全部真的例都是定理，假的不是定理
• 原始递归谓词在TNT中是可体现的
  • 如果能为自然数的某个性质写出一个BlooP测试，那么这个性质在TNT中是可体现的
• 存在非原始递归的函数
• B库、索引编号和蓝程序
  • 我们通过过滤，在B库（即所有可能的BlooP程序的库）中选出「计算哪些恰有一个输入参数的函数」，称为蓝程序。按照程序的字符长度排序，并给予编号。
• 对角线法
  • 定义程序「蓝对角」（N）=1+蓝程序[#N]（N）
  • 如果蓝对焦是一个蓝程序，也就有了一个编号，比如说是X，「蓝对角」（N）=蓝程序[#X]（N）
  • 当N=X的时候，上面两个程式出现悖论，也就是说，按对角不在B库里面，不能用BlooP语言写出
• 康托尔本人给出的原始对角线论证
  • 证明如果建立了一个实数的「登记表」，那么它就不可避免地要把某些实数拒之门外
  • 把0-1之间的无限个小数实数写出来，取对角线上的数字（即第一个数字的第一位，第二个数字的第二位……），然后全部减去1.这样一来，新得到的数字和所有数字都至少有一位不同，即不在表中。
• FlooP
  • 和BlooP的唯一区别就在于没有循环次数上限
  • 一个很吸引人的想法：制造出一个有限的判断过程来判断FlooP有否终止
    • 图灵的妙计：将程序进行哥德尔配数法送入判断程序之中
    • 如果存在终止测试器，那它的能力可以直接判断任何数论性质的正确与否
    • 最后在Gloop之后论证，这种判断不存在
  • F库、索引编号和绿程序
    • 绿对角和蓝对角一样，但是它有可能遇上没有终止的程序，所以无法确定值
    • 假设存在终止测试器，并将其设定为最后一个过滤器，得到红程序库，红对角就成了和蓝对焦一样的悖论：我们有一个函数可以人工计算，但是不在FlooP计算能力之内
• GlooP
  • 将Floop再一次「释放」？
  • 丘奇-图灵论题：
    • 人所能计算的也就是及其所能计算的
  • 如果丘奇-图灵论题为真，那么GlooP不存在
• 一些概念
  • 「原始递归」：BlooP可计算
  • 「一般递归」：能用有终止的FlooP程序计算的
  • 「部分递归」：能用没有终止的FlooP程序计算的
• TNT的能力：原始和一般递归的完全性

G弦上的咏叹调

• 暗示着哥德尔的自指，用类似于「“由六个字组成”由六个字组成」或「“放在其引文后面得到假句子”放在其引文后面得到假句子」之类主语即除了主语外的句子本身的自指来类比

第十四章 论TNT及有关系统中形式上不可判定的命题

• 「牡蛎」里的两个想法
  • 某些TNT符号串能解释成在谈论另一些TNT符号串，即「自省」
  • 这种自我审视的性质可以全部集中于一个单个的符号串
• 第一个想法：证明对
  • 两个自然数形成一个TNT证明对，当且仅当m是某个TNG推导的哥德尔数，而该推导的最末一行是哥德尔数为n的符号串
  • 「是证明对」测试时原始递归的，因而可再TNT中实现
• 证明对的威力
  • 证明对既可以用TNT共识表示，也可以用其体现
  • 表现出了TNT「自省」的能力
• 代入导致的第二个想法
  • 将一个值（或者表达式）的哥德尔数代入到原方程的哥德尔数中去
• 算术㧟(注：kuai三声)摁（蒯恩的音似体）
  • ARITHMOQUINE(a’’,a’)：a’是对哥德尔数的算术㧟摁所得公式的哥德尔数
• 最后一锤
  • 悖论出现了
    • G的「服」号串：~<span style="color: rgb(0, 0, 0); font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: nowrap; widows: 1; word-spacing: 0px; -webkit-text-stroke-width: 0px; float: none; background-color: rgb(255, 255, 255);">∃a:</span><span style="color: rgb(0, 0, 0); font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: nowrap; widows: 1; word-spacing: 0px; -webkit-text-stroke-width: 0px; float: none; background-color: rgb(255, 255, 255);">∃a’:<TNT-PROOF-PAIR{a, a’} AND ARITHMOQUINE{a’’, a’}></span>
    • <span style="background-color: rgb(255, 255, 255);">将G的</span>「服」号串哥德尔配数，表示为u
    • 将u重新代入G的唯一自由变量a’'
    • 所得到的TNT翻译成话：不存在数a和数a’使得：1. 它们形成TNT证明对 2. a’是u的算是㧟摁化
    • 因为G本身就是u的算术㧟摁化，2肯定是错的，所以只能说它们a和a’不是证明对
    • 也就是说G在说：没有一个数a能与u的算术㧟摁化形成TNT对
    • 即u的算术㧟摁化不是TNT定理（因为不能找到TNT证明对）
    • 但u的算是㧟摁化就是G本身
    • 也就是说，经过这些推论，我们得出G本身在说「自己不是TNT定理」的结论
    • 如果假设G是定理，那么很显然是矛盾；如果G不是定理，没有直接矛盾，但是G不是定理这一事实正是由G所断定的，所以G讲的是真理，但G又不是定理，是真理但不是定理，所以TNT出现了不完全性。
• 哥德尔第二定理
  • 在TNT内部表示TNT一致：不一致性是说两个相悖的公式都是定理。而根据TNT命题演算规则，所有良构的公式就是定理。所以，要说明TNT的一致性，只需要提出一个TNT的句子，然后说明这个句子可以被证明为不是定理就行了。例：证明公式~0=0不是TNT定理。
  • （注：这一方法好像只能证明在一些特定情况下的TNT一致性）
  • TNT用来表示一些事物的时候，可以很轻易地表现出反省的能力。但是要让它证明这些事物，反省能力就很差劲了
• TNT是ω不完全的
  • 由于G本身不是定理，当然也就没有自然数会和G的哥德尔数构成证明对，也就是说，任何数和u的算术㧟摁化都不形成TNT对，即在所有值代入情况下G都是真的，但是G本身不是定理，即ω不完全
• 两个不同的补洞方法
  • 把G加进去作为新公理
  • 把G的否定(~G)加进去作为新公理
    • 超自然数I
      • 与u的算术㧟摁化形成TNT证明对的数
      • 通过重新解释存在量词和全称量词，也就是在自然数中引入了超自然数，矛盾自然消失，TNT+G变成了一个一致的系统
    • 我们需要习惯这样的想法：~G（G有证明）是真理，而G（G没有证明）不是真理
    • 超自然数的加减法
      • 用三个一组的数字为超自然数I进行编号，以方便进行加减乘除法
      • 没有一个编号方案能既方便地算加法和乘法（注：好像还没有定义超自然数的加法和乘法？）
    • 超自然数是有用的，并且作为数学工具，在特定情况下是真实有效的
    • 几何学的分叉现象与物理学家
      • 物理学家用何种不同的几何学来分析内涵
    • 数论的分叉现象与银行家
      • 数论是分析工具，再古怪的数论也不能否认现实中单纯十进制算术的正确性，银行家不同担心
    • 数论中的分叉现象与元数学家
      • 和银行家和物理学家不同，数理逻辑学家必须去分清这些概念
      • 一般说来，数理逻辑学家相信TNT是ω一直的，所以在该系统中所构造出的哥德尔符号串都是在该系统诶不可判定的。
• 希尔伯特第十问题与乌龟
  • 丢番图方程

生日大合唱哇哇哇乌阿乌阿乌阿……

第十五章 跳出系统

• 一个更强有力的形式系统
  • TNT的弱点本质就在于它能表示自指陈述，即「我在形式系统TNT中不可证」
  • TNT+G
  • 再用哥德尔方法，同样得到「我在形式系统TNT+G中不可证」
• 多重分叉现象
  • 叉的产生源自于选择G还是~G作为系统补充
  • 可以呈树状结构二叉树无限分叉下去
• 本质不完全性
  • 只要一个系统是良定义的，它就变得脆弱了
  • 在康托尔对角线法中，正式「明晰地排列」0-1之间的实数这一举动导致了垮台
  • 哥德尔自指方法所以来的3个条件，所有符合这三个条件的形式都能被证明不完全
    • 陈述：该系统要足够丰富，以便全部所需要的有关数的陈述，无论真假，都能在其中表示
    • 推理变化：所有一般的递归关系（注，即能用有终止的FlooP程序计算的）都能用该系统中的公式体现
    • 辨认定理：公理以及根据该系统的规则所确定的印符模式，都能通过某个有终止的过程来辨认。（辨认出是不是公理和定理）
• 卢卡斯式的非难
  • 卢卡斯会用不完全性当做机器人无法达到人类智慧的证据，因为人类能发现一个真的数论语句，但计算机却无法打印出来
• 跳高一维
  • 艾舍尔「龙」
• 智能系统的限度
  • 反驳卢卡斯：正因为我们无法写出哥德尔化的程序这个事实，才让我们应该怀疑我们是不是在一切情形下都能使用哥德尔办法
  • 不存在能给序数命名的递归规则，同理，没有一个算法能说清如何对所有种类的形式系统使用哥德尔方法。
  • 任何一个人将在某一点上达到他自己作哥德尔化能力的极限。超过这一点后，尽管这个形式系统仍旧不完全，但却和人一样强有力（注：事实上也是在暗示人的思维也不完全）
  • 这只是反驳卢卡斯的一个方法
• 对卢卡斯的其他反驳
• 超越自我——一个现代的神话
  • 一个人能从大脑的一个子系统中跳刀一个更宽广的子系统去，这可能会让人们产生超越自我的错觉
  • 上帝能不能创造出一块自己举不动的石头？
• 广告和框架手法
  • 框架手法先创造出一个局限，然后就可以通过条粗那个局限让人们觉得释放、解脱和超越
• 辛普利奇奥、萨尔维亚蒂、萨哲杜：为什么要三个
  • 萨哲杜作为一个中间人，但仍然是系统的一部分，需要更高一层的冲裁，然后是更高一层的，无限迭代
• 禅宗和「走出」
  • 通过逐步加深一个人的自我意识，打破他领悟到的所有束缚自己的规律，逐渐扩展「该系统」的范围，他最终将会感到与整个宇宙相一致。

一位烟民富于启发性的思想

• 关于唱机的讨论暗示了哥德尔不完全定理的牢不可破
• 关于摄像机和屏幕的讨论暗示了互相嵌套，以及不断往系统内添加新的元素（注：类似于G）以反应整个系统的无限迭代

第十六章 自指和自复制

• 隐性和显性的句子
  • 例：「本句子有七个字」就是隐性的，需要人有足够的语言能力理解「本句子」的指代
  • 如果用该句子本身代替「本句子」三个字，那么会陷入无限循环
  • 蒯恩的构造在这个意义上很像哥德尔构造：都是通过描述另一个同构于蒯恩的句子的字符串来创造自指。这间接地跳过了无限循环的陷阱。
• 一个自复制程序
  • 接受一个参数，并且重新打印出和该函数（拥有同样的输入参数）一模一样的输出
  • 秘密在于，有一个符号串以两种方式起着作用，首先是作为程序，其次是作为数据（注：有点让人想到编程中的反射机制）
  • 利用词组「本句子」几乎可以说是个骗局，因为对于「本句子」的分析很依赖于人们的解读，其本身并没有直接揭示自指性
• 什么是副本？
  • 一首自复制的歌
    • 歌曲的自制内容不在选个按钮上，而在唱机里
  • 一个螃蟹程序
    • 一样东西和它的镜像是否含有同样的信息？
    • 它们有不同的外在消息，却有同样的内在消息。如果我们再确定意义的时候忽略一定的外在消息，那么本体和镜像就包含相同的信息
  • 说谎者横跨太平洋
    • 「这句话翻译成太平洋另一侧的语言，并在前面加上引号，就得到假句子」is an expression which, when it is preceded by its translation, places in quotation marks, into the language originating on the other side of the Pacific Ocean, yields a falsehood.
  • 打印字机的哥德尔数的程序
  • 哥德尔式的自指
    • G是借助翻译（注：翻译成哥德尔数）达到自指的一个突出例子
  • 通过增值达到的自复制
    • 有些微变化的自复制同属于一类，复制的东西也是一类而不是一例
  • 凯姆式自复制：输入一条错误信息给程序，设法让程序打印出同样的错误信息
• 什么是原件？
  • 自复制可以包括比单纯复制自己更丰富的内容，可以包括其程序，解释程序和处理机
• 印符遗传学
  • 用来模拟分子生物学中DNA在细胞中的自复制
  • 串、基、酶
    • 基：ACGT四个字母（嘧啶：T（胸腺嘧啶）C（胞嘧啶），嘌呤A（腺嘌呤）G（鸟嘌呤））
    • 单元：基所占的位置
    • 串：ACGT组成的任意序列
    • 酶：对串进行操作的机器
      • 最开始喜欢拴在某种基之上
      • 对串进行一系列的操作
  • 复制状态和双串
    • 复制一个串，把基的相反(A-T; G-C)倒置在单元上
  • 氨基酸
    • 共有十五种指令，每个指令代表着一种氨基酸，也就是说，酶是一串氨基酸组成的
  • 翻译和印符遗传密码
    • 根据印符遗传密码，每两个基翻译成一个氨基酸
  • 酶的三级结构
    • 一级结构是指氨基酸序列，三级结构是由一级结构决定的，指的是酶的折叠方式，折叠方式决定了「喜欢」栓的基的种类
  • 标点、基因与核糖体
    • 标点：AA串表示一个酶的结束
    • 基因：一个串中，给一个酶编码的那个部分
    • 核糖体：读串并产生出它们编码的酶的装置（在印符遗传学中，就是人）
  • 串定义了酶，核糖体读出酶以后，酶重新作用于串，得到新的串，再继续产生新的酶，以此循环
• 怪圈、TNT及实际的遗传学
  • DNA与核苷酸
    • 核苷酸：脱氧核糖+磷酸基+基。基可以用来鉴别核苷酸。
    • DNA：脱氧核糖核酸。由核苷酸构成。通常是两条逐个配对的核苷酸串组成，顺着脊柱方向是由强共价键相连的，双串之间由弱氢键相连。
  • 信使RNA与核糖体
    • 核糖体在细胞质内，DNA在细胞核内，mRNA（信使RNA）负责传递信息
    • 转录：DNA复制到mRNA上。DNA拆成单串，其中一个作为模板，mRNA与其对应配对，不过mRNA中没有T，而要换成U
    • 酶属于蛋白质，而核糖体是制造蛋白质，而不仅仅是酶。但不是酶的蛋白质大多不活跃，所以我们这里不再区分。
  • 氨基酸
    • 20种
  • 核糖体和录音机
    • 翻译：mRNA进入细胞质和核糖体发生的过程
  • 遗传密码
    • 三元组而不是二元组
    • 三级结构：三级结构蕴含在一级结构之中，但是中间的推导方式仍然复杂且未知
  • 蛋白质功能的简化论解释
    • 在实际的酶中，组成酶的氨基酸不是负责一个明晰的作用片段。确定酶作用方式的，是整体的三级结构
  • 转移RNA与核糖体
    • tRNA：DNA产出，带有遗传密码和氨基酸。当核糖体解析mRNA的时候，核糖体会抓住一个漂浮在附近的额正好与解析中的mRNA互补的tRNA，并从上面撤下氨基酸，放到正在组创的蛋白质上
  • 标点和阅读框架
    • 标点同样标出一个蛋白质结束构造
    • 阅读框架：DNA含有多层含义，可以通过改变其阅读框架的方式，对同一个串进行不同的解析
• 蛋白质与音乐中的多层结构和意义
  • 蛋白质一二三四级结构层次，可以对应音乐中乐句、旋律、乐章、全曲
• 多核糖体和二排卡农
  • 多核糖体对统一mRNA的解析，和多mRNA从同一DNA上的生成，形成了先后有时差的二排卡农
• 谁生谁——核糖体与蛋白质
  • 核糖体是由蛋白质组成的，蛋白质又是核糖体产生的，那么谁先生谁？
• 蛋白质的功能
  • 大多数酶只执行单一任务，而不是一串任务
  • 生物酶可能对细胞中所有东西发生反应
• DNA指挥自己复制需要一个强有力的支撑系统
  • 需要保证mRNA能从DNA中制造出蛋白质——比如RNA聚合酶
  • 某些核糖体
• DNA如何自复制
  • 两个串分开（DNA核酸内切酶）
  • 给刚刚得到的两个新单串各配上一个新串（催化酶复制并移动，连接酶去连接新串上可能存在的缝隙）
• DNA的层次
  • DNA所包含的意义从一系列氨基酸、蛋白质代码，以致高到个人特征
  • 从DNA到特征有两种方法，一个是做出伪渐成程序，模拟整个演化过程。一个是捷径，从遗传型直接读出表现型
• 中心法则映射
  • 分子生物学中心法则与数理逻辑中心法则的映射
• 中心法则映射与「对位藏头诗」
  • 哥德尔的对应物看起来是一种自杀性的病毒，并没什么意义
• 大肠杆菌与T4之战
  • 分子特洛伊木马：T4侵入大肠杆菌后，向细胞中注入病毒DNA，并伪装骗过本土核糖体开始生产病毒蛋白质，然后组装新的病毒本身
  • 识别、伪装和标识：标识出本土DNA并排斥一切未标识的
• 汉肯句子：断言自己在特定形式系统中可以生成的句子。
  • 和G很类似，只不过没有开始的否定号。G是断言自己不能生成。
  • 隐式汉肯句子和显式汉肯句子
    • 显式汉肯句子显式地描述了自己的推导，但显式汉肯句子不一定是定理
  • 自组装病毒和非自组装病毒
    • 自组装病毒不必告诉细胞任何有关它们结构的事情就可以复制，而后者需要给出一些如何组装它们的指令
• 两个突出的问题：分化与形态发生
  • 反馈和前馈
    • 当需要的物质太多或者太少，就会发生反馈，调整组装这种物质的生产线
    • 否定的前馈或者反馈
      • 抑制：阻止有关的酶起作用
      • 阻遏：阻止有关的酶产生
        • 阻遏物：在DNA长线上的一个障碍物，组织RNA聚合酶工作
    • 肯定的额前馈或者反馈
      • 反抑制
      • 反阻遏
        • 诱导物：和阻遏物结合，从而阻遏「阻遏物」生效
    • 两个相邻的、具有完全相同基因类型、但有不同功能的细胞之间的额区别，在于它们的基因组中的不同节段收到阻遏
  • 分化
    • 复制的过程中，经常要出一些疏漏，每一副本也会有些不同，最后导致了相差很大的结果
• 细胞中的层次混合
  • 各个层次之间 （程序、解释程序、处理剂、数据）紧密相关交叉混合
  • 用计算机科学的用语来总结DNA复制过程中的元素（注：感觉非常杂乱）
    • DNA：用高层语言写出，随后被翻译成机器语言的程序；一段数据
    • 蛋白质：「细胞的机器」语言写成的程序；数据；解释程序
    • 处理机：细胞
    • 翻译：从高级语言到机器语言
    • tRNA：规定了高级语言的定义
• 生命的起源
  • 这种复杂是如何开始的？

的确该赞美螃蟹

• 螃蟹使用了长笛来演奏数论陈述，并通过其优美与否判断真假

第十七章 丘奇、图灵、塔斯基和别的人

• 形式的和非形式的系统
  • 思维的每一个方面，都可以看成是从较高的层次上描述的一个位于较低层、受某些简单的乃至形式的规则支配的系统
  • 要了解大脑这复杂的系统，唯一的方法是在越来越高的层次上对之组块，因而每一步都要损失一些严格性。
  • 大脑智能最外层表现出来的是飞行石化的、公开的、软件的层次，而基层是一个形式化的、隐蔽的、硬件的层次
• 直觉和值得赞美的螃蟹
  • 丘奇定理：没有一个切实可靠的方法总能区分开TNT的定理和非定理
  • 塔斯基-丘奇-图灵定理：没有一种切实可靠的方法总能区分开真的数论语句和假的数论语句
• 丘奇-图灵论题
  • 同义反复形式：数学问题只能通过数学推演来解决
  • 标准形式：假设有一种方法，一个有感知能力的生物可以根据这种方法逐个把数分成两类。又假定这种方法总能在有穷时间内得出答案，而且对于给定的数，这种方法总能给出相同的答案。那么：存在一个有终止的FlooP（即一般递归函数），它给出的答案恰好与这个有感知能力的生物的方法所得到的答案一样。（即：把数分成两类的任何一个心智过程都可以用FlooP程序来描述）
  • 大众过程形式：鉴于一些超常人的特殊能力，要加上条件：假定这种方法可以通过语言由一个感知能力的生物不走样地传达给另一个有感知能力的生物。
    • Srinivasa Ramanujan，印度著名数学能力超常者
    • 驳斥心算家，只是能够快速地调补运算，而不是直接得出答案
  • 哈代形式：从本质上讲，所有数学家都同构（注：拥有同样的数学逻辑思维来解决问题）
  • 同构形式：标准形式添加结论：这个心智过程和这个FlooP在下述意义上同构：在某个层次上，计算机和大脑各自执行的那些步骤之间存在一个对应
  • 微观形式：一个生物体的各组成部分的行为能够用计算机来模拟。也就是说，任何元素的行为，都能用一个FlooP程序——在给定该元素的内部状态和外部环境的一个足都精确的描述之后——计算到任意精读的程度
  • 简化论形式：全部的大脑过程都可以从一个可计算的基质中导出。
  • 唯灵论形式：大脑所能做的某些种类的事情可以大致地由一台计算机来模拟，不过不是大多数事情，而是些不那么吸引人的事情。不管怎么说，及时都能模拟，灵魂仍将留待解释，而且没有什么方法能让计算机来承担这个任务
  • 反科学形式：计算机是荒唐的。一般说来科学也都是如此。
  • 人工智能形式：任何种类的心智过程都可以用一个计算机程序来模拟，而该程序的基础语言与FlooP一样强。
• 对于现实世界的知识的表示
  • 一个数论问题一经提出就完全是自足的了，然而现实问题却不然，根本不能绝对有把握地把它与现实世界的任何一个部分隔离开来
  • 数论世界中，顶层体现和底层实现可以隔绝开来，现实世界中，人脑的思维方式却不能
    • 如果要反映大脑对现实世界的理解过程，就必须反映正在发生的某些较低层次的事情。
    • 想象和类比的思维过程本质上都需要有若干层次的基质，因而本质上都不可撇出。就是在这些地方，创造性可能开始浮现
• 人工智能研究能否对大脑的模拟平行发展？
  • 根据人工智能的标准不同，我们可以说我们已经有了各种各样的AI
• 非理性的东西与理性的东西可以共存于不同的层次
  • 任何非理性的东西，如果存在，就是在较高的层次上，而且是低层事件的旁效现象——一个后果而已。
• 人工智能论题：随着智能机的发展，它的基础机制会逐渐收敛于人类只能的基础机制
• 丘奇定理和塔斯基定理
  • 反证了无论如何都不会有什么方法能使人类可靠地分清定理和非定理
• 形式的两种类型
  • 句法性质：可以用有终止的检验来检查的性质
  • 语义性质：不可以用有终止的检验来检查的性质
  • 句法的判断是固定的，存在于所考虑的客体内的，但意义来自认知结构间的联系，并可以无限延展
• 美的概念是极难把握的
• 说谎者悖论的神经机制
  • 也许大脑并不总是能够为真理概念提供不过一个完全精确的描写

施德鲁，人设计的玩具

• 用人和AI之间的互动来阐明设计AI的时候需要注意到的繁多事项。哪怕是很简单的步骤，也可能有多种歧义需要判断。

第十八章 人工智能：回顾

• 图灵测验
  • 进行问话，通过回答能否确定被问者是机器还是人类
  • 因为是希望机器模仿人类，那么对于机器就很不公平。难道说机器就不能某种思维，但是人类却不具有吗？
  • 图灵预料到了该有的反对意见，并且一一提前进行驳斥，包括的方面：神学、鸵鸟式、数学化、各种缺陷、洛夫莱斯命妇、神经系统、行为非形式化和超感官知觉
• 「帕里遇上了医生」
  • 医生是模拟精神病医生的程序，帕里是模拟妄想狂的信念结构的程序，二者的对话毫无意义
  • 依赖于对输入的性质的巧妙猜测，然后从库中甄选出答案
  • 人们对此缺乏警惕和怀疑心理，是利用了人清新心理
• 人工智能简史
  • 1822年差分机
  • 泰勒斯定理：一旦某些心智功能被程序化了，人们很快就不再把它看做「真正的思维」的一种本质成分。即，人工智能是尚未做到的东西。
• 人工智能领域概览
  • 机器翻译
    • 涉及到建立一个心智模型，然后去处理模型中的符号。否则很快就会陷入意义不清的混乱。
  • 计算机弈棋
    • 人们低估了弈棋的难度。有可能超前几步模拟搜索是没用的，需要把超前的信息蒸馏成一种感觉
  • 塞缪尔的跳棋程序
    • 动态和静态，超前搜索和静态估值之间互相影响综合得出结果
  • 计算机音乐
    • 如果计算机是一个创造性的工具，被人用来实现想法，那么计算机就没有功劳。如果计算机可以独自源源不断地拥有灵活性和自我意识地创造音乐，计算机和发明者功劳各占一半。
    • 对于一句话中「我」字指向于谁的探讨
  • 定理证明和问题分解
    • 订立证明的难点在于要让程序朝向「有关的」方向前进，以免陷入使用纯粹蛮力遍历的情况
    • 问题分解：把总目标转化成推导的局部策略
  • 改变问题空间
    • 狗和骨头面前有一道篱笆，狗可以选择绕过篱笆，也可以选择在篱笆前狂吠
    • 在一个空间中被看成是后退的行为，在另一个空间中可能被看成一个革命性的进步。
• 程序何时才有独创性？
  • 看证明是本来深藏在程序之中，还是接近程序的表面。也就是说，要使多大劲才能看清程序为什么要做它所做的事？
• 再谈W和J方式
  • J方式被嵌入到某个固定的框架之中，W方式总可以后退几步看清全貌
• 人工智能用于数学
  • 「麦克西玛」程序帮助处理复杂的数学表达式
  • 另一个程序在初等数学中发明概念并发现现实
• 人工智能的关键：知识表示
  • 一个领域的表示方式，很大程度上决定了该领域是怎样被理解的
  • 人类用很复杂的方式存储事实
  • 设计信息编码的时候可以设计成编码为数据或过程，看哪种最合适
• 遗传信息存在DNA而不在蛋白质中的优点：容易重组，容易复制翻译到蛋白质中，而且占地小。
• 知识的模块性
  • 模块化越高，对于修改单独层面的信息就越容易
  • 知识表示与人希望以何种方式使用这条知识也有关
• 在一个逻辑系统中表示知识
  • 使用类似TNT中的命题和量词来表示知识
  • 反向链接：从大目标开始反向工作，寻找可以达成大目标的子目标
• 演绎式认识之别于类比式认识
  • 注：演绎式类似推导，类比式类似联想
  • 当人遗忘，往往是失去了一个高层指针，而不是某些信息被破坏或者删除
• 一个小型图灵实验
  • 作者程序的3个句子和9个摘录的句子混在一起（注：有些很难分辨出来）
• 一个关于思维的想象
  • 思维是交轨的列车，互相影响变化
• 一个程序生成的公案
  • 漏洞百出缺乏逻辑，但是有点公案的意思
• 音乐的语法
  • 音乐的语法看起来是纯粹符号的简介，但是其内涵是和人的心智缠绕在一起的
• 维诺格拉德的程序「施德鲁」
  • 程序没有把问题分解，而是把一系列操作以一种过程性的只是表示形式缠绕在一起
  • 基本观点：所有语言的使用都可以被看成是一种激活听话人心中的过程的手段
  • 使用Planner语言，具有分解问题和回溯（一条路走不通回去换一条）的特点
  • 施德鲁虽然是以数学逻辑构成的，但是对数学却一窍不通，因为层次之间分隔良好
• 一个系统的分层应该多少层最合适？

对实

• 对位+反事实
• 对话中很多事实都充满了用词错乱
• 对于一场比赛可能发生情况的模拟，应该是在暗指人工智能在给定事实之后对未来走向的判断，有点像弈棋
• 暗指下一章的内容
• 最后表示众人也在虚拟的世界里

第十九章 人工智能：展望

• 「差一点出现」的情景与虚拟情景
  • 日常思维中，从我们面临的情况、拥有的想法和客观发生的事件之中，我们总会构造出一些精神上的「变奏曲」，让某些性质保持原样，而让另一些性质发生「滑动」，从而形成一些虚拟的（或称为对实的）情景
    • 假如没有这种幻想的、虚拟的、反决定论的语言工具，没有产生并存储在大脑皮质的「多余」部分中的语义能力，并以此来想象和表达那些在单调沉闷的生物性衰退和死亡之外的各种可能性，人类是几乎不可能生存至今的。（p849）
  • 哪些性质是允许滑动的？
  • 哪些滑动是自然的？
• 稳定性的分层
  • 某些事情特征的可滑动性，取决于我们在一个什么样的嵌套环境集合中感知此事件的发生。
    • 类似常量、参量和变量的可变性层次区分
• 框架和嵌套的环境
  • 框架：一个环境的可计算例式
  • 框架语言中，情景的心智表示包含着彼此嵌套的框架。情境中的各种成分都有它自己的框架。
    • 世界是由半封闭的子系统构成的，其中每个子系统都能充当其他子系统的环境，并且在此过程中不会受到或造成太大的破坏。
    • 例：如果一个人是橄榄球队员，那么就有了橄榄球队员的框架，有了一个橄榄球队员的各种缺省值（缺席选择）
• 邦加德问题：分辨出两组图形之间的差别
  • 通过预处理选择微词汇表
    • 处理出所有的显著特征，例如线条、颜色、大小、形状等等
    • 差不多是潜意识和意识的交汇点
  • 高层描述
    • 不一定所有的描述都是真正正确而有预见性的
    • 解决手段：添加、去掉信息，从另一个角度看同样的信息
  • 模板和同一性检测器
    • 同一性检测器：在个体的描述之间巡视，找出同一性
    • 模板/描述模式：适用于描述问题中所有框的统一模式。例：大圈x个，小圈y个
      • 槽：模板上需要被子描述填充的变量
    • 概念网：网络中所有已知明晰、形容词等等都被相互联接起来了，而联接的方式就说明了它们的相互关系
      • 允许开始的错误想法被一点点修改，直至变成正确的
• • 滑动和尝试性
    • 例：线段、线列之间的滑动
  • 元描述
    • 情况复杂难以入手的情况，本身就说明了差别存在于较高的抽象层次上，而不是存在于简单的几何描述中，也就是说，要用「元描述」来描述
  • 灵活性
    • 灵活性很重要，而且程序中很可能解决问题的过程不唯一
  • 集聚和过滤
    • 集聚：聚焦于图像的某一部分，而排除掉其他的部分
    • 过滤：以某种特定的方式来观察框的内容，而完全不顾及其他方面
  • 科学研究和邦加德问题的世界
    • 范式转换：常规科学和观念革命之间的分水岭（注：指的好像是思维方式和角度的转换）
  • 与其他类型思维的联系
    • 要明白认知中的一些过程，比如回溯、转换层次、忽略一些差别等等都需要直觉，而直觉来自于思维的一般经验
    • 人关于世界中真实对象的经验对他描述或重新描述某些框的方式会产生微妙的影响
• 传送消息的语言、框架和符号
  • 演员形式：彼此间往返传送精心设计的任意长、任意复杂的消息
    • 每个演员都用自己的特有方式来解释给定的消息
    • 框架+演员=符号（注：即多重相对层次之间的关系，和所有部分之间的信息传送，组成了可以生成和解释复杂消息的符号）
  • 传送消息类似于邮政系统
• 酶与人工智能
  • 酶一触即发，用在人工智能中称为「精灵」
  • 酶递归的多级瀑布
• 裂变与聚变
  • 裂变：一个符号逐渐脱离它的母符号
  • 聚变：多个原来互不相干的符号由于参与了某个「连带激活」，彼此频繁地往返传送消息，紧密地联系在一起
    • 很难设想出一个通用的算法，能从相互碰撞的符号中构造出有意义的新符号来。
  • 例：螃蟹卡农的渐成过程
• 概念骨架和概念映射
  • 概念骨架：连接两个不同想法的抽象结构（沿某个特定角度对一个概念进行抽象后得到的一种观点）
  • 概念映射：思想在不同抽象层次上不断地映射的过程
• 重组的思想
  • 一旦决定要使两个观念发生聚变，问题就变成：从某个能使类似部分得以表现的层次上来观察它们，然后逐步在各部分间建立映射关系，如此递归地工作下去，知道发现某个满意的层次为止
• 抽象、骨架、类比
  • 概念骨架类似于一个常量特征集，这些特征不产生滑动
• 多重表示
  • 概念骨架存在于不同的抽象层次和概念维度上
  • 一个类比可以有很多重理解方式
• 出入口
  • 每种特殊的思维类型的特点之一，就是看新经验是如何被分类装入记忆中的，因为这就定义了将来把它们取出来时候所用的「把柄」
  • 出入口：能够唤醒某个思维的特征。
  • 隔板：符号之间的滑动阻碍
• 受迫匹配：高层的相似关系具有很大的强制性，以至于即使这种对应没有明显地延续到低层，你也得去造出一个来
• 概括（p888）
• 创造性和随机性
  • 流行观念认为创造性依赖于随机性
  • 随机性是思维的一种固有特性，不能认为人类思维的随机性来自于衰变的原子核或者随机数表之类
  • 表面相似的东西常常并没有深入的联系，而有深入联系的东西又常常看上去毫不相干。(p890)
• 从所有层次上取出模式
  • 机器不具有形成新概念或识别模式的本部分裤，它没有关于多余的东西和总体概貌的意识
• 语言的灵活性
  • 语言的奇妙：我们很不准确地使用它，但仍能不出毛病。
• 智能与情感
  • 举例说明了要想理解情感需要明白的海量人类相关知识和经验
• 人工智能任重道远
• 是个人工智能相关的问题和推测

树懒卡农

• 模仿巴赫的「反向进行的增值卡农」
• 开始呼应开头的三部创意曲和二部创意曲了（乌龟和阿基里斯赛跑）

第二十章 怪圈，或缠结的层次结构

• 机器能具有创造性吗？
  • 阿瑟·塞穆尔：除非机器已经得到如何去做这些事的指令，否则它不会也不可能去做这些事
  • 驳斥塞穆尔：机器和人两者都是由硬件构成的，而硬件可以按照物理学定律完全独立地运行。
    • 机器在某一天仍可能具有意愿。它们拥有意愿的原因和你相同——都是因为许多层次上硬件和软件的组织与结构
• 每个缠结的层次结构下面都有一个不受干扰的层次
  • 言语和思维在最底层硬件上遵从形式规则
  • 软件的灵活性来自与硬件的稳固性
• 一种自我修改的棋
  • 可以修改规则的棋，会产生元规则，元元规则等等
  • 每走一步棋，规则都会相应变化，变化后的规则又影响走棋本身
  • 不受干扰层和缠结层永远可以混淆在一起
• 再谈作者三角形
  • 三角形的三个人都是坐着陛下的任务，这样就完成了现实中不可能完成的循环圆
• 艾舍尔「画手」
• 大脑和心智：一个神经元纠结支持一个符号纠结
  • 类似反馈的简单缠结，不会涉及到扰乱预先设定的层次划分
  • 在语言谈论自身的时候，无论间接还是直接，它的确构成了一个怪圈
  • 如果走得足够远，往往可以发现能引向无缠结事物的线索
• 政府中的怪圈
  • 政府本身犯法，由谁来决定审判权和法律解释权？
  • 0915 一旦……无法跳出系统寻求更高层的权威，那时唯一办法是求助于那些看上去没有用规则定义清楚的力量，而它们才是更高层规则的唯一来源——这就是低层规则。
• 与科学和鬼话有关的缠结
  • 那些超感官知觉的人想说明：出了毛病的并不是他们的想法，而是科学的信念系统
• 证据的本质
  • 不能用规则规定什么是证据
  • 我们确定事物的有效性和真实性的过程是一门艺术，它深深地依赖于一种对美和简单性的感受力
  • 「什么是证据？」这个问题的重要性
• 认识自己
  • 0920 关于“我是谁”的完整画面是在整个精神结构中通过某种极其复杂的方式被拼出来的。而对我们每个人来说，这幅画面中都包含大量尚未解决，可能是无法解决的矛盾。这无疑提供了大量的动态张力，而这种张力对人来说起着很大作用。从这种张力之中，在关于我是谁的内部观念和外部观念之间，产生了指向各种不同目标的心理驱力，这就使我们每个人都成为独一无二的。
• 其他学科中可以和哥德尔定理类似的联想
• 哥德尔第二定理表明，一个精神失常的人断定自己是一致的时候，必然会有矛盾出现
• 我们能否理解我们自己的心智或大脑
  • 对大脑状态的完全控制是天方夜谭，但深刻地理解自身的心智结构是有可能的
  • 对一个需要快速做出许多决定的世界，张力和混乱是必不可少的。
• 哥德尔定理和个人的不存在
  • 试图家乡自己的不存在的情况以跳出自己之外，必然无法做到
• 科学与二元论
  • 量子力学观察者和观察对象的相互干扰
  • 元数学中主体、客体的混合
• 现代音乐与绘画中的符号与对象之别
  • 抽象、超现实画派和无意义音乐
• 玛格丽特的语义错觉画：「常识」、「两个谜」和作者的两幅「烟斗」
• 现代绘画的「编码」
  • 现代画家希望取消「翻译」的这个步骤，而直接将图画中蕴含的信息表达给观众，当然是失败的
  • 艺术品的框架效应：观众们会因好奇心而产生疑虑，去琢磨出原本不存在的含义来
  • 现代艺术晦涩难懂的原因，是因为艺术对象中传送了一个消息的缠结的层次结构
• 再谈主义
  • 主义：一般是某个词的后一部分，正好暗示了一种没有内容的意识形态，体现了意识中的禅宗精神
  • 0933 我们正是这样看世界的：我们把它看作存在于我们之外，尽管它只不过是我们在内心中所体验到的一个对于世界的心智表示而已。
• 理解心智
  • 如果不下降到硬件层次，那么理解是完全可能的
  • 哥德尔定理并没有禁止我们用过程序再现我们自己的智力水平（DNA和繁殖生长已经证明了这一点）
• 智能是碰巧不可说明的吗？
  • 在自我理解实在的时候，不一定始作俑者是哥德尔式的缠绕，也有可能知识人的智能达不到理解原理而已
• 不可判定性与高层观点不可分离
  • 一个系统的高层观点可能会包含某种在低层上完全不具有的解释能力
  • 解释G的非定理性的唯一途径是发现哥德尔配数，在一个完全不同的层次上来看TNT
  • 每个不可判定命题实际上都是一个哥德尔语句，它通过某种编码在某一系统中陈述了它自身的非定理性
• 意识是一种高层所具有的现象
  • 哥德尔的证明提示了可能存在某种观察心与脑的高层方式，设计到在低层不出现的概念 ，而且在这个层次上可能会有在低层次上不存在的解释能力。
• 意识的核心是怪圈
  • 对我们大脑中浮现出来的现象的解释都基于一种怪圈，一种层次相互作用，其中顶层下到底层并对峙产生影响，而与此同时它自身又被底层所确定。
  • 自我理解的核心，将会是对我们心智中的层次结构的理解
• 自我符号与自由意志
  • 当机器人可以使用自我付好来影响所作的决定时，开始产生了自由意志和意义
• 一个层次交错的哥德尔漩涡
  • 自由意志产生于有自知之明和无自知之明的平衡中
• 一个层次交错的艾舍尔漩涡
  • 为哥德尔的定理提供了形象的比喻描述
• 一个层次交错的巴赫漩涡
  • 复杂的「音乐的奉献」，「无穷升高的卡农」

六部无插入赋格

• 阿基里斯、乌龟、螃蟹、巴比奇、作者和图灵按照巴赫「六部无插入赋格」的方式交谈
• 作者解释了一部分书中此类章节的巧妙内涵
• 各种乱七八糟的自指
• 通过灵笨机来阐述人工智能
• 图灵和巴比奇的怪圈和图灵测试
• 对本书开头导演的模糊自指，完成一个大圈