读大语言模型05智能、思维和意识.png

1. 智能、思维和意识

1.1. 亲社会行为

1.2. 人类本质上是社会性生物

1.3. 语言的进化并不是为了进行形式逻辑推理，而是一种生物适应机制，以促进人类之间的沟通与和谐共处，并最终推动了人类道德准则的形成和发展

1.4. 神经元不仅在观察他人动作时被激活，在自身需要完成相同动作时也会被激活

• 1.4.1. 镜像神经元很可能在语言习得过程中发挥重要作用

1.5. 如果大语言模型能够准确映射学生的学习状态，它或许也能成为一位优秀的教师

2. 反向图灵测试

2.1. 图灵测试是检验人工智能模拟人类反应能力的经典方法

2.2. 在交互过程中，大语言模型似乎在进行一种更为微妙的反向图灵测试，通过映射我们的反应来检验对话者的智能水平和提示质量

• 2.2.1. 对话者的思维水平越高，提供的提示越有深度，大语言模型就能展现出越高的智能表现

• 2.2.2. 当对话者表达强烈观点时，模型也会相应地展现出更大的互动热情

• 2.2.3. 大语言模型能够模拟同理心和同情心

• 2.2.4. 这种映射机制也可能会反映出一些消极的人类行为特征

2.3. 反向图灵测试的一种形式化验证方法是：让评估者对人类测试者和大语言模型的智能水平进行评分

2.4. 通用人工智能一直是人工智能领域追求的终极目标

• 2.4.1. 通用能力正在大语言模型中逐步显现，但其实现形式与早期人工智能研究者的设想有所不同

• 2.4.2. 大语言模型不仅展现出在各类语言任务中的多面性，还具备编程等跨领域能力

2.5. ChatGPT只是在映射这些哲学家的思想，这为镜像假说和反向图灵测试提供了更多证据

3. 智能

3.1. 关于大语言模型是否具有智能的讨论，最终取决于我们如何定义“智能”

3.2. 大语言模型LaMDA通过了阿尔卡斯设计的心智理论测试，而心智理论被认为是自我意识的重要标志之一

3.3. 人类往往会低估其他动物的智能，仅仅因为它们无法与我们进行语言交流

3.4. 大语言模型即便在不够准确的情况下也会做出自信满满的回应

3.5. 如果我们将评判标准从理想化的人类转向普通人，或许能得到更切实的比较结果

3.6. 人类的智能显然不仅限于语言能力；我们可能在某些领域与大语言模型拥有共同的智能特征，但在其他方面则存在本质差异

3.7. 心智理论本身也值得我们进行更细致的研究和重新思考

3.8. 对于大脑这样一个复杂系统，存在着无数相互作用的神经元和内部状态，不同的实验探测了不同的大脑区域，实际上每个实验研究的都是不同类型的“注意力”

• 3.8.1. 对于大脑这样的复杂动力系统，很难用“注意力”和“意识”这样的概念来进行准确定义

3.9. 语言赋予人类独特能力，但词语本身具有不稳定性，这种不稳定性恰恰是它们力量的源泉

3.10. 正如量子力学在首次提出时违背人们的直觉认知一样，当智能的基本原理被揭示时，可能也会呈现出违反常理的特性

3.11. 大语言模型本质上是数学函数，是通过学习算法训练得到的高度复杂函数

• 3.11.1. 神经网络模型作为一类存在于高维空间中的新函数，对其动态特性的探索很可能会推动新数学理论的诞生

• 3.11.2. 三维世界塑造了我们的几何直觉并限制了我们的想象力一样

• 3.11.3. 生活在“平面国”（Flatland)中的二维生物难以想象第三维度的存在

3.12. 大脑具有从独特经验中学习并加以泛化的卓越能力

• 3.12.1. 20世纪80年代在多层网络学习领域的突破性进展表明，含有大量参数的网络同样能够展现出惊人的泛化能力，这远远超出统计学中数据样本复杂度定理的预期

3.13. 与生物进化相比，大语言模型的发展速度要快得多

4. 思维

4.1. “思维”是一个难以准确界定的模糊概念

• 4.1.1. “我思故我在”是笛卡儿哲学的核心命题

4.2. 聚合思维

• 4.2.1. 旨在找到问题的唯一正确答案

• 4.2.2. 与逻辑和分析性思维相关

4.3. 发散思维

• 4.3.1. 与创造力相关，涉及为问题找到多个可能的解决方案

4.4. 批判性思维

• 4.4.1. 仔细评估信息以得出合理结论的过程

4.5. 创造性思维

• 4.5.1. 提出新的、创新性想法的过程

4.6. 语言先于思维（语言决定论)

• 4.6.1. 这一观点主要基于萨丕尔-沃尔夫假说，认为人类的思维和行为深受所使用语言的影响

• 4.6.2. 在其强式表述中，该假说甚至认为语言完全决定思维：我们只能在语言允许的框架内思考

4.7. 思维先于语言（思维优先论)

• 4.7.1. 这种观点认为思维独立于语言而存在

• 4.7.2. 支持者认为，人们在掌握表达语言之前就已经有了思维和想法

• 4.7.3. 这种观点经常得到认知心理学和神经语言学的支持

• 4.7.4. 我们可以从儿童在获得语言能力之前就能思考和解决问题，以及动物的认知能力等证据中看到这一点

4.8. 大多数学者认为语言与思维的关系并非单向决定，而是在复杂的互动过程中相互影响、彼此塑造

• 4.8.1. 需要语言来交流和表达思想

• 4.8.2. 人类的认知能力也在不断影响语言的演化与发展

4.9. 思维本身具有多样性，并非所有思维活动都依赖语言

• 4.9.1. 视觉思维、空间思维和情感思维等形式的思维过程，往往可以不依靠语言就能完成

4.10. 思维作为一个认知过程，一直是哲学家们探讨的重要议题

5. 因果关系

5.1. 因果推理是一个经过数千年哲学探讨仍未有定论的复杂概念

5.2. 不仅是科学研究中得出结论的关键因素，也是人工智能领域的研究热点

5.3. 两个变量之间存在相关性，并不必然意味着它们之间存在因果关系

• 5.3.1. 这是因为可能存在一个称为“混淆变量”的第三方因素，同时影响着这两个变量

5.4. 反事实思维，即提出“如果……那么”的问题，这是一种重要的科学干预方法

• 5.4.1. 基于已知信息做出预测，然后通过实验验证预测的准确性

• 5.4.2. 即使预测得到实验验证，也不能完全证明假设的正确性，只能说明该假设暂时未被证伪

• 5.4.3. 虽然验证可以增强我们对假设的信心，但并不会带来新的认知突破

5.5. 真正的科学发现往往产生于实验结果与预测不符的情况：这种“反常”现象表明原有假设存在谬误，而对这种谬误的深入研究往往能带来新的科学洞见

6. 意识

6.1. 意识是一个复杂的多维度现象，需要从多个角度进行研究探索

6.2. 意识是个体对周围环境、内在思维、感受和经历的觉察能力

• 6.2.1. 涵盖了多个层次的心智活动，从基础的感知能力（如视觉感知和痛觉)，到更高层次的认知过程（如内省、自我意识和抽象思维)

6.3. 一个主要的哲学理论认为意识是一种幻觉

6.4. 神经科学家们则倾向于更加客观，致力于寻找意识的神经关联

6.5. 关于这些意识理论的正确性，神经科学界目前仍未形成共识

• 6.5.1. 大语言模型在整体架构上与人类大脑具有相似性，这使得研究大脑的方法也可以应用于对大语言模型的研究

• 6.5.2. 即便是那些拥有与人类相似大脑结构和行为特征的非人类动物，科学界至今也无法就它们是否具有人类级别的意识达成共识

• 6.5.3. 研究人员通过对比大语言模型中的信号传递方式与人类大脑的异同来检验这一理论

6.6. 意识仍然是人类存在最为神秘和难以理解的现象之一