生物学思维~为什么复杂~19&20

  作者在本节继续讲述为什么会形成复杂系统，生活中的复杂会对我们造成哪些影响，作者举了几个例子，看起来还真是揪心呀，系统还是简单一点好呀。

1985年的一天，一位患者来到一家诊所接受宫颈癌的放射治疗，所用的设备是Therac-25型大型放射治疗仪。操作员按照医生的处方设定好剂量并开始治疗，而后放射治疗仪提示“信息错误”并称“无辐射剂量”。操作员重新尝试了一次，结果还是一样。此后，操作员又尝试了三次，也就是说，他为患者进行了五次治疗，而每一次治疗仪都提示“无辐射剂量”。治疗结束后，患者抱怨髋部有灼烧感，随后被送入医院接受治疗。（这人也太倒霉了，刚好遇到仪器出问题）

几个月后，该患者因癌症去世。后来发现，她遭受了可怕的过量辐射，即使能够幸存，她的臀部也需要被全部切除。然而，那台机器却说“无辐射剂量”。（这种问题的概率总体来说虽然不大，但危害性却是毁灭呀）

这并不是特例，这种型号的放射治疗仪还出过其他故障。20世纪80年代，有6位患者经历了Therac-25型放射治疗仪的错误治疗，在一次治疗过程中遭受了过量的辐射。辐射严重过量对患者身体造成了极大的伤害，甚至导致其中一些患者失去了宝贵的生命。辐射过量事故是这种型号的放射治疗仪问世以来最糟糕的故障。（可怕呀，当时的技术人员这么无知吗，超出了他们认知范围呀）

能不能避免这种故障？或者降到最低？仔细看一下制造商于1983年提供的关于这些仪器的安全分析报告便不难发现，导致故障的原因之一是：参与设计和测试的技术人员只关注了硬件问题，而忽视了软件问题，因为他们认为“软件不会因磨损、疲劳或复制而退化”（80年代确实对软件的认知远不如现在，当时太少人动计算机了）。虽然这句话大体属实，但他们却完全忽略了一个更重要的事实：软件本身就很复杂，出错的形式也多种多样。这份报告表明，制造商对软件的复杂性缺乏认知，而这种复杂性可能会导致致命的辐射过量。（天啊，软件厂家自己对软件的认知都不够，人类的认知盲区确实太大了，花了二十多年才走出来）软件缺陷在生活中并不鲜见，但是该制造商的安全分析几乎完全忽略了它们隐含的风险。

显然，因为技术人员对软件的复杂性有所误解，所以Therac-25型放射治疗仪的安全性未能得到保证，换句话说，是那些技术人员酿成了这场致命的灾难。事后看来，他们理应很容易找出问题所在，然而他们低估了系统中各个组成部分的重要性，最终导致了致命的故障。不过，在新的技术系统中，对问题的诊断的确已经变得越来越困难了。无论我们多么努力地构建和设计符合逻辑的技术系统，系统中总会有某些部分是我们无法完全理解的。原因很简单：我们是人。人类的思维方式与复杂系统的运行方式是完全不匹配的。（人类思维确实越来越受限制）复杂系统的构建方式决定了它们很难被理解，甚至不可能被理解。

在学习编程时，最初要学的技能之一，是用与日常生活中不同的方式进行计算。当然，这并不意味着必须用二进制或十六进制计数，对于大多数程序员来说，这只是一个好玩、但不必需的技能。我的意思是，程序员总是需要从“0”开始计数，在他们的列表中，第一个对象始终是“0”。之所以要从“0”而不是从“1”开始计数，是因为那就是计算机计数的方式。正如作家斯科特·罗森堡（Scott Rosenberg）所说，计算机计数方式与日常计数方式之间的差别，正是我们需要对计算机代码进行调整的地方之一，同时也是错误和故障的发源地之一。我们必须在计数时调整1个数位，反复增加或减少，以协调人类世界的“编号”与计算机世界的变量枚举之间的差异。如果调整失败，错误就会倍增。（数量级确实超出了直觉，远比我们想象复杂）

人类世界以“1”为始，而计算机则从“0”开始计数。这个事实意味着：人类的思维方式与大型系统的构建及运行方式之间的裂痕，将会越来越大。我们无法一一跟踪大型系统中的所有过程，以及每一次交互所导致的一系列后果。人类的大脑并不具备解析这种复杂性的能力。在大型系统的构建方式和人类的思维方式之间，我们看到了诸多复杂因素，而这些复杂因素不仅会降低系统的可理解性，还会导致出人意料的后果和问题。（对软件也要充满敬畏呀）

例如，在军事行动中，战士们经常要面对非常复杂的情况。这便要求他们既要具备处理大量信息的能力，又要具备快速的反应能力。但是有些时候，如果情况太复杂、太紧张、太混乱，战士们可能会不堪重负，继而丧失处理紧急事件的能力。据说，当这种情况发生时，战士们会变得“像无头苍蝇一样”（lose the bubble）。正如加拿大政治学家、生态学家托马斯·霍默－狄克逊所描述的那样：“以往不难理解和可以预见的一切，突然之间都变得混沌不堪、令人困惑。”由于对形势的认知急剧下降，战士们已无法处理接二连三到来的刺激信号，更无法采取行动。（懵逼这个状态，确实是大脑突然不足以处理当前的复杂情况，情绪只是表面，重要还是无法处理复杂）

这个问题不只会出现在那些身处紧张局势、面对复杂情况的人身上，例如航空交管人员，以及需要在战斗中做出冷静判断的人，其实这个问题会出现在所有人身上。在面对技术系统时，无论是个人，还是集体，都会遇到这样的问题。人类已经失去了控制权。（简单的问题更容易处理呀）

在纠缠世界中，我们是因为以下两种相互关联的原因失去控制权的：第一种，无法完全把握庞大而复杂的系统结构和动态，即无法把握系统的不同部分以整体的形式相互作用；第二种，无法获取足够多的必需的、用以理解这些系统运行方式的专业知识。接下来，我们将再一次以语言学为例，力求更清晰地说明，人类的思维方式为什么无法适用于复杂的技术系统。（人类看来还需要进化才行，虽然速度很慢）