读数据科学伦理：概念、技术和警世故事05后门、偏差与偏见.png

1. 后门

1.1. 政府经常主张在加密标准中设置“后门”，这样他们就能够在适当的时候（比如在获得法院命令之后）检索个人数据

1.2. “五眼情报联盟”(Five Eyes intelligence alliance)

• 1.2.1. 如果电信和科技公司不为执法机构和政府提供“合法获取”公民加密信息的“后门”，它们将遭到强烈抵制

• 1.2.2. 美国、英国、澳大利亚、加拿大和新西兰

1.3. 网景公司(Netscape)开发了两种版本的网络浏览器：一种是加密密钥为128位的美国版本，而另一种则是加密密钥为40位的国际版本

1.4. 隐私不是绝对的

• 1.4.1. 很少有人会质疑警察在合法获得搜查令后进入一所住宅的权利，或者类似的搜查车辆或获取已知恐怖分子电话记录的权利

• 1.4.2. 不仅仅是政客和执法机构认为隐私不是绝对的

• 1.4.3. 沃伦·巴菲特(Warren Buffett)等商界人士也同意这一观点

1.5. 隐私和安全

• 1.5.1. 隐私和安全之间的平衡、安全与安全之间的平衡以及政府设“后门”所产生的有限的影响

• 1.5.2. 为了安全而放弃隐私的原因

  • 1.5.2.1. 本杰明·富兰克林(Benjamin Franklin)说过：“那些愿意放弃基本自由以换取暂时安全的人既不配获得自由，也不配获得安全。”

  • 1.5.2.2. 这个论点不仅适用于加密技术，也适用于你的“离线”数据

1.6. 安全和安全

• 1.6.1. 即使你完全信任政府用于获取加密数据的程序，任何不怀好意的人都可能试图利用这个弱点，并通过这个“后门”找到进入（数据保护系统）的方法

• 1.6.2. 考虑到加密和安全领域的持续竞争，知道其中有弱点的话，这将对黑客具有很大吸引力

• 1.6.3. 假设设置“后门”是可以完全保密的行为是非常幼稚的，这样很可能会造成信息被大量滥用

• 1.6.4. 将钥匙放在门垫下不安全，政府在我们的通信系统中设“后门”也同样不安全

• 1.6.5. 尽管政府的“后门”能让执法部门更好地追踪和抓捕犯罪嫌疑人和恐怖分子，这似乎可以提升公众的安全感，但同时，它也因暴露其他公民的数据，而使其遭到勒索或仅仅致其丧失隐私等而降低了他们的安全感

  • 1.6.5.1. 不仅个人隐私受到威胁，知识产权或公司战略等商业数据和秘密也可能被窃取

• 1.6.6. WhatsApp中使用端到端加密

  • 1.6.6.1. 它将使数亿依赖端到端加密的守法民众失去一个重要的安全保护罩

  • 1.6.6.2. 改变我们的加密方式并不会阻止不法分子使用端到端加密，因为还有其他更不可靠的服务可用

• 1.6.7. 网络安全专家一再证明，不可能创建任何不被不法分子发现和利用的“后门”

  • 1.6.7.1. 这就是为什么削弱加密技术的任何一部分都会削弱整个安全系统

1.7. 一旦这些政府设置的“后门”被发现（当苹果公司开发出可删除安全功能的软件时，就会出现这种情况），犯罪分子和恐怖分子很可能会转向其他通信方式

• 1.7.1. “后门”再次削弱了普通守法公民的安全，而无法解决不法分子可访问公民数据的问题

2. 现状

2.1. 对于非数值的个人数据（比如，你在家里收到的信件、可能保留的银行打印记录或打印发票）似乎有一个共识，即执法机构有权访问该等数据，甚至可以在适当的法院命令下没收它们

• 2.1.1. 对于数值的个人记录，其区别似乎取决于第三方处理机制是否需要访问其内容

2.2. 在后斯诺登时代，一家手机公司要想在全球市场上生存下去，就必须让消费者相信他们的数据是安全的

2.3. 加密技术不能保障数据保护的安全性

• 2.3.1. 除了持续不断地保护加密技术不受攻击，还存在元数据和规避加密的方法等问题

• 2.3.2. 元数据（比如，显示消息从何处发送的IP地址、消息的发送者和接收者以及呼叫的时长等）不会透露消息的内容，但会提供个人信息

2.4. 加密也无助于防止备份或下载你可能保存的未加密聊天记录

3. 偏差/偏见

3.1. 偏见是另一个重要的伦理概念，抽样偏差可能导致许多错误的结论，或使敏感群体受到不公平待遇

3.2. 数据科学家所研究的数据，很少能完美地代表模型所应用的总体

3.3. 样本可能有很多来自容易访问的组的数据，或者由于环境或总体的变化而不再具有代表性的历史数据

• 3.3.1. 如果样本对某些敏感群体（比如，具有特定种族背景、性别、宗教或年龄的人）有偏见的话，那么得出的模型很可能也会包含这种偏见，因此可能造成对该等敏感群体的歧视

• 3.3.2. 它是否会影响模型在样本和总体上的性能

3.4. 数据样本的偏差：样本不具有总体代表性

• 3.4.1. 抽样是数据科学研究自身固有的一个局限性

• 3.4.2. 由于各种原因，要想收集总体完整的数据往往是不可能的

  • 3.4.2.1. 数据只能从已同意提供数据的人那里获得

  • 3.4.2.2. 无法对所有人进行问卷和调查

  • 3.4.2.3. 获取数据可能会耗费大量资金

• 3.4.3. 当样本不具有代表性时，某一人群的非随机样本而形成的误差就会由此产生

  • 3.4.3.1. 仅社交媒体用户无法作为总体的代表性样本

• 3.4.4. 样本偏差影响的例子

  • 3.4.4.1. 装甲并不需要安装在弹孔所在处，而需要安装在没有弹孔的地方也就是安装在引擎上

  • 3.4.4.2. 应该在引擎上加装额外的装甲，其理由是在那里几乎发现不了弹孔

• 3.4.5. 意识到样本偏差的存在是重中之重

• 3.4.6. 样本偏差会导致错误的结论

3.5. 数据或模型对敏感群体的偏见：这与公平性问题一一对应

3.6. 偏差、方差权衡

• 3.6.1. 模型的预测性能是两种误差之间的权衡，一种是由对模型的学习算法的假设引起的偏差误差

• 3.6.2. 另一种是由非无限样本量引起的方差误差，其中模型对训练集中的微小变化很敏感

3.7. 线性模型中的偏差：截距通常也称为偏差项，这是因为如果输入端没有数据（即全部为零）的话，其结果就是偏差项

3.8. 在数据科学伦理中，“偏见”的语境通常是样本偏差或对敏感群体的偏见

3.9. 过度采样也可能是一个问题

• 3.9.1. 做法可能会变成一种自然而然就会实现的预言

• 3.9.2. 数据科学就会以错误的、不道德的方式来证实毫无根据的偏见

3.10. 即使表达不足或过度表达完全是无意的，由此产生的不同影响也值得我们关注这个问题

3.11. 由于对某些种族或性别群体存在偏见，在员工中历来存在该群体代表性不足的情况，这可能会扩大到后续的模型中

• 3.11.1. 一段2017年拍摄的视频显示，只有浅色皮肤的手才能使皂液机有感应、正常工作，而深色皮肤的手却不行

• 3.11.2. 图像标记技术依旧处于早期阶段，而且，它距离完美还差得很远

4. 人体实验

4.1. 人体实验是收集人体数据的常用方法

• 4.1.1. 人体实验最主要的原则是获得实现对象的知情同意，保证数据主体的风险最小化的同时将潜在利益最大化，并且确保进行适当的监督

4.2. 人体实验是一项长期的科学实践，即对人体进行实验以研究和了解人类

4.3. 实验一词可被定义为“研究者故意改变内部或外部环境以观察该变化所产生的影响的行为

4.4. 人体实验对人类的影响可能比简单地点击一个广告要大得多

• 4.4.1. 尽管在医学研究中，人体实验有其默认的伦理标准和共识，但在非医学数据收集阶段（通常是在线的），这种做法似乎并不是很规范

4.5. 《纽伦堡法典》的主要目的是防止此类可怕的实验再次发生，但事实上违背伦理的人体实验并未因此而终止

4.6. 知情同意

• 4.6.1. 这也是《通用数据保护条例》的一部分

• 4.6.2. 无论这有多么困难，提供知情同意的受试者都应是自由同意的，同时实验者也应在实验前告知受试者有关研究性质、潜在后果、风险以及备选方案等的客观信息，然后再获得其知情同意

4.7. 将数据主体的风险降到最低，并将潜在获益最大化

4.8. 不仅在研究之初需要对其进行监督，在整个实验过程中也都需要进行伦理反思，特别是涉及历经多年的研究时更是如此

4.9. 指派一个人（甚至是一整个委员会）负责在进行数据科学项目期间跟进和尽量避免可能带来的伦理影响，或者在每一份研究报告中增加关于伦理反思的相关内容

4.10. A/B测试是一种常用的方法，你可以使用不同属性的两个组进行实验

• 4.10.1. 未经用户知晓就让其参与进这样的实验的话，他们的情绪健康状态（比如幸福等）可能会受到影响

• 4.10.2. 如果为了改善服务而对用户撒谎，那么，A/B测试与欺诈之间的界限在哪里？

4.11. C/D实验，即在没有预先警告的情况下，更改编程代码来操纵结果，从而故意欺骗用户

4.12. 当患者将遭受不适或疼痛时，知情同意就很有必要

• 4.12.1. 在数字化大环境中，如果存在潜在的负面影响，应征求数据主体（以及潜在的模型主体）的知情同意

4.13. 数字实验也需要征求知情同意、最大限度降低风险的同时将潜在利益最大化以及确保伦理监督，因为其造成的影响可能与医学实验一样大

• 4.13.1. 如果你的实验对人们的情绪健康有影响，那么一定要仔细考虑到这样做可能会产生的所有伦理影响

• 4.13.2. 不论有多难，在进行此类实验前，至少要确保获得用户明确的知情同意

4.14. 如果你打算通过可能会影响人们精神状态的人体实验来收集数据，最好要考虑到其产生的所有的伦理影响，其中包括获得知情同意、最大限度地减少对数据主体的潜在伤害以及确保伦理监督