AI基础知识 | 不可逾越的安全、隐私

随着人工智能建设标准的陆续出台，产品经理应该持续关注国际权威组织发布的有关安全、隐私、伦理和道德方面的标准。

1、安全

人工智能的快速发展，引发了公众对于其可能带来安全隐患的担忧。人工智能有超越人的智力的潜力，尽管当前人工智能不具备爱或恨的情感，但仍有两种最可能导致AI安全隐患的情况。

（１）人为地设定或创造成为危害的产品，例如自主武器。随着在人工智能的发展，当人工智能完全可以自动驾驶汽车、无人机、心脏起搏器等我们必须保证该系统完全遵照我们的指令，否则后果不堪设想。

（２）一款人工智能产品一开始被设定或创造为有益于社会的产品，但是为了实现目标，如果人工智能在有些时候不择手段，则可能带来破坏性的效果。所以，仅设定正确的目标对于人工智能产品经理来说是远远不够的，忽视设定过程中各种安全边界和要求会带来各种安全隐患，假如无人驾驶汽车领域，如果只追求起始点之间的速度，可能会导致一个马路杀手的出现。

2、隐私

人工智能领域，本质上依赖于大量数据的采集，因此，在人工智能服务的过程中，很容易触犯人们的隐私和数据保护的基本权利。为了降低产品的法律风险，AI产品经理应该在设计之初就严格审视产品的数据问题。

（１）评估所有产品流程中涉及用户权力的风险。

（2）评估产品设计或运行的目的以及它所维护的合理利益等。

（3）基于产品的目的，评估过程的必要性。

（4）针对已识别的风险，给出有针对性的管理措施。