AI 讨论

AI功能越来越强大，它们将来是否会对人类造成威胁，甚至毁灭人类?

AI发展有一个关键转折，就是AI脱离开人类控制，自己生产自己，独立于人类自己发展。

目前的AI处于人类控制下，其风险分为二大类，一类是AI此一阶段上的缺陷，表现为误操作，另一类是坏人用AI干坏事。

处于人类控制下的AI风险，属于技术发展的正常风险，人类已经有应对技术发展风险的经验。

但当AI独立于人类后，独立发展，会有什么样的风险?

独立于人类的AI自主发展对人类的风险应该还是二大类，一类还是AI发展缺陷造成的误操作，另一类则是可能发生的AI对人类的敌对行为。

发展缺陷造成的误操作，是不可避免的代价，而是否有故意的敌对行为才是AI与人类关系的关键。

独立于人类后的AI是否会成为人类的竞争对手，进而危及人类的生存?

这要分析一下AI有没有敌对于人类的需要?它们跟人类是否有竞争关系?