2019全国两会声音——加快推进人工智能健康发展
今年两会，全国人大代表、中国信息通信研究院院长刘多带来了关于加快推进人工智能健康发展的建议。
新一代人工智能以燎原之势在全球快速发展，将对经济、社会、军事等各领域发展产生重大而深远的影响。在抓住人工智能这一重要发展机遇的同时，世界各国政府、企业和学术界也高度重视对人工智能发展中的各种新问题和挑战的研究和防范，尤其是与人们生活和安全息息相关的风险和威胁，如伦理道德侵犯、算法偏见和歧视、隐私泄露等等。当前，我国人工智能产业和应用发展态势良好，处于全球第一梯队。下一步，在推动实体经济高质量发展过程中，人工智能仍将发挥其赋能型技术和关键基础设施的重大作用。为确保人工智能安全、可靠、可控发展和广泛应用，建议从推动人工智能与实体经济深度融合、行业和企业自律、立法、治理构架和标准制定、监测和监管手段建设等方面全方位、分层次打造生态安全体系。
1、发展安全、可靠、可控的人工智能对于我国经济、社会发展和国家稳定具有重大意义。
（1）人工智能和实体经济融合发展成为新的经济增长点和发展新动能。
一方面，形成创新产品和业态。当前，以智能视觉、智能语音、智能网联汽车、智能机器人等为代表的人工智能新兴产业加速发展，经济规模不断扩大，正成为带动经济增长的重要引擎。另一方面，加快传统行业智能化转型。我国经济已由高速增长转向高质量发展阶段，农业、制造业、服务业都面临转型升级的迫切要求，通过加快应用人工智能技术，可以大幅提升传统产业效率，推动传统产业智能化升级，加快智能经济形态构建，培育经济增长新动能。
（2）人工智能发展也引发国家安全、经济安全和人民利益全新挑战。
人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。
（3）国外政府和科技公司已积极开展人工智能治理相关工作。
政府方面，欧盟委员会2018年就发布了《可信人工智能伦理指南草案》，新加坡政府也于今年1月发布了《人工智能监管模式框架》。企业方面，微软总裁两次发文呼吁世界各国对人工智能技术和应用进行合理监管，微软和谷歌等互联网巨头都在企业内部建立了人工智能研究和应用应遵循的准则。
2、我国人工智能应用丰富，但面临较多挑战。
我国人工智能产业和应用发展处于全球第一梯队。在产业发展方面初步形成巨头企业、中小企业、独角兽公司的多层次发展梯队。百度、阿里、华为等领先企业初步形成了覆盖芯片到平台、产品到服务、云端到终端的全面布局发展战略，商汤、寒武纪等独角兽企业以算法、芯片为突破口，拓展至智能解决方案等环节。在行业应用和产品方面，部分应用产品取得突破，应用场景丰富多样。当前，人工智能技术在安防、交通、家居等领域已有规模化的成功应用。比如，2017年我国计算机视觉技术产品的市场规模达到82.8亿元，其中以生物特征识别、人脸识别等为典型产品和应用，占据我国人工智能整体市场规模的34.9%。未来随着人工智能技术的突破和拓展，在工业互联网、生产制造、城市建设、生态环保、医疗养老等领域将会进一步纵深发展。
在人工智能高速发展，应用遍地开发的同时，也出现了信息茧房、算法歧视、隐私泄露等问题。究其原因：
一是尚未制定人工智能法律规范、治理准则和伦理指南。欧盟等国已针对人工智能发展过程中存在的问题和风险，针对性的提出可信人工智能的规范与指南，例如欧盟委员会发布《可信人工智能伦理指南草案》等。我国人工智能的法律伦理研究和制定工作相对滞后。
二是我国人工智能安全政策和监管体系有待完善。目前来看，我国尚无专门的人工智能安全相关的法律法规，同时针对算法设计、产品开发和成果应用等全流程进行有效监管的体系也有待完善。
三是基础设施尚待完善，企业发展存在行业壁垒、数据割据等问题。在人工智能推广应用中，面临资质、数据、标准、安全评估等行业准入壁垒，影响融合领域的拓展和应用进一步深入。数据资源垄断现象较为严重，数据流通不畅，用户隐私保护缺失，关键领域数据集不足，学术领域数据集缺失，数据质量良莠不齐，市场生态尚未成型。
3、下一步建议
结合我国人工智能发展现状和面临的问题和挑战，提出建议如下：
一是推动人工智能和实体经济深度融合应用，大力培育发展智能经济。促进人工智能同一、二、三产业深度融合，发展智能农业、智能制造、智能服务等“智能+”经济，推动产业提质增效，构建数据驱动、人机协同、跨界融合、共创分享的智能经济形态。
二是发挥联盟等生态圈作用，促进人工智能行业和企业自律。建议由相关行业组织和科研机构研究和编制行业自律公约或准则，推动人工智能领军企业带头发声响应并落实主体责任，营造良好的产业氛围。
三是加快相关法律、伦理、治理框架和标准的研究和制定。建议重点研究人工智能算法、产品和系统的安全性、公平性、数据隐私、合伦理性等，研究制定相关标准，建立伦理和治理框架，并适时提出立法建议。
四是加快监测平台建设，完善人工智能安全、可靠、可控技术监测和检测能力。建议加快各领域人工智能产品、应用和服务监测和检测能力建设，推动人工智能行业认可的产品和服务可信认证，加快解决我国人工智能标准数据测试集和测试能力滞后的问题。
