全球人工智能治理体系报告 （2020） 中国信息通信研究院政策与经济研究所 人工智能与经济社会研究中心 2020 年 12 月 版权声明 本报告版权属于中国信息通信研究院和人工智能与经 济社会研究中心，并受法律保护。转载、摘编或利用其它 方式使用本报告文字或者观点的，应注明“来源：中国信 息通信研究院和人工智能与经济社会研究中心”。违反上述 声明者，编者将追究其相关法律责任。 前 言 人工智能作为引领新一轮科技革命和产业变革的战略性技术， 正在重塑生产方式、优化产业结构、提升生产效率、赋能千行百业， 推动经济社会各领域向智能化加速跃升。但“每个硬币都有正反面”， 人工智能在为人类生产生活带来诸多便利的同时，也在触发如泄露 个人隐私、冲击就业格局、危害公共安全等风险问题，给社会治理 带来全新挑战。人工智能治理这一概念应运而生，推动构建全球人 工智能治理体系正在成为各方共同诉求，国际组织积极探索全球性 伦理原则并推动各方达成共识，各国政府基于各自产业发展特点采 取不同的治理思路及举措，行业组织着力构建全面、有效的人工智 能标准规范体系，科技企业则更加关注如何将伦理原则落地践行于 自身产品及服务之中。 为更好地认识和推动人工智能治理实践，加快构建适宜人工智 能产业发展的治理体系，中国信息通信研究院政策与经济研究所研 究团队开展研究并形成本报告。主要包含以下内容：第一部分分析 了人工智能对经济社会发展带来的促进作用及风险挑战，剖析了人 工智能治理的痛点及难点；第二部分梳理总结了全球部分国家及地 区的人工智能治理进展及特点；第三部分从治理目标、治理主体、 治理手段、治理评价等维度，提出了构建人工智能治理体系的设计 思路；第四部分提出了持续完善我国人工智能治理体系的几点思考。 期待本报告能够为社会各界提供有价值的参考，不妥之处请不吝指 正。 目 录 一、人工智能带来全球治理新挑战............................................................................ 1 （一）人工智能引领经济社会智能化变革......................................................... 1 （二）人工智能引发经济社会多方面风险挑战................................................. 3 （三）多重因素提升了人工智能治理难度......................................................... 5 二、全球主要国家和地区高度重视人工智能治理.................................................... 6 （一）全球人工智能治理呈现深入发展之势..................................................... 7 （二）不同国家和地区人工智能治理各有侧重................................................. 9 （三）我国人工智能治理稳步推进、成效明显............................................... 12 三、推动构建人工智能治理体系的思考.................................................................. 13 （一）秉持科技造福人类、安全与发展兼顾的治理目标............................... 14 （二）打造政府、市场、公众多方协同共治的治理模式............................... 14 （三）综合运用伦理引导、技术应对、规范立法等治理手段....................... 16 （四）构建覆盖全面、反馈及时的治理效果评价机制................................... 17 四、持续完善我国人工智能治理体系...................................................................... 17 （一）加大政策支撑力度，持续优化治理环境............................................... 18 （二）深化治理规则研究，提升治理能力....................................................... 18 （三）明确不同阶段治理重点，完善治理路径............................................... 19 （四）加强国际交流合作，参与全球治理议题............................................... 20 附表 1. 主要国家及地区设立的人工智能治理专门机构........................................ 21 附表 2. 人工智能伦理原则及规范相关文件举例.................................................... 22 附表 3. 人工智能标准化文件举例............................................................................ 24 全球人工智能治理体系报告（2020） 一、人工智能带来全球治理新挑战 当前，新一轮科技革命和产业变革正在深入发展，人工智能作为 有望引领未来变革的战略性信息技术，在实现快速发展、广泛应用的 同时，也带来了安全、隐私、公平等诸多新问题新挑战。全球各国纷 纷呼吁加强人工智能治理，营造规范、健康、可持续的发展环境。 （一）人工智能引领经济社会智能化变革 人工智能至今历经三次发展浪潮，当前已成为科技创新、经济发 展、社会进步、民生改善的重要驱动力量。人工智能是研究类人机器 或系统的科学技术。这类机器或系统在某种程度上具有可替代人的智 力或行为能力，其发展及应用将对人类的经济社会发展产生深远影响。 人工智能一词源于 1956 年召开的美国达特茅斯会议，在 60 多年间经 历了三次发展浪潮。在前两次浪潮中，由于人工智能的商业化价值和 社会关注程度较低，国家与社会投入有限，加之理论技术未成熟、数 据及算力等基础支撑不足、应用场景受限等问题，并未达到预期发展 效果。随着新兴信息技术的快速发展，特别是机器学习算法的革新、 海量数据的积累、计算能力的提升和新基建的演进，全球迎来了新一 轮人工智能发展浪潮。当前，以深度学习、跨界融合、人机协同、群 智开放、自主操控为特征的新一代人工智能技术持续创新突破，在促 进科技创新、培育新兴产业、改造升级传统业态、加快实体经济转型 等方面的作用日益突显。 人工智能将促进新工具与新技术的研发，提升社会生产效率。人 类劳动经过手工劳作、工具使用、动力转换三大阶段，即将进入智能 1 全球人工智能治理体系报告（2020） 替代的全新生产时代。第一次生产力升级是专用生产工具的发明，将 人类生产效率大幅度提升。第二次生产力升级拉开了自动化的序幕， 利用化学能、电能、原子能替代人类的生物能，人类劳动由体力向脑 力转变。而人工智能引领的第三次生产力升级本质上延续了自动化的 替代过程，通过计算机、机器人及大数据等信息技术的应用实现对脑 力劳动的部分替代。例如半导体材料试验、药品成分配比、电子方案 设计等研发工作已经有了人工智能成功应用的案例，提升了新工具和 新技术的研发效率，进而实现社会生产效率的跃升。 人工智能挖掘数据资源价值，形成全新的生产要素。互联网时代 产生了纷繁的数据信息，而人工智能技术将数据转化为价值。数据资 源在人工智能、大数据等技术的价值挖掘下，对个人需求分析、企业 商业贸易、国家政策制定都有重要的支撑作用。由于数据资源正处于 开发应用的初期，拥有较高的边际效益，对国民经济增长具有较强的 促进作用。数据资源的挖掘为人类开辟了认识世界的新维度，为人类 带来了新思想与新理论的原料，为科学技术发展带来了新的可能性。 人工智能赋能传统产业，推动国家经济智能化转型。在传统生产 层面，人工智能结合物联网技术增强感知能力，拓展智能机器人与智 能工厂应用场景，精准追踪与控制生产流程，使得自动化生产与运输 成为未来的主流。在供需对接层面，人工智能结合 5G 等宽带网络为 生产端和消费端架起了一座桥梁，助力普及个性化、可配置的生产方 案，孕育全新的衍生设计方法。按需定制生产有助于缓解低端产能过 剩问题，同时为传统产业高端转型构建新的发展路径。在企业经营层 2 全球人工智能治理体系报告（2020） 面，智能管理方式重塑传统产业的组织方式，提高员工的生产效率， 确保供应链稳健，降低运营成本，优化运作管理流程。 人工智能催生智能产业新业态，激发用户新的消费需求。在创新 商业新模式上，智能营销依托大数据分析用户的生活模式，挖掘消费 者的潜在需求，帮助企业进一步拓展市场规模。在带动产业新发展上， 人工智能有效促进上游关联产业发展，智能芯片、智能存储、智能传 感等智能硬件带动基础硬件产业的性能指标升级，智能算法框架、数 据交换平台等智能软件营造了开放自由的软件研发环境。在创造消费 新空间上，智能音箱等新的人机交互方式以及智能信息服务、智能金 融等人性化的互动体验等，激发消费新需求。 （二）人工智能引发经济社会多方面风险挑战 但“每个硬币都有正反面”，人工智能技术在迅速赋能经济社会发 展的同时，也引发了安全、社会、法治等不同层面的风险挑战。究其 根本原因，在于人工智能所产生的技术异化 1或将导致治理盲区出现、 算法歧视产生、责任主体模糊等多维度治理困境。 一是引发安全风险，技术的不可控将导致侵犯隐私、甚至侵害生 命等事件发生。首先，人工智能技术极易被滥用，导致虚假信息频发、 不良信息泛滥，加大数字内容治理难度。例如某些应用软件利用深度 伪造技术实现图像、音视频的生成或修改（如 AI 换脸） ，使不良信息 内容的“以假乱真”，甚至抹黑政治人物，扰乱网络空间秩序。其次， 利用人工智能技术进行数据收集与分析时可能会挖掘出个人敏感信 1 《哲学大辞典》对“异化”的释义：异化作为社会现象，与阶级一起产生，是人的物质生产与精神生产 及其产品变成异己力量又反过来统治人的一种社会现象。 3 全球人工智能治理体系报告（2020） 息并加以利用，在转移与传播阶段可能会在未经用户允许的情况下将 数据传递给第三方机构，导致