人工智能治理框架与实施路径

　　伴随着人工智能的快速发展，人工智能治理的理论研究与治理实践也在如火如荼地进行。《人工智能治理框架与实施路径/科技发展与治理前沿论丛》既是对近两年来人工智能治理理论研究的阶段性回顾，也是对近年来人工智能治理实践的阶段性总结。以此为基础，《人工智能治理框架与实施路径/科技发展与治理前沿论丛》力图成为未来人工智能治理理论研究的新起点，也为人工智能下一步健康发展与治理提供决策支撑。
　　《人工智能治理框架与实施路径/科技发展与治理前沿论丛》的目标在于回顾人工智能治理的研究与实践现状；界定人工智能治理的边界与知识图谱；选取典型技术和应用领域，基于人工智能不同技术特征、发展阶段、应用模式、参与主体、治理需求，从伦理规范、产业规制、市场监管、公共政策、法律法规、行业自律等多维视角，研究提出适应中国现阶段发展特点的人工智能治理框架与实施路径。
　　《人工智能治理框架与实施路径/科技发展与治理前沿论丛》章节安排如下。首章从理论上梳理人工智能的特征及其技术风险，分析了人工智能治理内涵，总结人工智能治理研究现状并提出未来研究展望。第二章从医疗健康、自动驾驶和工业互联网等三个人工智能领域，具体探索式分析了人工智能技术和应用场景特征及其治理问题。第三章从技术治理历史的角度出发，探析了传统技术治理扩展到人工智能领域的可能性，在理论分析的基础上勾勒了人工智能治理的可行性路径。第四章、第五章和第六章分别以人脸识别和自动驾驶领域的治理实践为例，深入剖析人工智能技术特征，识别不同场景下的风险与治理需求，比较各国治理实践，总结全球治理的经验启示。第七章分析了“大数据杀熟”行为定性与实现条件，针对其监管困境提出了可行的治理思路与应对政策。在理论分析和实践总结的基础上，第八章尝试提出了包含治理价值、治理对象、治理主体和治理工具在内的人工智能综合性治理框架，以及人工智能治理基本原则，构成要素相关的治理机制。第九章就人工智能治理的实施路径提出了对策建议。

薛澜：清华大学文科资深教授，现任清华大学苏世民书院院长、公共管理学院学术委员会主任，同时兼任国务院学位委员会（公共管理）学科评议组联合召集人，国家新一代人工智能治理专业委员会主任。

梁正：清华大学公共管理学院教授，人工智能治理研究中心主任，中国科技政策研究中心副主任，人工智能国际治理研究院副院长，科技发展与治理研究中心学术委员会秘书长。

张辉（上海人工智能实验室治理研究中心青年研究员，技术经济及管理博士，公共管理博士后，主要关注人工智能治理、新兴科技治理、科技政策设计等方面的研究，在《中国工业经济》、《科学学研究》、《科研管理》等期刊发表学术论文数十篇。）

曾雄（清华大学公共管理学院博士后、清华大学人工智能国际治理研究院助理研究员。法学博士，行政管理博士后，研究领域包括反垄断法与竞争政策、人工智能治理等。在《国际经济评论》《科学学研究》《经济学家》等期刊上发表学术文章数十篇。）

尤金妮亚·米基尔斯坦，美国西北大学律师社会科学系教授兼系主任。

目

录

CONTENTS

第一章 人工智能治理的内涵与研究现状

第一节 人工智能的特征与风险

第二节

人工智能治理的内涵与捷战

第三节

人工智能治理研究现状·

第四节

人工智能治理研究不足与展望

第二算 典型人工智能应用场景与技术治理问题初探

16

第一节 医疗健康

91

第二节

自动驾驶

22

第三节

工业互联网

28

第三章 人工智能治理初探:认知逻辑与范式超越

34

第一节

新兴技术治理的历史·

36

第二节

人工智能治理的生成逻揖

41

第三节

人工智能治理的认知图谱

44

第四节

人工智能治理的范式超越

50

第五节

理论思考与启示

-55

第四章 人工智能治理实践:以人脸识别为例

59

人脸识别技术简介

人脸识别风险特征

第三"

人脸识别应用场量的风险识别

66

第四节典型国家人脸识别治理现状

88

第五节 全球治理政策的启示

66

第六节 中国人脸识别治理现状

102

第五章 人脸识别治理的国际经验与中国策略

107

第一节 人脸识别的技术原理简介

108

第二节

人脸识别技术的公共安全风险

109

第三节 欧盟和类国的人脸识别治理政策比较与启示

112

第四节 我国人险识别的本土化治理路径·

611.

第六章 人工智能治理实践:以自动驾驶为例

-127

第一节 自动驾驶“单车智能”模式的发展困境·

·128

第二节 自动驾驶的技术体系与企业商业模式

130

第三节“单车智能”模式局限性的生成逻辑

134

第四节 自动驾驶“车路协同”模式及其治理之道

136

第五节 自动驾驶的治理启示与本来展望

140

第七章 人工智能治理实践:“大数据杀熟”的政策应对

142

第节“大数据杀熟”的行为定性与实现条件

142

第二节

“大数据杀熟”的监管必要性辨析

145

第三节 “大数据杀熟”的监管困境之额

148

第四节“大数据杀熟”需要创新治理思路

151

第八章 人工智能杜会综合治理框架

155

第一节 人工智能治理的价值:创新导向”

157

第二节 人工智能治理的主休:协同互动

158

第二节 人工智能治理的对象:分层治理

162

第四节 人工智能治理的工具:名维其治

166

-第九章 人工智能治理的实施路径对策建议·······················170

第一节 遵循新兴技术治理的前沿理念···170

第二节 完善数据保护与利用的规则与能力172

第三节 加强对不同类型算法的规范管理173

第四节推进结合应用场景特征的精准治理·174

第五节健全人工智能治理的工具谱系·····175

第六节积极参与人工智能国际治理·177

························179主要参考文献

　　随着计算能力的迅速提升、数据规模的急剧扩张以及智能算法的不断突破，人工智能发展为全球所瞩目，被视为第四次工业革命的基石。作为通用技术，人工智能对人类社会生产力的影响可能远超前几次工业革命中的蒸汽机、电力、原子能和互联网。人工智能应用不仅极大提高了交通、医疗、金融、教育和制造等传统部门的生产效率，也提升了政府管理、公共安全、司法裁判、危机应对等多方面的现代化治理水平。据不完全统计，2013年后，全球已经有28个国家和地区发布了人工智能相关战略、规划或重大计划，以期在新一轮的科技革命中取得竞争优势。然而，自从2016年AlphaGo战胜人类棋手事件以来，人工智能技术在带来便利的同时，各种潜在风险也日益凸显。如何协调人工智能发展与治理之间的关系显得尤为迫切。当前，全球对人工智能在伦理、隐私、就业和安全等方面的影响争论不绝，甚至有著名科学家发出警告：“人工智能有可能是人类最后的发明”。2018年10月，习近平总书记在中央政治局集体学习中强调，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。
　　因此，人工智能治理自然而然地成为全球范围内备受关注的议题。在大力推动人工智能发展的同时，国际社会也开始更加强调人工智能伦理、负责任地发展人工智能和安全利用人工智能，寻求社会发展与风险控制的平衡。例如，欧盟于2019年4月发布了《人工智能伦理准则》；2019年在日本大阪召开的G20部长会议通过了《G20人工智能原则》，推动建立可信赖人工智能的国家政策和国际合作。中国也于2019年发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八条治理原则。不仅如此，许多科技企业、非政府组织、行业协会等也都开始积极关注人工智能，并参与到人工智能治理的推进过程之中，提出了许多原则与建议。
　　然而，这些散落的原则及其形成的治理效能，还无法跟进人工智能的迅猛发展与广泛扩散。人工智能治理面临的挑战与问题愈发凸显。目前，国内外人工智能治理相关研究尚处于起步阶段，来自经济学、管理学、哲学、法学以及计算机等工程技术学科的学者都从各自领域进行了一定程度的探讨，但对于什么是人工智能治理、为什么进行治理以及如何治理等还没有形成体系化的成果与共识，从而在一定程度上影响了人工智能治理的推进实施。
　　伴随着人工智能的快速发展，人工智能治理的理论研究与治理实践也在如火如荼地进行。本书既是对近两年来人工智能治理理论研究的阶段性回顾，也是对近年来人工智能治理实践的阶段性总结。以此为基础，本书力图成为未来人工智能治理理论研究的新起点，也为人工智能下一步健康发展与治理提供决策支撑。
　　忆往昔，中国近现代一直处于追赶西方现代化的历史进程之中，虽然经历了诸多困难、限制和掣肘，但是，中国事实上处于一种相对成熟的现代科学技术环境中，有诸多的国外先进技术和治理经验可资借鉴。看今朝，在第四次工业革命背景下，中国在以人工智能为代表的技术创新和产业发展上，已经从之前的后进学习状态发展为与世界诸强处于并跑乃至部分超越的状态。与此同时，全球范围内，人工智能治理面临的最大挑战是没有一套比较成熟的体系来规制潜在的风险。这样就使得中国在推动人工智能发展的同时，必须同步探索建立人工智能治理与规制体系。
　　前三次工业革命催生的人类发展和社会进步历史，实际上也是人类展开新兴技术治理的历史进程。在面临新兴技术可能带来的巨大收益和潜在风险时，人类社会和民族国家需要平衡收益和风险之间的关系，在发展新兴技术的同时，高度关注治理问题。回顾历史，新兴技术治理体系的形成过程普遍经历了四个阶段：第一，核心驱动阶段，所有的新兴技术在初期都有知识的重大进步或技术上的关键创新，推动新产品的产生，从而形成核心驱动；第二，市场变革阶段，新技术的应用必须与市场应用不断交流互动，并拓展新的应用场景和新的需求，最终形成技术的应用领域和范式；第三，技术的社会认知适配阶段，社会公众对技术及其应用的收益或风险形成集体性的共同知识，从而对技术的发展与规制形成共同约定；第四，治理范式形成阶段，在社会认知构建的过程中，不同的治理模式也在逐渐形成，包括治理主体、路径选择、工具应用等。
　　与此前工业革命的各历史时期不同，当今中国身处正在发生的第四次工业革命的历史进程中，并且通过自身努力已经赶上了发明创新的头班车。中国人民正在通过科学发现、技术发明、产品创新创造历史，出现越来越多新兴技术的发明者与开发者，也出现越来越庞大的领先技术应用者、创新型企业和企业家。同时，中国还将逐步面临社会公众认知和技术治理范式等方面的机遇与挑战。从探索式治理、回应式治理、集中式治理，到当前敏捷式治理体系的建构与实践，中国的人工智能治理一路走来，既经历了新兴技术发展与规制脱节的“阵痛”，也收获了丰富多样的实践智慧和治理经验。及时全面总结不同阶段、不同行业的治理实践经验与智慧，积极推进人工智能治理的理论创新、管理创新、制度创新和社会创新，对于提高未来人工智能发展与治理水平，对于实现国家治理现代化均具有重要意义。
　　本书的目标在于回顾人工智能治理的研究与实践现状；界定人工智能治理的边界与知识图谱；选取典型技术和应用领域，基于人工智能不同技术特征、发展阶段、应用模式、参与主体、治理需求，从伦理规范、产业规制、市场监管、公共政策、法律法规、行业自律等多维视角，研究提出适应中国现阶段发展特点的人工智能治理框架与实施路径。
　　本书章节安排如下。第一章从理论上梳理人工智能的特征及其技术风险，分析了人工智能治理内涵，总结人工智能治理研究现状并提出未来研究展望。第二章从医疗健康、自动驾驶和工业互联网等三个人工智能领域，具体探索式分析了人工智能技术和应用场景特征及其治理问题。第三章从技术治理历史的角度出发，探析了传统技术治理扩展到人工智能领域的可能性，在理论分析的基础上勾勒了人工智能治理的可行性路径。第四章、第五章和第六章分别以人脸识别和自动驾驶领域的治理实践为例，深入剖析人工智能技术特征，识别不同场景下的风险与治理需求，比较各国治理实践，总结全球治理的经验启示。第七章分析了“大数据杀熟”行为定性与实现条件，针对其监管困境提出了可行的治理思路与应对政策。在理论分析和实践总结的基础上，第八章尝试提出了包含治理价值、治理对象、治理主体和治理工具在内的人工智能综合性治理框架，以及人工智能治理基本原则，构成要素相关的治理机制。第九章就人工智能治理的实施路径提出了对策建议。