人工智能伦理问题与安全风险治理的全球比较与中国实践

摘要：

从全球范围来看，利益相关体已经提出了诸多人工智能治理原则以试图通过“软体系”的方式应对人工智能发展和应用所引发的伦理问题与安全风险。本文指出，人工智能的主体性挑战、代码作为规则重要性的提升以及“黑箱性”的存在构成了以“软体系”应对人工智能伦理问题与安全风险的特殊原因，而推进理念共识、聚焦局部议题、创新治理机制则构成了其具体内涵。虽然现有方案有利于推动人工智能伦理问题与安全风险的治理进程，但其在关键概念上的模糊、具体内容上的缺失或争议以及决策过程的不足，也引导人们产生更多反思。中国近年来在三个方向积极推进并于2021年初形成了《网络安全标准实践指南——人工智能伦理安全风险防范指引》的阶段性成果，该文件界定了人工智能治理的相关主体范围，总结了人工智能伦理问题与安全风险的具体类型，并明确了相关主体所应履行的治理职责。结合全球比较和中国实践的分析，文章进一步对未来人工智能伦理问题与安全风险治理的发展可能提出了三点展望。

关键词：

安全风险伦理问题人工智能治理反思网络安全标准

作者简介：

贾开:清华大学博士，电子科技大学公共管理学院副教授，清华大学产业发展与环境治理研究中心研究员、BRICS Competition Law & Policy Center研究员、中国行政管理学会青年理事，加州大学戴维斯分校、芬兰经济研究中心访问学者。研究兴趣主要为数字公共治理、数字全球治理、央地关系等。

薛澜:清华大学苏世民书院院长、文科资深教授；清华大学应急管理研究基地首席专家。