人工智能蓬勃发展的同时，伴随的风险也被大量关注。

　　7月10日，以“发展负责任的人工智能”为主题的2020世界人工智能大会治理论坛召开。个人和企业的数据隐私怎么保护?就业岗位会不会被替代?人工智能侵权的怎么认定?……这些问题都出现论坛的探讨中。

　　早在去年6月，我国第一次发布人工智能治理原则，印发《新一代人工智能治理原则——发展负责任的人工智能》,提出“负责任”“守规矩”。

　　当时，上海大学战略研究院特聘院长、国家新一代人工智能治理专业委员会委员李仁涵曾表示，“人工智能是新兴事物，在留下足够发展空间的前提下，一定要加强监管。建议各级政府将《治理原则》融入人工智能发展的政策，人工智能走到哪，《治理原则》跟到哪……”

　　一年之后，在2020世界人工智能大会治理论坛上，担任上海国家新一代人工智能创新发展试验区专家咨询委员会副主任的李仁涵，作为工作组召集人，见证了上海试验区专委会新设的“治理工作组”启动运行。

　　李仁涵在论坛上提到，2020年治理工作组的主要工作，包括扩大国际交流合作、开展人工智能数据安全立法调研、研究人工智能治理相关的政策体系、伦理规范和技术标准等。

　　治理工作组成立背后有何考量?未来人工智能治理怎么发展?对此《每日经济新闻》记者采访李仁涵。同时，李仁涵近日撰文《开启人工智能治理新篇章》授权每日经济新闻发布，详见下文。

　　李仁涵在论坛现场发言

　　NBD：2019年，北京与上海率先获得“国家新一代人工智能创新发展试验区”。此次论坛，上海试验区专家咨询委员会新成立了治理工作组，请问新成立该工作组的考量是什么?

　　李仁涵：治理工作是“上海国家新一代人工智能创新发展试验区”建设的战略布局和重要工作内容。2019年5月，科技部与上海市启动试验区建设，重点布局了四方面的任务：一是提升人工智能原始创新策源能力;二是开展人工智能创新应用和产业赋能试验;三是建设开放联动的创新生态圈;四是建立健全政策法规、伦理规范和治理体系。根据建设方案，到2023年，上海国家新一代人工智能创新发展试验区将实现集“理论、技术、应用、人才和治理”为一体的目标，构筑综合性开放型战略优势，形成全国领先、世界先进的示范引领效应。

　　所以，治理一直是上海试验区的重点工作，也一直在持续推进。今年5月，上海市2020年度“科技创新行动计划”人工智能科技支撑专项项目，主要围绕强化人工智能领域科技创新策源能力、创新治理能力进行布局，就人工智能治理体系与关键技术，面向形成医疗、交通、教育、金融和药物研制等5个方向的治理解决方案进行引导支持。这是全国首次在省市级层面进行较大规模的引导布局。

　　成立治理工作组，是为了进一步加强人工智能治理工作，形成更加专业的研究队伍和组织模式，推进治理的相关研究，并代表上海参与国家和国际的治理交流与合作，同时推进治理工作的落实落地。

　　NBD：“人工智能治理如何开展”是此次论坛的讨论热点，这方面您的想法是怎样的?在您看来，人工智能治理的发展有何大趋势?

　　李仁涵：完善人工智能治理体系是保证人工智能健康和高质量发展的关键。2019年，中国国家新一代人工智能治理专业委员会发布了以“发展负责任的人工智能”为主题的治理原则。近年来，众多相关组织和机构发布了上百份人工智能治理原则和倡议。全球正在就推动人与机器的和谐共生逐步达成共识。将这些共识性原则转化为行动方案已是大势所趋。

　　为此，上海试验区专家咨询委员会也提出《协同落实人工智能治理原则的行动建议》(上海AI治理协同行动9条)，具体包括“一平台、四工作、四体系”的行动方案。

　　“一个平台”，即构建全球合作网络和交流平台，推动形成全球人工智能治理研究和协作共同体，汲取全球多元文化智慧，为解决相关问题提供解决方案;“四工作”是推进AI治理标准规范的制定、推动建立行业自律、总结推出最佳实践、推动安全可信技术研发;“四体系”是致力于建立人工智能治理的评估体系、监管体系、人才体系、保障体系。

　　这也是国内首次提出系统落实国家人工智能治理原则的行动建议方案，将为进一步推进人工智能治理工作提供参考。

　　总之，人工智能在不断迭代发展，因此实践实验是至关重要的，我们需要通过不断地从理论到实践，再从实践到理论的循环，才能真正促进治理的完善，保证人工智能健康高质量发展。所以不仅要坐而论道，更要起而行之。

　　以下为李仁涵《开启人工智能治理新篇章》全文

　　人类文明与进步，始终伴随着人类治理水平的不断提升，今天以前，治理只是对人与人的社会。人工智能是一种通过机器来模拟人类认知能力的技术，随着它的广泛应用，治理受到了挑战。开展人工智能治理也是对人工智能健康发展提供保障。

　　2019年2月，中国政府专门成立了国家新一代AI治理专业委员会，同年年6月，国家新一代AI治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。

　　中国政府和上海市政府高度重视AI治理。2019世界人工智能大会(永久地址：上海)专门增设了人工智能治理分会场，从过去单纯的聚焦人工智能技术，开启了聚焦技术和治理并重的新篇章。会上，科技部领导、上海市有关领导都表达了对人工智能治理的高度重视，与会国内外著名专家、学者和企业家充分肯定了中国的八项原则，并表示在人工智能治理方面必须加强国际交流与合作，体现人类命运共同体的理念。

　　今年论坛在去年大会的基础上，又进了一大步。来自海内外的大学、研究院所及企业等著名学者、专家和企业家，他们的发言不仅仅停留在“重视”上，而且进一步探讨了“如何做”的问题。专家们通过对技术的剖解，提出如何实现安全(含隐私保护)、可靠与可控的路径;通过对法律与规则制定等方面的分析，研讨了如何制定国际共同遵守的机制等等方面的问题。进一步体现了人类命运共同体理念的落地。

　　在上海市政府高度重视和领导下，上海国家新一代人工智能创新发展试验区专家咨询委员会在会上专门成立了人工智能治理工作组，并推出了《协同落实人工智能治理原则的行动建议》(上海AI治理协同行动9条)。会后，工作组将按照这个行动建议开展各项工作。

　　上海是我国最重要的国际大都市，国际化程度最高，在人工智能治理方面，我们一方面要积极参与到国际人工智能治理规则制定的行列中，另一方面又要为我国人工智能治理起到示范与带动作用。同时，我们还要积极探索和推动制定多边和双边的国际规则，确保国外人工智能产品进入中国、中国人工智能产品走出去的规范。总之，人工智能治理的内容非常丰富，应该将其“嵌入”到整个社会治理体系之中，确保人、人与机器、人的社会和谐与健康发展。

　　李仁涵简介

　　上海大学战略研究院特聘院长、上海交通大学人工智能研究院首席顾问、国家新一代人工智能治理专业委员会委员、上海国家新一代人工智能创新发展试验区专家咨询委员会副主任、上海国家新一代人工智能创新发展试验区专家咨询委员会治理工作组召集人