积极探索建立我国人工智能治理与应用指南制度

近年来，人工智能技术快速发展，在赋能人类社会经济进步的同时也带来安全隐患和风险挑战。既要促进人工智能技术发展和应用，又要确保其发展过程中的安全性、可靠性和可控性，构建人工智能治理体系的紧迫性日益凸显。世界各国都积极探索人工智能治理的方法路径。今年3月，美国白宫行政管理和预算办公室（OMB）发布《致行政部门和机构负责人的备忘录》（以下简称“《指南》”）。《指南》要求，设立首席人工智能官（CAIO）、成立人工智能治理委员会、推动人工智能应用创新、遵循最低风险管理实践等，为推进人工智能治理、创新和风险管理确立了新的管理要求和实践指引。作为负责任的科技大国，我国也积极推动人工智能治理体系优化完善，《指南》中的一些内容对于促进我国政府部门人工智能应用和治理实践具有参考价值。首先，强化人工智能治理架构体系。一是设立首席人工智能官。各联邦机构自《指南》发布60日内设立首席人工智能官，《指南》还对首席人工智能官的角色、职责、级别、职位以及汇报结构做出明确要求。二是组建人工智能治理委员会，由委员会召集高级别官员会议，统筹管理本单位人工智能应用，并且扫除障碍、管控风险。三是实施遵从计划管理，各联邦机构自《指南》签署180天内至2036年，每两年向OMB提交指南遵从计划，确保本单位治理原则与治理方向与《指南》保持一致。四是实施用例清单管理。各联邦机构需建立人工智能用例清单，并以年度为单位提交至OMB，同时面向公众公开。各联邦机构还需识别影响安全和权利的人工智能用例，披露用例风险细节与风险防控措施。其次，推动负责任的人工智能创新。一是落实人工智能战略管理。各联邦机构需自《指南》发布365天内制定并公开发布本单位人工智能发展战略，识别并扫除人工智能应用障碍，提升本单位人工智能发展整体成熟度。二是为负责任地使用人工智能扫除障碍。《指南》明确了“负责任地使用人工智能”的基本原则，即强化底线监管的同时消除人工智能使用的不必要和无益障碍，确保各联邦机构拥有使用人工智能的足够柔性，并提出IT设施、数据、网络安全、生成式人工智能等四个方面具体指导建议。三是强化人工智能人才培养。《指南》明确各联邦机构需强化机构内部人工智能人才的选择、使用、培育、留用，提升机构人工智能创新应用能力。四是推动人工智能共享合作。各联邦机构需以有利于政府与公众再利用与协同的方式共享其人工智能代码、模型和数据，保障人工智能应用的法律政策遵从与公众权利保护。最后，有效管控人工智能应用风险。一是实施最低风险管理实践。所有联邦机构对涉及安全与权利的人工智能（系统）实施最低风险管理实践。各机构需于2024年12月1日前实施该项管理，终止使用不符合最低风险管理要求的人工智能。二是实施定期审查、报告披露与豁免管理制度。各联邦机构需定期开展审查评估，明确人工智能系统是否对安全和权利造成影响、是否符合《指南》规定的最低风险管理实践，对不符合要求的人工智能系统决定终止使用或寻求豁免。各联邦机构需记录并报告审查结果，在必要时向公众披露。《指南》本质上是基于原有网信安全、隐私保护、公民权利、数据开放等法律基础，编织出一套以“人工智能应用”为核心的监管治理体系，既鼓励人工智能应用与创新，同时亦形成对人工智能（尤其是生成式人工智能）风险的系统性防控。《指南》的发布，是对通用人工智能广泛应用的主动回应，既为政府部门部署和使用人工智能提供了可靠遵循，又形成对市场部门的示范性实践与软性行为约束。作为负责任的科技大国，我国积极推动人工智能治理体系优化完善。目前，已形成以《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》为主体的人工智能治理法律框架，对人工智能涉及数据采集、数据处理、网络安全、数据安全、个人信息保护等做出明确要求。《生成式人工智能服务管理暂行办法》对生成式人工智能服务的提供与使用做出规范，包括技术发展、服务规范、监督检查和法律责任等。《国家人工智能产业综合标准化体系建设指南》《国家新一代人工智能标准体系建设指南》的发布亦有效推进我国人工智能标准体系的形成。国内治理方面，推出《科技伦理审查办法（试行）》和《生成式人工智能服务管理暂行办法》，提出人工智能治理的中国方案。全球治理方面，积极倡导国际合作与全球共治，《全球人工智能治理倡议》《人工智能全球治理上海宣言》，坚持“以人为本、智能向善”，为世界提供了基于人类命运共同体理念的人工智能治理新视角，为全球人工智能治理积极贡献中国智慧。2022年《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》提出尊重人工智能发展规律，发挥政府和市场的积极性，共同为场景创新提供制度供给，促进人工智能创新发展与监管规范相协调。2024年6月，工信部等四部门发布《国家人工智能产业综合标准化体系建设指南（2024版）》亦是要求完善治理标准，结合人工智能治理实际需求，规范人工智能的技术研发、运营服务和全生命周期治理。我国人工智能治理不断走向体系深入。我国虽然通过制定上述法律法规及标准指南构成人工智能治理基本遵从，但在细分领域（包括政务），如何使用和治理人工智能（尤其是生成式人工智能）尚缺乏可靠的规范指引。同时，由于我国在人工智能治理架构设置、制度规范方面仍然存在一些短板和不足，缺乏类似首席人工智能官、人工智能治理委员会的治理架构设置及诸如遵从计划管理、用例清单管理、部门发展战略管理、最低风险管理实践、定期审查与报告披露等制度规范，中央或省级政府层面难以形成对内部人工智能使用情况的全面掌握和有序统筹，各部门无法在人工智能应用创新和人工智能风险管理上形成有效协同。此外，我国还存在高层次指南性文件缺位的问题，这将造成三方面不利影响：一是不利于政府内部各部门条线形成协同一致的人工智能部署应用和治理监管；二是不利于政府引导示范作用发挥。政府采购与使用是最好的“产业政策”，通常会形成对各行业的示范引领作用；三是不利于人们消除对人工智能系统应用的焦虑与抗拒。它山之石可以攻玉，其他国家在人工智能治理和应用实践方面的一些有益探索也可以为我所用。当前，应结合我国人工智能治理和应用实践，加快制定符合我国实际的人工智能治理指南。第一，优化人工智能治理组织架构。由中央政府或省级政府统筹本级行政单位人工智能的应用和治理。在当前强化数据要素管理的基础上，尝试引入首席人工智能官和人工智能治理委员会制度，形成包含各层级、各部门的人工智能治理体系和报告体系。第二，完善人工智能治理工具体系。建议引入遵从计划管理、用例清单管理、部门发展战略管理、最低风险管理实践、定期审查与报告披露等管理工具，完善我国政府部门人工智能治理工具体系。第三，推广人工智能治理最佳实践。在全国范围内征集政府部门人工智能应用和治理最佳实践，并基于《国家新一代人工智能标准体系建设指南》，结合生成式人工智能广泛应用实际，形成并推广具有全国范围约束力的政府人工智能应用和治理指南。（廖文凯占安居作者单位：中国电信研究院）转自：经济参考报 原文链接：//shuzhiren.com/post/132488.html