|
法学院
|
|
□ 张吉豫
赋能型人工智能治理的理论依据
当前人工智能发展中的主要矛盾，是人工智能安全可信发展的巨大需求与人工智能发展及治理能力不足之间的矛盾。因而，在回答我国需要什么样的人工智能治理机制时，首先要明确当下的治理目标，即通过科学治理来赋能人工智能安全可信发展，使得人工智能科技与社会治理能力同步提升，最终使社会建立起可以在人工智能时代良好运行的能力，让人工智能真正服务于人民幸福和人类福祉的提升。因此，需要建构着眼于社会能力提升的“赋能型人工智能治理”，具体理据如下：
（一）人工智能所处的发展阶段
首先，我国人工智能发展处于世界前列，缺少可以借鉴的成熟治理经验。其次，当前人工智能仍处于高速发展阶段，并可能出现难以预测的突破性进展，这也使得传统基于充足信息的静态化治理机制难以有效适应人工智能发展。再次，当前人工智能虽然取得了显著进步，但整体而言仍处在发展早期。最后，我国人工智能发展虽处于世界前列，但仍落后于美国。面对国际人工智能科技发展可能带来的影响，自身科技的高度发展是维持国家竞争力和国家安全的根本能力。
（二）人工智能发展的机遇与挑战
我国人工智能产业发展迅速，处于良好的战略机遇期，但还面临一系列挑战。从国内来看，还存在一些制约人工智能发展能力的制度问题。从国际上看，一些国家以所谓的“国家安全”名义打压中国信息科技企业，也使我国当前人工智能发展面临严重挑战。迫切需要面向人工智能发展中能力不足的问题要点，为人工智能创新发展提供更加有利的制度条件，为企业投入人工智能创新提供激励和更加稳定的制度预期。
（三）人工智能风险的基本特征
人工智能带来的风险具备现代社会意义上公共风险的一些共同特征。首先，人工智能风险具有公共性和规模性。其次，人工智能风险具有两面性。我们要以辩证观念和辩证思维正视人工智能风险的两面性，促进科技创新对社会的正面价值和积极意义。最后，人工智能风险具有一定的可控制性。我们需要关注风险中蕴含的机遇，通过实施赋能型治理，在发展中提升社会认知和防控人工智能风险的能力，使得人工智能发展成果切实服务于人类福祉的提升。
（四）人工智能治理能力的现存缺陷
首先是对人工智能风险的认知和评估能力不足，社会监督能力欠缺。其次是企业对人工智能风险的自治能力不足。最后是政府科学监管和促进发展的能力不足。因此，针对人工智能治理的现存缺陷，必须构建赋能型治理，建设高水平治理能力，以此推进人工智能高质效地安全可信发展。
（五）既有人工智能规制模式的局限
既有规制模式主要包括命令—控制型规制、建议劝服型规制、回应型规制、元规制等。回应型规制模式可派生出很多具体形式，常与元规制相结合。这种规制模式在数字科技领域得到了较多应用。但面对高速发展的人工智能，企业实际上也难以充分掌握人工智能新应用的风险情况和有效措施等信息。因此，这类规制模式在人工智能领域的适用对相关能力建设提出了更高要求。
综上所述，赋能型人工智能治理的核心要义在于以赋能为核心，通过科学有效的治理，实现高度的人工智能发展水平和保障持续安全可信状态的能力，即针对人工智能安全可信发展中的重要能力建设需求，通过治理实现如下方面的赋能：第一，赋能企业创新发展；第二，赋能企业可信规制；第三，赋能政府有效监管；第四，赋能社会公众平等受益于人工智能的发展，使社会公众有效地参与人工智能治理；第五，赋能我国深度参与全球人工智能治理体系建设，为推进全球人工智能治理体系现代化提供中国经验、中国智慧和中国力量。
赋能型人工智能治理的理念确立
赋能型人工智能治理建设需要确立与之相适应的理念：既要确立核心理念，即明确如何理解赋能型人工智能治理中涉及的重要关系，从而为“赋能”确立正确的方向和界限；也要从核心理念中发展出基本理念，更为具体地指引赋能型人工智能治理机制的构建。
（一）赋能型人工智能治理的核心理念
赋能型人工智能治理的核心理念基于两大关系而形成，即人与物（智能体）的关系、发展和安全的关系。第一，坚持以人为本，促进人机和谐。第二，坚持发展导向，统筹发展和安全。
（二）赋能型人工智能治理的基本理念
基于上述核心理念和国内外人工智能治理经验，赋能型人工智能治理理念可进一步展开为如下基本理念：第一，智能向善；第二，包容审慎；第三，敏捷治理；第四，可持续发展。
赋能型人工智能治理的机制构建
在人工智能治理机制设计中，应自觉将“赋能”作为重要目标，将前述核心和基本理念融入人工智能治理相关的各方面机制设计之中。
（一）构建以法治为核心的赋能型人工智能治理机制
第一，从“软法”治理到以“硬法”为引导和保障、“软法”与“硬法”相结合的治理形态，是人工智能治理的必然趋势。第二，法治是推进人工智能领域善治的必由之路。人工智能治理需要落实以人为本、发展导向的核心理念，使人工智能领域既规范有序又充满活力。达到此目标，就是我们期待的“善治”。法治正是通向善治的必由之路。第三，法治是营造人工智能创新发展环境的必然要求。
（二）完善法律治理与技术治理相统合的机制
科技与法治的有机融合是人工智能治理的必由之路，是人工智能时代治理能力建设的重点。首先，从坚持发展导向、统筹安全发展的核心理念出发，需要在法治建设中深度研判科技发展的制度需求，赋能企业创新发展。其次，从智能向善的理念出发，需要通过法治来促进企业不断提升人工智能技术的安全可信性。
（三）发展多元主体沟通协作的共治机制
有效、及时的多元主体沟通协作是实现包容审慎、敏捷治理理念，提升风险识别和防控能力的必然要求。风险信息和治理信息的有效交流和共享是社会治理的重要机制。人工智能的风险治理需要建立更加及时有效的沟通机制。首先，针对目前跨领域主体缺少信息沟通、治理对话困难等问题，需要建立由监管机构主导，人工智能企业、科研人员、行业组织、新闻媒体、社会公众等多元主体参与的制度化、常态化的风险沟通机制。其次，应当创新拓展试验性监管机制。最后，应当加快构建人工智能治理和能力建设的国际合作机制，为人工智能安全可信发展提供国际协作和规则保障。
（四）建立与人工智能发展相适配的避风港机制
在人工智能发展应用初期，赋能企业创新发展，要求法律尊重科技发展规律，明确建立与发展阶段、具体情况相匹配的避风港机制和具体规则。从数据层面看，我国数据流通交易所需要的主要制度增量在于建立合理的数据交易相关行为法律后果的责任规则。从算法模型及社会应用层面看，为人工智能产业建立分级分类的、合理的避风港规则，对于稳定产业预期、促进创新投入、推动企业采取合理措施都具有积极意义。
（五）创建敏捷互动、激励向善发展的动态监管机制
可在包容审慎、敏捷治理的理念下，创建分级分类、敏捷互动、激励人工智能向善发展的动态监管机制。其一，建立科学分级分类、支持动态调整的风险管理金字塔；其二，建立渐进适用的监管惩戒金字塔；其三，建立有效互动的价值对齐激励金字塔。
（六）建设人工智能保险等社会保障机制
社会保障能力和机制建设是赋能型人工智能治理的重要方面。保险制度是现代风险治理中的一种重要工具，不但可以在灾害之后进行补偿，还可以发挥事先降低与管控风险的作用。同时，需要推进与人工智能相关的通识义务教育、职业技能培训、就业促进机制等民生保障建设，消除数字鸿沟，赋能社会公众在人工智能发展中平等获益，也为人工智能科技的社会监督、科学运用奠定良好的基础。
人类社会正在快速进入以新一代人工智能为标志的智能时代。人工智能有望赋能千行百业，但当前其自身发展也需要治理赋能。应通过依法有效治理来赋能人工智能安全可信发展，并最终赋能社会、赋能人民。我们需要确立赋能型人工智能治理新理念，健全以法治为核心的赋能型人工智能治理新机制，迈向赋能型人工智能治理新格局，将科技发展与国家治理体系和治理能力现代化有机结合，服务于数字中国建设和中国式现代化进程，并为全球人工智能治理作出贡献。
（原文刊载于《中国法学》2024年第5期）
|
|
|
| 赋能型人工智能治理的理念确立与机制构建
|
|
|
|
|
|
| （ 2024-11-27 ） 稿件来源： 法治日报法学院 |
|
|
□ 张吉豫
赋能型人工智能治理的理论依据
当前人工智能发展中的主要矛盾，是人工智能安全可信发展的巨大需求与人工智能发展及治理能力不足之间的矛盾。因而，在回答我国需要什么样的人工智能治理机制时，首先要明确当下的治理目标，即通过科学治理来赋能人工智能安全可信发展，使得人工智能科技与社会治理能力同步提升，最终使社会建立起可以在人工智能时代良好运行的能力，让人工智能真正服务于人民幸福和人类福祉的提升。因此，需要建构着眼于社会能力提升的“赋能型人工智能治理”，具体理据如下：
（一）人工智能所处的发展阶段
首先，我国人工智能发展处于世界前列，缺少可以借鉴的成熟治理经验。其次，当前人工智能仍处于高速发展阶段，并可能出现难以预测的突破性进展，这也使得传统基于充足信息的静态化治理机制难以有效适应人工智能发展。再次，当前人工智能虽然取得了显著进步，但整体而言仍处在发展早期。最后，我国人工智能发展虽处于世界前列，但仍落后于美国。面对国际人工智能科技发展可能带来的影响，自身科技的高度发展是维持国家竞争力和国家安全的根本能力。
（二）人工智能发展的机遇与挑战
我国人工智能产业发展迅速，处于良好的战略机遇期，但还面临一系列挑战。从国内来看，还存在一些制约人工智能发展能力的制度问题。从国际上看，一些国家以所谓的“国家安全”名义打压中国信息科技企业，也使我国当前人工智能发展面临严重挑战。迫切需要面向人工智能发展中能力不足的问题要点，为人工智能创新发展提供更加有利的制度条件，为企业投入人工智能创新提供激励和更加稳定的制度预期。
（三）人工智能风险的基本特征
人工智能带来的风险具备现代社会意义上公共风险的一些共同特征。首先，人工智能风险具有公共性和规模性。其次，人工智能风险具有两面性。我们要以辩证观念和辩证思维正视人工智能风险的两面性，促进科技创新对社会的正面价值和积极意义。最后，人工智能风险具有一定的可控制性。我们需要关注风险中蕴含的机遇，通过实施赋能型治理，在发展中提升社会认知和防控人工智能风险的能力，使得人工智能发展成果切实服务于人类福祉的提升。
（四）人工智能治理能力的现存缺陷
首先是对人工智能风险的认知和评估能力不足，社会监督能力欠缺。其次是企业对人工智能风险的自治能力不足。最后是政府科学监管和促进发展的能力不足。因此，针对人工智能治理的现存缺陷，必须构建赋能型治理，建设高水平治理能力，以此推进人工智能高质效地安全可信发展。
（五）既有人工智能规制模式的局限
既有规制模式主要包括命令—控制型规制、建议劝服型规制、回应型规制、元规制等。回应型规制模式可派生出很多具体形式，常与元规制相结合。这种规制模式在数字科技领域得到了较多应用。但面对高速发展的人工智能，企业实际上也难以充分掌握人工智能新应用的风险情况和有效措施等信息。因此，这类规制模式在人工智能领域的适用对相关能力建设提出了更高要求。
综上所述，赋能型人工智能治理的核心要义在于以赋能为核心，通过科学有效的治理，实现高度的人工智能发展水平和保障持续安全可信状态的能力，即针对人工智能安全可信发展中的重要能力建设需求，通过治理实现如下方面的赋能：第一，赋能企业创新发展；第二，赋能企业可信规制；第三，赋能政府有效监管；第四，赋能社会公众平等受益于人工智能的发展，使社会公众有效地参与人工智能治理；第五，赋能我国深度参与全球人工智能治理体系建设，为推进全球人工智能治理体系现代化提供中国经验、中国智慧和中国力量。
赋能型人工智能治理的理念确立
赋能型人工智能治理建设需要确立与之相适应的理念：既要确立核心理念，即明确如何理解赋能型人工智能治理中涉及的重要关系，从而为“赋能”确立正确的方向和界限；也要从核心理念中发展出基本理念，更为具体地指引赋能型人工智能治理机制的构建。
（一）赋能型人工智能治理的核心理念
赋能型人工智能治理的核心理念基于两大关系而形成，即人与物（智能体）的关系、发展和安全的关系。第一，坚持以人为本，促进人机和谐。第二，坚持发展导向，统筹发展和安全。
（二）赋能型人工智能治理的基本理念
基于上述核心理念和国内外人工智能治理经验，赋能型人工智能治理理念可进一步展开为如下基本理念：第一，智能向善；第二，包容审慎；第三，敏捷治理；第四，可持续发展。
赋能型人工智能治理的机制构建
在人工智能治理机制设计中，应自觉将“赋能”作为重要目标，将前述核心和基本理念融入人工智能治理相关的各方面机制设计之中。
（一）构建以法治为核心的赋能型人工智能治理机制
第一，从“软法”治理到以“硬法”为引导和保障、“软法”与“硬法”相结合的治理形态，是人工智能治理的必然趋势。第二，法治是推进人工智能领域善治的必由之路。人工智能治理需要落实以人为本、发展导向的核心理念，使人工智能领域既规范有序又充满活力。达到此目标，就是我们期待的“善治”。法治正是通向善治的必由之路。第三，法治是营造人工智能创新发展环境的必然要求。
（二）完善法律治理与技术治理相统合的机制
科技与法治的有机融合是人工智能治理的必由之路，是人工智能时代治理能力建设的重点。首先，从坚持发展导向、统筹安全发展的核心理念出发，需要在法治建设中深度研判科技发展的制度需求，赋能企业创新发展。其次，从智能向善的理念出发，需要通过法治来促进企业不断提升人工智能技术的安全可信性。
（三）发展多元主体沟通协作的共治机制
有效、及时的多元主体沟通协作是实现包容审慎、敏捷治理理念，提升风险识别和防控能力的必然要求。风险信息和治理信息的有效交流和共享是社会治理的重要机制。人工智能的风险治理需要建立更加及时有效的沟通机制。首先，针对目前跨领域主体缺少信息沟通、治理对话困难等问题，需要建立由监管机构主导，人工智能企业、科研人员、行业组织、新闻媒体、社会公众等多元主体参与的制度化、常态化的风险沟通机制。其次，应当创新拓展试验性监管机制。最后，应当加快构建人工智能治理和能力建设的国际合作机制，为人工智能安全可信发展提供国际协作和规则保障。
（四）建立与人工智能发展相适配的避风港机制
在人工智能发展应用初期，赋能企业创新发展，要求法律尊重科技发展规律，明确建立与发展阶段、具体情况相匹配的避风港机制和具体规则。从数据层面看，我国数据流通交易所需要的主要制度增量在于建立合理的数据交易相关行为法律后果的责任规则。从算法模型及社会应用层面看，为人工智能产业建立分级分类的、合理的避风港规则，对于稳定产业预期、促进创新投入、推动企业采取合理措施都具有积极意义。
（五）创建敏捷互动、激励向善发展的动态监管机制
可在包容审慎、敏捷治理的理念下，创建分级分类、敏捷互动、激励人工智能向善发展的动态监管机制。其一，建立科学分级分类、支持动态调整的风险管理金字塔；其二，建立渐进适用的监管惩戒金字塔；其三，建立有效互动的价值对齐激励金字塔。
（六）建设人工智能保险等社会保障机制
社会保障能力和机制建设是赋能型人工智能治理的重要方面。保险制度是现代风险治理中的一种重要工具，不但可以在灾害之后进行补偿，还可以发挥事先降低与管控风险的作用。同时，需要推进与人工智能相关的通识义务教育、职业技能培训、就业促进机制等民生保障建设，消除数字鸿沟，赋能社会公众在人工智能发展中平等获益，也为人工智能科技的社会监督、科学运用奠定良好的基础。
人类社会正在快速进入以新一代人工智能为标志的智能时代。人工智能有望赋能千行百业，但当前其自身发展也需要治理赋能。应通过依法有效治理来赋能人工智能安全可信发展，并最终赋能社会、赋能人民。我们需要确立赋能型人工智能治理新理念，健全以法治为核心的赋能型人工智能治理新机制，迈向赋能型人工智能治理新格局，将科技发展与国家治理体系和治理能力现代化有机结合，服务于数字中国建设和中国式现代化进程，并为全球人工智能治理作出贡献。
（原文刊载于《中国法学》2024年第5期）
|
|
|
