|
法学院
|
|
中国政法大学民商经济法学院孙跃元在《河北法学》2023年第4期上发表题为《算法决策应用的外部风险及其公共治理路径研究》的文章中指出：
算法决策是利用个人信息对个人的行为习惯、兴趣爱好或者经济、健康、信用状况等，通过计算机程序自动分析、评估并进行决策的活动。算法决策由三个基本因素组成：训练系统的基础数据、运算逻辑以及人类与之交互的方式。根据应用风险的形成条件、危害后果和归责机制的不同，突破传统部门法的界限，算法决策应用的风险可分为内部风险和外部风险。算法决策应用的外部风险是指侧重算法行为端的，在技术运用过程中向多数不特定群体扩散的，无法适用传统归责原则的具有聚合性和累积性的风险，将其类型化后包括社会公共利益和实质正义受损、人的主体性地位和合法权益受挑战两个方面。
为了有效促进算法技术和监管的良性互动，以公共治理路径为视角，将算法决策嵌入网络社会架构中分析当下治理的局限性，并提出较完善的治理方案。在思路上，需要遵循分类分级的精准化治理方法，选择“软”“硬”法为协同治理工具，坚持安全和发展并重的治理理念。以分级分类为规制方向可以精细衡量算法监管的经济后果，有效平衡安全与发展的问题。单独依靠以国家为中心、强调命令和控制的“硬法”模式无法有效地应对算法嵌入式风险。并且当立法决策缺乏可参考点，立法活动带来的预期法律成本过高时，应当以标准作为更有效率的规制方式。以算法技术标准为代表的“软法”治理有助于在技术开发阶段、事后追责阶段建立完整的可通约性路径规划。随着我国移动互联基础设施的大力建设，算法决策技术的应用场景和频次不断拓宽加深。算法决策是加速海量的用户数据开发利用的技术保障，给数字经济高质量发展注入强大动能。是故，在外部风险的治理过程中，始终应坚持利益平衡原则，平衡安全与发展的辩证关系。在路径上，应着眼于算法决策应用的生命全周期，用算法解释机制解决算法备案制失灵的问题，以风险比例确立算法决策系统的分类与规制方向，并以平台为主体多途径构建算法综合性问责体系，形成治理合力。
算法决策的外部风险治理是一项复杂而长期的工程，需要在算法安全与技术创新、部门监管与行业自律等多重利益衡量之下，逐步建立监管治理机制健全、算法生态规范的算法综合治理格局。我国应在挖掘域外先进经验基础上，构建符合中国特色的算法治理体系，在世界数字化转型进程中贡献中国智慧。
|
孙跃元谈算法决策外部风险的公共治理思路——
|
| 需要遵循分类分级的精准化治理方法
|
|
|
|
|
|
| （ 2023-08-30 ） 稿件来源： 法治日报法学院 |
|
|
中国政法大学民商经济法学院孙跃元在《河北法学》2023年第4期上发表题为《算法决策应用的外部风险及其公共治理路径研究》的文章中指出：
算法决策是利用个人信息对个人的行为习惯、兴趣爱好或者经济、健康、信用状况等，通过计算机程序自动分析、评估并进行决策的活动。算法决策由三个基本因素组成：训练系统的基础数据、运算逻辑以及人类与之交互的方式。根据应用风险的形成条件、危害后果和归责机制的不同，突破传统部门法的界限，算法决策应用的风险可分为内部风险和外部风险。算法决策应用的外部风险是指侧重算法行为端的，在技术运用过程中向多数不特定群体扩散的，无法适用传统归责原则的具有聚合性和累积性的风险，将其类型化后包括社会公共利益和实质正义受损、人的主体性地位和合法权益受挑战两个方面。
为了有效促进算法技术和监管的良性互动，以公共治理路径为视角，将算法决策嵌入网络社会架构中分析当下治理的局限性，并提出较完善的治理方案。在思路上，需要遵循分类分级的精准化治理方法，选择“软”“硬”法为协同治理工具，坚持安全和发展并重的治理理念。以分级分类为规制方向可以精细衡量算法监管的经济后果，有效平衡安全与发展的问题。单独依靠以国家为中心、强调命令和控制的“硬法”模式无法有效地应对算法嵌入式风险。并且当立法决策缺乏可参考点，立法活动带来的预期法律成本过高时，应当以标准作为更有效率的规制方式。以算法技术标准为代表的“软法”治理有助于在技术开发阶段、事后追责阶段建立完整的可通约性路径规划。随着我国移动互联基础设施的大力建设，算法决策技术的应用场景和频次不断拓宽加深。算法决策是加速海量的用户数据开发利用的技术保障，给数字经济高质量发展注入强大动能。是故，在外部风险的治理过程中，始终应坚持利益平衡原则，平衡安全与发展的辩证关系。在路径上，应着眼于算法决策应用的生命全周期，用算法解释机制解决算法备案制失灵的问题，以风险比例确立算法决策系统的分类与规制方向，并以平台为主体多途径构建算法综合性问责体系，形成治理合力。
算法决策的外部风险治理是一项复杂而长期的工程，需要在算法安全与技术创新、部门监管与行业自律等多重利益衡量之下，逐步建立监管治理机制健全、算法生态规范的算法综合治理格局。我国应在挖掘域外先进经验基础上，构建符合中国特色的算法治理体系，在世界数字化转型进程中贡献中国智慧。
|
|
|
