|
法学院
|
|
中国人民公安大学法学院苏宇在《东方法学》2024年第1期上发表题为《算法解释制度的体系化构建》的文章中指出：
算法解释在算法治理研究及法律实践中正逐渐成为最引人注目的主题之一。“算法解释”是一个内涵特定的专业术语，其中的“解释”是指人类与（机器）决策者之间的一个交互面，同时满足既是决策者的精确代理，又能为人类所理解，这就使算法解释不同于算法披露、算法公开或算法透明等概念。本质上，算法解释致力于提供一种中介机制，致力于以人类思维能理解的方式，揭示何种输入变量或变量的组合会在何种程度上影响到输出的结果。用户、相对人或社会公众渴望理解算法系统为何如此决策，理解不同因素通过何种过程、以何种程度影响到系统的判断和决定，进而了解是否可能存在歧视、偏见等伦理或法律风险。算法解释以“黑箱型”算法的存在和应用为前提。并非所有算法都是“黑箱型”的算法，也并非所有算法模型都需要解释。
算法解释的法理意义可以被概括为权益保障意义、社会交往意义和风险治理意义，每一种意义都有助于使人工智能算法回归人类可理解、可交流、可控制的范围，使算法治理能够彻底穿透技术上的“黑箱”而落到实处。算法解释的三重意义使其在算法治理中占据不可替代的基础性地位。然而，法律人关心的是算法解释如何能够被建构为一种预期明确、行之有效的制度，使之嵌入一定法律关系框架中，确保其权益保障、社会交往及风险治理意义得到稳定、充分实现。制度是人类设计出来的、用以形塑人们相互交往的一系列约束，界定并限制了人们的选择集合，能减少社会生活的不确定性。
在算法治理活动中，应根据常规场景、关键场景和争议场景分别限定选择解释的路径选择和技术方案，通过冻结机制、抽样机制和镜像机制固定算法解释，并使之接受外部的验证与审查，确保算法解释真实、有效。算法解释的路径选择、固定、验证与审查等机制的建立，不仅有助于实现算法解释的三重意义，还可以使算法解释成为算法治理的枢纽，构建体系化的算法解释制度，有力支撑算法备案审查、算法影响评估、算法审计、算法问责等其他算法治理制度的运行。
算法解释制度以算法解释的技术原理为基础，通过算法解释权和算法解释义务嵌入法律关系之中，将既有法律规范中的算法可解释性和透明度要求整合为算法模型设计和运行的标准，使之通过算法解释义务的适当履行而得以实现。对解释路径与精度、解释时限、解释瑕疵责任等要素的合理配置，可以实现社会效益与规制负担的精细平衡。
|
苏宇谈算法解释制度——
|
| 以算法解释的技术原理为基础
|
|
|
|
|
|
| （ 2024-02-28 ） 稿件来源： 法治日报法学院 |
|
|
中国人民公安大学法学院苏宇在《东方法学》2024年第1期上发表题为《算法解释制度的体系化构建》的文章中指出：
算法解释在算法治理研究及法律实践中正逐渐成为最引人注目的主题之一。“算法解释”是一个内涵特定的专业术语，其中的“解释”是指人类与（机器）决策者之间的一个交互面，同时满足既是决策者的精确代理，又能为人类所理解，这就使算法解释不同于算法披露、算法公开或算法透明等概念。本质上，算法解释致力于提供一种中介机制，致力于以人类思维能理解的方式，揭示何种输入变量或变量的组合会在何种程度上影响到输出的结果。用户、相对人或社会公众渴望理解算法系统为何如此决策，理解不同因素通过何种过程、以何种程度影响到系统的判断和决定，进而了解是否可能存在歧视、偏见等伦理或法律风险。算法解释以“黑箱型”算法的存在和应用为前提。并非所有算法都是“黑箱型”的算法，也并非所有算法模型都需要解释。
算法解释的法理意义可以被概括为权益保障意义、社会交往意义和风险治理意义，每一种意义都有助于使人工智能算法回归人类可理解、可交流、可控制的范围，使算法治理能够彻底穿透技术上的“黑箱”而落到实处。算法解释的三重意义使其在算法治理中占据不可替代的基础性地位。然而，法律人关心的是算法解释如何能够被建构为一种预期明确、行之有效的制度，使之嵌入一定法律关系框架中，确保其权益保障、社会交往及风险治理意义得到稳定、充分实现。制度是人类设计出来的、用以形塑人们相互交往的一系列约束，界定并限制了人们的选择集合，能减少社会生活的不确定性。
在算法治理活动中，应根据常规场景、关键场景和争议场景分别限定选择解释的路径选择和技术方案，通过冻结机制、抽样机制和镜像机制固定算法解释，并使之接受外部的验证与审查，确保算法解释真实、有效。算法解释的路径选择、固定、验证与审查等机制的建立，不仅有助于实现算法解释的三重意义，还可以使算法解释成为算法治理的枢纽，构建体系化的算法解释制度，有力支撑算法备案审查、算法影响评估、算法审计、算法问责等其他算法治理制度的运行。
算法解释制度以算法解释的技术原理为基础，通过算法解释权和算法解释义务嵌入法律关系之中，将既有法律规范中的算法可解释性和透明度要求整合为算法模型设计和运行的标准，使之通过算法解释义务的适当履行而得以实现。对解释路径与精度、解释时限、解释瑕疵责任等要素的合理配置，可以实现社会效益与规制负担的精细平衡。
|
|
|
