|
法学院
|
|
上海交通大学凯原法学院李学尧在《政治与法律》2025年第5期上发表题为《大语言模型应用中的司法偏误与认知干预》的文章中指出：
生成式人工智能的快速发展，正在深刻改变司法领域的技术生态。近年来，生成式人工智能的能力逐渐扩展到法律推理与裁判文书自动生成的深层环节。这种技术进步给司法实践带来了显著的效率提升，却不可避免地引发了关于公正性、可信度以及如何安全监管的广泛争议。
近期的相关实验研究和司法实践表明，单纯依赖简单的人机协作，难以有效遏制法官在自我确认偏误与大语言模型“强化输出”之间的共振效应。传统的人工审核模式不仅不足以抵消人工智能带来的认知失衡，而且可能进一步加剧司法偏误。为避免大语言模型在司法实践中沦为单向度的技术支配，应把从确立争点到最终公开说理的全过程均纳入对人机交互的认知审慎设计，在挖掘传统法学方法论中关于多元价值论证的基础上，可结合认知科学的防偏误机制，提出“认知协同决策模型（六步法）”。第一步，确立争点与初步分析（主动与AI对比）；第二步，检索法律规范与既有案例（双向验证）；第三步，事实与技术复杂性识别（逆向思维训练）；第四步，初步裁判与AI生成理由（避免“一锤定音”）；第五步，价值审查与论证完善（重塑“写理由”的反思功能）；第六步，公开说理与判决落脚（透明化人机交互）。该模型不仅是一种方法论方案，而且具备明确的工作流属性。其通过阶段性流程设计、任务递进逻辑、操作控制机制与认知反馈机制，实质上体现了流程治理中常见的节点管理与功能分配逻辑。通过在确立争点、规范检索、事实认定、裁判形成、价值审查与最终公开说理的全流程中引入对立论证、逆向思维、强制反驳清单等操作环节，帮助法官保持深度审查与反思能力，抵消大语言模型单一输出的强化效应。案例模拟表明，这一模型在提升信息搜索效率的同时，能够强化裁判对社会多元价值的考量，确保法官主体地位与裁判公正性。
认知协同决策方法的目标是为技术驱动时代重塑法官主体性地位与司法正当性边界提供理论依据和实践路径，并在“坚持法官主体地位不变”的共识下，为未来在不同司法领域推广人机协同决策机制努力提供有效智识启示。
（赵珊珊 整理）
|
| 李学尧谈认知协同决策模型——
|
| 能够强化裁判对社会多元价值的考量
|
|
|
|
|
|
| （ 2025-06-11 ） 稿件来源： 法治日报法学院 |
|
|
上海交通大学凯原法学院李学尧在《政治与法律》2025年第5期上发表题为《大语言模型应用中的司法偏误与认知干预》的文章中指出：
生成式人工智能的快速发展，正在深刻改变司法领域的技术生态。近年来，生成式人工智能的能力逐渐扩展到法律推理与裁判文书自动生成的深层环节。这种技术进步给司法实践带来了显著的效率提升，却不可避免地引发了关于公正性、可信度以及如何安全监管的广泛争议。
近期的相关实验研究和司法实践表明，单纯依赖简单的人机协作，难以有效遏制法官在自我确认偏误与大语言模型“强化输出”之间的共振效应。传统的人工审核模式不仅不足以抵消人工智能带来的认知失衡，而且可能进一步加剧司法偏误。为避免大语言模型在司法实践中沦为单向度的技术支配，应把从确立争点到最终公开说理的全过程均纳入对人机交互的认知审慎设计，在挖掘传统法学方法论中关于多元价值论证的基础上，可结合认知科学的防偏误机制，提出“认知协同决策模型（六步法）”。第一步，确立争点与初步分析（主动与AI对比）；第二步，检索法律规范与既有案例（双向验证）；第三步，事实与技术复杂性识别（逆向思维训练）；第四步，初步裁判与AI生成理由（避免“一锤定音”）；第五步，价值审查与论证完善（重塑“写理由”的反思功能）；第六步，公开说理与判决落脚（透明化人机交互）。该模型不仅是一种方法论方案，而且具备明确的工作流属性。其通过阶段性流程设计、任务递进逻辑、操作控制机制与认知反馈机制，实质上体现了流程治理中常见的节点管理与功能分配逻辑。通过在确立争点、规范检索、事实认定、裁判形成、价值审查与最终公开说理的全流程中引入对立论证、逆向思维、强制反驳清单等操作环节，帮助法官保持深度审查与反思能力，抵消大语言模型单一输出的强化效应。案例模拟表明，这一模型在提升信息搜索效率的同时，能够强化裁判对社会多元价值的考量，确保法官主体地位与裁判公正性。
认知协同决策方法的目标是为技术驱动时代重塑法官主体性地位与司法正当性边界提供理论依据和实践路径，并在“坚持法官主体地位不变”的共识下，为未来在不同司法领域推广人机协同决策机制努力提供有效智识启示。
（赵珊珊 整理）
|
|
|
