在发展与安全之间把握人工智能司法裁判尺度

  □ 江必新 (第十三届全国人民代表大会宪法和法律委员会副主任委员)

  人工智能技术加速迭代,深度融入经济社会各领域,在催生新产业、新模式、新动能的同时,也引发一系列新型权益冲突与法律纠纷,给传统司法裁判体系带来现实挑战。2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(以下简称《意见》)。《意见》立足我国数字司法实践,以习近平法治思想为根本遵循,统筹权利保障、风险防控与科技创新,为人民法院审理涉人工智能纠纷案件划定裁判标尺,为人工智能产业健康发展筑牢法治防线,是数字法治建设领域一份重要的司法规范。准确把握《意见》蕴含的核心要义与精神实质,对于统一裁判尺度、防范技术滥用、护航新质生产力发展具有十分重要的理论价值与实践意义。
价值立场:坚守人本底色,统筹创新发展与安全底线
  技术是服务人的工具,人的主体性是人工智能治理不可动摇的根本。《意见》通篇贯穿坚持以人为本、支持创新发展、筑牢安全底线三重价值取向,直面“人工智能为谁创新、怎样创新”这一根本性命题,努力实现权益保护、风险防控、产业创新三者之间的动态平衡。
  一方面,把人格权益保护摆在突出位置,筑牢数字时代人格尊严的法治屏障。生成式人工智能普及应用之后,“AI换脸”、仿声合成、深度伪造、算法歧视等问题多发易发,自然人肖像、声音、隐私、名誉等人格权益面临全新风险。《意见》直面社会关切,明确对未经许可利用AI生成、传播自然人虚拟形象、合成人声等行为作出侵权否定评价,对算法歧视、“大数据杀熟”等侵害消费者权益的行为予以规制。清晰地传递出鲜明导向:技术创新绝不能以牺牲人的基本权利为代价,任何人工智能应用都必须恪守人格尊严这一不可逾越的法治底线。
  另一方面,坚持发展和安全并重,摒弃两种片面司法倾向。面对人工智能纠纷,司法实践容易陷入两种误区:一是过度严苛,对技术探索过程中的合理风险一概追责,挫伤产业创新积极性;二是迷信“技术中立”,把算法、模型作为免责借口,放任技术滥用损害社会公共利益。《意见》坚持辩证思维,做到该保护的权利坚决保护、该包容的创新适度包容、该规制的风险严格规制。人工智能产业既要加速向前、奋力开拓,更要行稳致远,这正是《意见》贯穿始终的底层逻辑。
  需要看到,《意见》并非脱离现行法律另起炉灶,而是立足于民法典、著作权法、民事诉讼法等现有法律框架,把既有法律规则向人工智能新场景进行解释延伸与细化落地,用司法裁判弥合成文法律与技术现实之间的缝隙,体现出立足本土法治体系回应新技术挑战的治理思路。
实体裁判:分层定责,厘清多元主体的责任边界
  责任认定是涉人工智能纠纷案件审理最大的实践难点。人工智能产业链条长,涵盖模型训练主体、大模型服务提供者、开源参与者、终端使用者等多方主体,叠加“AI幻觉”等技术固有局限,极易出现责任模糊、归责失据的困境。《意见》摒弃“一刀切”归责模式,构建分层分类的责任规则体系,为司法办案提供清晰指引。
  第一,锚定过错责任的基础适用规则。《意见》明确,在法律没有明确规定适用无过错责任或者过错推定责任的情形下,涉人工智能侵权纠纷适用过错责任原则。这守住了侵权责任制度的基本逻辑:不能仅因为使用人工智能技术,就直接推定主体当然承担法律责任;是否担责,核心判断标准在于相关主体有无过错、是否履行与其能力相匹配的注意义务。这一规则既防止无限扩大责任范围,挫伤技术创新主体积极性,也杜绝以技术客观缺陷为理由,免除相关主体本应承担的法律义务。
  第二,合理界定生成式人工智能服务提供者的义务与责任。针对争议突出的AI生成内容侵权问题,《意见》区分不同应用场景,科学划定服务提供者义务边界。既反对将大模型提供者当作“无限责任主体”,要求其对模型全部输出内容无条件兜底;也反对以算法黑箱、模型不可控为由完全免除平台责任。围绕模型训练、内容输出、风险防控设置梯度化注意义务,合理参照适用“通知—移除”规则,督促平台健全风险防控机制,同时为产业技术迭代预留制度空间。
  第三,厘清使用者责任,破除“技术中立”的抗辩误区。人工智能终究是人类使用的工具,技术本身不承担法律责任,但使用技术的行为人不能免责。司法实践中,有些当事人试图以“AI幻觉”、算法自动生成作为抗辩事由,逃避自身法律责任。《意见》对此予以回应:当事人利用人工智能伪造证据、提起虚假诉讼,不能拿技术缺陷当作自身过错的挡箭牌;当事人使用AI生成诉讼文书、交易材料,自身负有甄别核实义务,未尽审慎义务造成他人损害的,应当自行承担相应法律后果。这一规定重申人的主体地位,划清工具局限与行为人过错之间的法律界限。
  第四,兼顾开源生态保护与风险防控。开源创新是我国人工智能产业发展的重要基础,开源链条参与者主体多元、成分复杂。《意见》区分开源提供者、开发者、使用者的不同角色,既保护开源协作的创新活力,又明确风险提示、瑕疵告知等义务,防范开源衍生风险,实现鼓励开源发展与防控法律风险两者兼顾。
  与此同时,《意见》还对训练数据合规、AI生成内容知识产权保护、智能系统损害赔偿等前沿热点问题确立裁判导向,基本覆盖当前司法实践主要案件类型。
程序配套:立足技术特质,完善新型案件诉讼机制
  涉人工智能纠纷技术性强,证据大多掌握在技术服务方手中,技术事实查明难度大,仅依靠实体规则难以实现公正裁判。《意见》兼顾实体与程序,完善配套诉讼机制,破解技术带来的程序难题。
  其一,合理调整举证负担,追求实质公平。考虑算法运行、模型训练等核心证据大多由技术平台掌握,普通当事人取证存在现实障碍。《意见》区分案件具体情形,对举证分配作出合理调整,避免出现受害者举证不能,平衡双方举证能力差距,实现程序层面的实质正义。
  其二,优化技术事实查明路径。审理此类案件需要对模型训练逻辑、算法运行机制、技术风险开展专业判断。《意见》强调用好技术调查官、专家辅助人制度,借助专业力量破解技术事实认定难题,帮助法官拨开技术迷雾,防止因专业壁垒带来裁判偏差。
  其三,严厉规制诉讼活动中的人工智能滥用。针对实践中出现利用AI伪造证据、虚构事实、炮制虚假诉讼等行为,《意见》明确惩戒路径,为滥用人工智能妨害司法秩序划出红线,维护诉讼诚信,守护司法权威。
司法适用应当把握好四项实践导向
  制度的生命力在于实施。把《意见》落到实处,人民法院审理案件应当把握好四项实践导向。
  第一,坚持法理情相统一,追求法律效果与社会效果有机统一。审理涉人工智能纠纷案件既要尊重法律条文本义,也要洞悉技术运行机理,兼顾产业发展现实,考量个案裁判带来的行业示范效应。个案裁判不仅要化解当事人之间的矛盾,更要发挥司法对行业的规范指引价值,既要救济受害主体合法权益,又要避免裁判尺度不当抑制技术创新。
  第二,分清技术固有局限与主体过错,把握司法容错边界。现阶段,生成式人工智能尚未完全消除“AI幻觉”等技术固有缺陷。只有在服务提供者已经尽到合理注意义务,落实风险防控与风险提示义务的前提下,才能对技术固有局限带来的风险予以适度宽容;如果主体怠于履行风险防控义务,则不得以技术缺陷为由减轻或者免除责任。
  第三,树立系统治理思维,推动司法裁判与行业治理协同发力。司法是化解纠纷的最后一道防线,但并非人工智能治理的全部。通过个案裁判树立行为规则,倒逼市场主体完善内部合规体系,推动行业健全伦理规范与技术标准。司法机关应当用好司法建议,把案件审理发现的共性风险传导至监管部门、市场主体,构建司法、行政监管、行业自律多元协同治理格局。
  第四,保持开放审慎,动态回应技术迭代。人工智能仍然处在高速演进过程中,新场景、新类型纠纷持续涌现。面对日新月异的技术发展,司法既要坚守法治底线不动摇,也要保持适度开放,持续总结审判经验,动态回应层出不穷的新型法律问题。
  人工智能是发展新质生产力的重要引擎,也对国家治理提出了全新时代命题。《意见》的出台,标志着我国人工智能领域司法治理迈出关键一步。它释放清晰信号:人工智能发展必须运行在法治轨道之上;创新不能逾越权利底线,发展不能放弃安全要求。司法既要当好广大群众数字合法权益的守护者,也要当好新技术向善发展的护航者。通过一个个公正裁判,推动人工智能技术造福人民,为中国式现代化建设注入坚实的数字法治力量。

本网站所有内容属《法治日报》所有,未经许可不得转载。