人工智能纠纷的司法回应:
实体规则与程序机制协同发力


  □ 姚志伟 (广东财经大学法学院教授、人工智能法研究中心主任)

  2026年7月17日,国家主席习近平在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上的主旨讲话指出,“各国应当秉持以人为本、向上向善理念,让人工智能成为促进共同繁荣、维护共同安全的一个重要动力源,携手构建公正合理的全球人工智能治理体系”。将上述治理理念落到实处,离不开完善的裁判规则支撑。在此背景下,《最高人民法院关于依法审理涉人工智能纠纷案件的意见》(以下简称《意见》)的发布具有重要意义。据现有公开资料,《意见》是首部由国家最高审判机构发布、系统规定人工智能纠纷实体裁判规则和诉讼程序规则的文件。在技术快速迭代、现行法律面临深刻挑战的背景下,中国司法率先作出了体系化的应对方案。
  明晰数据使用规则,合理设定模型训练边界
  人工智能模型训练需要使用海量数据,其中可能包含个人信息和受著作权保护的作品。这两类材料能否用于训练、是否需要取得许可,适用的法律依据并不相同。《意见》对此作了区别处理。
  在个人信息方面,取得个人同意并非处理个人信息的唯一合法性基础。个人信息保护法明确在合理的范围内可处理个人自行公开或者其他已经合法公开的个人信息。《意见》第六条将这一规则具体适用于人工智能模型训练,明确在合理范围内处理上述信息,且个人未明确拒绝的,一般不认定为侵害个人信息权益;对个人权益有重大影响的,应当依法取得个人同意。允许利用公开信息,并不意味着只要能够从网络上获取,就可以不受限制地用于训练。《意见》进一步将个人信息的目的与模型功能的必要性和适当性,所涉个人信息的类型、敏感程度及对个人权益的潜在影响,个人公开信息时的场景及可合理预期的使用范围等因素,纳入对使用是否属于“合理范围”的判断。这是对个人信息保护法规定的“合理的范围”在人工智能模型训练场景下认定的细化,为各级人民法院处理相关纠纷提供了更为具体的判断标准。
  就人工智能模型训练使用作品是否应纳入著作权法上的合理使用制度之中,仍存在较大争议。《意见》对此作了留白处理,未作统一规定。这一安排是审慎的,相关规则既关系著作权人的利益,也关系人工智能产业的健康发展,在尚未形成较为充分共识的情况下,有必要通过具体案件进一步积累经验,待条件成熟后再予明确。
  坚持过错责任原则,合理划定侵权责任边界
  归责原则决定责任成立的基本条件。《意见》第三条明确,法律没有明确规定适用无过错责任或者过错推定责任的,应当依照民法典第一千一百六十五条第一款规定的过错责任原则认定行为人是否承担侵权责任。
  人工智能并非单一技术,自动驾驶汽车等通过物理实体作用于现实世界,生成式人工智能则主要通过输出信息产生影响,两者不能适用完全相同的归责模式。因此,《意见》将以实物为载体的人工智能和自动驾驶、辅助驾驶汽车(前提是因车辆存在产品缺陷)产生的侵权责任规定为产品责任,对生成式人工智能侵害人格权益、知识产权等情形则以过错责任为基本出发点。《意见》的规定具有合理性:一方面,生成式人工智能的功能是输出信息,通常不会对身体、健康或者生命造成严重威胁,不需要被科以严格责任。同时,我国《生成式人工智能服务管理暂行办法》将生成式人工智能定性为一种服务而非产品。作为服务,通常情况下并不能适用产品责任;另一方面,以实物为载体的人工智能和自动驾驶、辅助驾驶汽车,其运行将直接影响人的身体健康和生命安全,适用产品责任是合理的。
  坚持过错责任绝不意味着降低注意义务。《意见》第三条将人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险、防范措施的技术可能性以及使用者的预见能力和控制能力列为判断因素。高风险应用(例如使用于医疗、金融)服务提供者的注意义务应高于一般娱乐性应用。过错的判断不能采用结果主义,需要考虑现有技术水平,相关主体(开发者、服务提供者)已经采用了现有技术水平下合理的必要措施防止侵权的,应视为已尽注意义务,不具有过错。
  引入通知规则,构建生成式人工智能避风港机制
  《意见》第七条通知规则引入生成式人工智能服务:生成式人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益,经权利人通知,服务提供者未及时采取停止生成侵权内容等必要措施的,应当对造成的损害依法承担侵权责任。网络用户以侵权提示词等方式恶意诱导生成式人工智能生成侵权内容,服务提供者接到通知后未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施,权利人可以依据民法典第一千一百九十五条的规定请求该网络用户、服务提供者承担民事责任。
  生成式人工智能侵权与传统网络侵权并不完全相同。民法典第一千一百九十五条规定了通知规则,主要用于处理第三方内容侵权场景下网络服务提供者的责任边界,其直接适用的前提是存在以网络用户公开发布侵权内容为核心的三方结构,即网络用户作为发布者将内容上传、发布或分享至平台,平台提供存储、展示、检索、下载或分享等功能,公众可以获取相关内容。
  就人工智能侵权而言,可以分为生成和传播两个场景。生成侵权内容后传播,仍然处于传统网络侵权的范畴。但是生成侵权环节有所不同。生成环节并没有网络用户将侵权内容进行传播(发布)的情节。相反,生成环节是私密的,这使得权利人难以在外部观察到侵权行为,并将承载内容的网址作为通知发送给服务提供者要求进行删除。同时,在生成侵权中,侵权的内容往往由服务提供者直接提供,不存在作为直接侵权的网络用户。这意味着传统网络侵权规则可以直接适用于侵权内容的传播环节而不能直接适用于生成环节。
  但两个场景具有共同的制度基础。生成式人工智能服务提供者如同网络平台,面对海量的内容,不能在每次输出前完成全面审查;同时,其掌握模型运行和内容控制能力,又比权利人更便于阻止损害。由权利人提供侵权初步证据和真实身份信息,服务提供者收到合格通知后采取措施,既可以避免普遍的事前审查义务,又使权利人能够及时获得救济。
  《意见》实质上是对生成式人工智能侵权参照适用通知规则,兼顾生成侵权和传播侵权两个环节。在通知方面,由于生成的私密性,权利人往往难以从公开渠道获得定位侵权内容的网络链接或者网络账号。因此,在判断通知是否合格时,不再要求权利人必须提供能够定位侵权内容的网络地址等信息。在必要措施方面,《意见》将“停止生成侵权内容、屏蔽相关生成指令”作为更适配生成式人工智能场景的必要措施。其中,“屏蔽相关生成指令”是用户输入提示词层面的过滤,即在提示词违法或可能引发侵权时拒绝输出侵权内容。在责任承担方面,在人工智能自动生成侵权内容的情况下,由于不存在作为直接侵权人的网络用户(使用者),因此《意见》规定由服务提供者承担侵权责任,这是一个单独责任,而非连带责任。
  完善程序规则,保障裁判规则落地
  人工智能纠纷案件的突出困难是证据偏在。训练数据、模型运行记录和生成日志往往掌握在提供者一方。《意见》第十七条明确了人民法院调查收集、证据保全、证明妨碍和专业辅助机制。控制书证、电子数据等证据的当事人无正当理由拒不提交,对方当事人主张该证据的内容不利于控制人的,人民法院可以认定该主张成立,这是以证明妨碍规则纠正证据控制能力的失衡。同时,第十七条还针对涉人工智能纠纷案件技术性、专业性强的特点,规定人民法院应当依法充分发挥人民陪审员、鉴定人、专家辅助人以及技术调查官的作用,辅助查明案件事实。
  《意见》要求差异化审查技术证据。对大数据分析报告类证据,应当重点审查其原始数据的来源、清洗规则及分析方法的科学性等;对区块链存证类证据,应当重点审查其上链前数据的真实性及平台的可靠性等;将人工智能生成内容作为侵权证据时,应当综合考量提示词的设计及重复测试的一致性等因素;对使用人工智能取得虚假证据,捏造民事案件基本事实,进行虚假诉讼的,依法驳回其诉讼请求并进行制裁;对人工智能辅助生成的诉讼文书、案例检索报告等材料,则要求在提交法庭前应当认真核实相关法律、司法解释、案例等内容的真实性、准确性,在提交法庭时对使用人工智能辅助情况作出说明。

本网站所有内容属《法治日报》所有,未经许可不得转载。