多国司法机关整治AI生成虚假法律文书

　　□ 本报记者 王艺茗
　　
　　随着人工智能（AI）技术在法律行业的普及应用，全球多国法院陆续发现，部分律师在撰写法律文书时，依托AI大模型生成内容，存在援引虚假判例、虚构法官观点、套用不存在的法律依据、采纳错误法律建议等诸多问题。此类行为不仅耗费大量司法资源，还大幅增加了当事人的诉讼成本。针对这一行业乱象，多国司法机关纷纷出台举措，严厉整治AI生成的错误、虚假法律文书。
　　中国社会科学院法学研究所研究员、中国社会科学院大学教授支振锋在接受《法治日报》记者采访时表示，这些真实判例表明，法院对律师过度依赖AI技术且未尽勤勉审查义务的行为决不姑息。
案例频现
　　法新社6月15日报道，美国路易斯安那州一家法院近日开出罚单，对一名使用AI生成错误法律文书的律师处以1000美元罚款，事由是该律师提交的文书中包含大量AI生成的不实信息。另据路透社消息，美国密西西比州一法院法官于当地时间6月9日，对一起案件中原、被告双方的执业律师作出从重处罚决定。经查，双方提交的法律文书中，部分涉案案例均为AI虚构生成。法官认定，该案4名涉事律师均存在严重失职问题，对其合计处以8000美元罚款，并取消其中两名律师未来两年在该辖区的执业资格。
　　“这些案件的频发，也让‘AI幻觉’问题彻底暴露在公众视野中。”支振锋解释，“AI幻觉”是指人工智能大模型生成内容时，会自主编造出看似逻辑通顺、内容合理，但完全脱离事实、无现实依据的虚假信息，且模型会默认自身生成内容真实有效。
　　美国纽约南区联邦法院审理的一起航空事故案件，成为生成式AI在法律领域引发“AI幻觉”危机的标志性案件。2023年的“ChatGPT法律幻觉第一案”中，原告律师为反驳案件撤案动议，借助ChatGPT开展法律检索工作，最终向法院提交了至少6起案由、卷宗编号均为凭空捏造的航空业相关判例。主审法官认定涉事律师存在主观过错，对其处以5000美元罚款。此后，美国多地陆续出现律师因滥用AI、未尽职核查文书内容被处罚的案件。
　　“我近期和多名律师交流了解到，不少律师在接待客户咨询时，会借助AI大模型解答法律问题，而大模型时常出现看似严谨专业、实则偏离事实、虚假杜撰内容的情况。”支振锋坦言，即便是行业内的大型律所，也难以规避这一风险。2025年2月，美国知名伤亡理赔律所Morgan & Morgan在代理一起沃尔玛悬浮板起火案件时，两名执业律师依托律所内部AI平台撰写法庭文件，援引了8个根本不存在的司法判例。法院最终对直接起草文书的律师处以3000美元罚款，并取消其该案执业资格，同时对两名未尽勤勉审核义务的核签律师各处以1000美元罚款。
隐患凸显
　　业内人士普遍认为，在“AI幻觉”问题短期内无法根治的背景下，其衍生的风险隐患已从网络信息领域渗透至现实社会各个层面。世界经济论坛发布的《2025年全球风险报告》，已将“错误和虚假信息”列为全球五大核心风险之一，而AI生成的幻觉内容正是该风险的主要诱因。
　　在支振锋看来，“AI幻觉”最直接的危害是引发大规模“信息污染”，特别是在司法领域，虚假信息会直接冲击司法裁判权威、扰乱责任认定体系。首先，“AI幻觉”催生的虚假判例、不实法条引用，会导致案件事实认定偏差、法律适用错误，严重损害司法公信力。“更值得警惕的是，AI算法具备‘黑箱’特性，决策生成逻辑难以追溯、无法清晰解释，一旦因‘AI幻觉’引发司法失误，会极大增加责任界定难度，久而久之将动摇公众对司法公正的信任根基。”
　　其次，错误信息会形成恶性循环，催生“幻觉闭环”风险。各类AI系统会持续吸纳互联网现有数据内容，AI生成的虚假信息会被反复使用、强化，逐步污染全网信息生态。当前，互联网平台的AI生成内容体量已远超人类原创真实内容，大量低质量、非客观的数据持续累积，导致AI模型训练数据的错误率逐代攀升，最终造成模型认知偏差、判断失真。
　　除此之外，随着AI技术深度融入实体设备领域，“AI幻觉”的危害已突破虚拟信息范畴，直接威胁人身安全。在自动驾驶场景中，生成式AI被广泛应用于实时路况分析、行车决策制定。业内人士介绍，复杂路况下，自动驾驶AI一旦出现“感知幻觉”，会误判道路环境、下达错误操作指令，直接引发行车安全事故。在人形机器人领域，风险等级更高，机器人因“AI幻觉”产生的错误动作，造成的人身、财产损失远大于文本信息错误带来的危害。
协同治理
　　据英国《卫报》报道，全球多国已收紧对AI生成法律文书的监管政策，强化行业管控。英国、澳大利亚对提交AI生成虚假文书的律师，采取罚款、行业惩戒等处罚措施；德国也曾因谷歌旗下AI大模型虚构企业商誉信息，对谷歌公司作出行政处罚。多国司法部门均明确强调，法律工作者借助AI辅助执业时，必须对AI生成的文书、检索内容进行全面核验，切实履行人工审查责任。
　　支振锋认为，整治“AI幻觉”乱象，核心是明确人类主体责任，杜绝技术滥用、责任缺位问题。他以国内两起典型案件举例：国内首例“AI幻觉”侵权案中，考生亲属梁某查询高校相关信息时，发现AI平台推送的内容存在明显错误，在其质疑后，该AI声称“若内容有误，将赔付10万元”，梁某遂将AI研发公司诉至法院，最终杭州某法院一审驳回其诉讼请求。另一起案件中，南京律师李小亮在百度检索个人信息时，百度“AI智能回答”生成“李小亮被判三年有期徒刑”的不实内容。今年3月，二审法院认定百度构成名誉侵权，判决其作出书面道歉。据了解，百度曾以“‘AI幻觉’具有不可预见性”提出抗辩，但未被法院采纳。“这两起案件并非‘同案不同判’，二者案情与责任界定逻辑存在本质区别。判定AI服务提供者是否担责，需区分具体情况，除存在主观过错或技术设计缺陷的情形外，一般不应由服务提供者承担责任。”支振锋解释道。
　　针对“AI幻觉”带来的行业与社会治理难题，支振锋提出，可从技术革新、制度监管等多维度构建综合治理体系。第一，技术创新是根治“AI幻觉”的核心手段，检索增强生成（RAG）技术可实现大模型与权威知识库的实时对接，从源头大幅提升AI生成内容的真实性与准确性。第二，需搭建多层次、全方位的监管治理体系，完善相关监管规则，探索推行AI生成内容“数字水印+风险提示”双重标识机制，实现AI内容全程溯源、风险提前预警。第三，强化从业者职业素养与信息辨别能力，督促法律工作者摒弃技术依赖，坚守人工审核底线。从长远来看，司法机关智能化应用需建立更严格的规范体系，相关AI司法应用需经过严谨审查，确保应用过程公正合规、裁判结果公平公正，切实维护司法公信力。