|
法律服务·解读
|
|
□ 王薇 焦梅
近年来，随着AI技术的高速发展，以ChatGPT、Sora、DeepSeek为代表的具有文本、图片、音频、视频等内容生成能力的生成式人工智能技术不断涌现，但同时也使得“深度伪造”（Deepfake）问题愈发严峻。
据中国裁判文书网数据，2021年至2024年，全国法院共审理涉人工智能纠纷案件1659件。笔者经调研，认为以下三方面问题应予关注：一是“深度伪造”技术门槛进一步降低，易引发多领域内的传播风险。“深度伪造”作为一种智能算法技术，能通过篡改、编造图片及视音频内容，实现伪造信息或扭曲真实信息的效果。同时借助社交媒体平台传播特性，虚假信息传播范围迅速扩散。这使得深度伪造技术的传播风险从对名誉权、隐私权、著作权、肖像权等个人层面的权益侵犯，逐步扩大到更难识别、更大社会危害性的身份伪造、AI换脸、声音合成所引发的各类诈骗，因虚假信息损害政府公信力等问题造成的社会层面的生态污染、因“深度伪造”换脸出现的社会性舆论事件频发。
二是生成式人工智能治理体系有效性不足，行业呈现“多头监管”现状。当前我国尚无针对人工智能的通用性监管法律，而是通过多部法律法规衔接形成了人工智能的监管体系。虽然针对生成式人工智能初步形成了围绕科技伦理、数据安全、算法治理等多维度的治理体系，但仍存在已出台的专门性规定可执行性不强、缺乏对技术应用分级分类的差异化监管、受算法侵害的用户认定、取证困难导致用户权利难以得到充分救济等问题。
三是检测生成内容真伪性尚缺乏有效工具及统一标准。视频伪造是“深度伪造”技术最主要代表，而对AI生成视频进行检测的难度较大。目前对“深度伪造”的检验主要依赖于部分人工智能模型，但仍有诸多不足，实践中难以实现有效甄别。此外，在诉讼过程中，一旦部分用户借助生成视频技术进行“深度伪造”，法院应采用何种方式对视频真伪进行检验，且视频检验工具的检验结果会在多大程度上对涉案主体的认定、责任分配、网络平台责任认定产生影响等，均成为审判工作面临的实际问题。
为防止生成式人工智能技术发展加剧“深度伪造”困局，笔者建议：加快推进人工智能法的制定出台，完善人工智能技术法律体系及伦理风险管理机制，建立健全各监管机构共同参与的算法治理联席会议制度。完善生成式人工智能治理机制，出台配套管控检测工具，规范人工智能生成作品的检测标准，利用技术创新、技术对抗等方式持续提升和迭代检测技术；强化生成式人工智能的多主体协同治理，做到技术治理、社会治理和法律治理的共同推进，保障相关技术发展平稳有序。
（作者单位：北京市延庆区人民法院）
|
|
|
| 防止陷入人工智能造成的“深度伪造”困局
|
|
|
|
|
|
| （ 2025-02-16 ） 稿件来源： 法治日报法律服务·解读 |
|
|
□ 王薇 焦梅
近年来，随着AI技术的高速发展，以ChatGPT、Sora、DeepSeek为代表的具有文本、图片、音频、视频等内容生成能力的生成式人工智能技术不断涌现，但同时也使得“深度伪造”（Deepfake）问题愈发严峻。
据中国裁判文书网数据，2021年至2024年，全国法院共审理涉人工智能纠纷案件1659件。笔者经调研，认为以下三方面问题应予关注：一是“深度伪造”技术门槛进一步降低，易引发多领域内的传播风险。“深度伪造”作为一种智能算法技术，能通过篡改、编造图片及视音频内容，实现伪造信息或扭曲真实信息的效果。同时借助社交媒体平台传播特性，虚假信息传播范围迅速扩散。这使得深度伪造技术的传播风险从对名誉权、隐私权、著作权、肖像权等个人层面的权益侵犯，逐步扩大到更难识别、更大社会危害性的身份伪造、AI换脸、声音合成所引发的各类诈骗，因虚假信息损害政府公信力等问题造成的社会层面的生态污染、因“深度伪造”换脸出现的社会性舆论事件频发。
二是生成式人工智能治理体系有效性不足，行业呈现“多头监管”现状。当前我国尚无针对人工智能的通用性监管法律，而是通过多部法律法规衔接形成了人工智能的监管体系。虽然针对生成式人工智能初步形成了围绕科技伦理、数据安全、算法治理等多维度的治理体系，但仍存在已出台的专门性规定可执行性不强、缺乏对技术应用分级分类的差异化监管、受算法侵害的用户认定、取证困难导致用户权利难以得到充分救济等问题。
三是检测生成内容真伪性尚缺乏有效工具及统一标准。视频伪造是“深度伪造”技术最主要代表，而对AI生成视频进行检测的难度较大。目前对“深度伪造”的检验主要依赖于部分人工智能模型，但仍有诸多不足，实践中难以实现有效甄别。此外，在诉讼过程中，一旦部分用户借助生成视频技术进行“深度伪造”，法院应采用何种方式对视频真伪进行检验，且视频检验工具的检验结果会在多大程度上对涉案主体的认定、责任分配、网络平台责任认定产生影响等，均成为审判工作面临的实际问题。
为防止生成式人工智能技术发展加剧“深度伪造”困局，笔者建议：加快推进人工智能法的制定出台，完善人工智能技术法律体系及伦理风险管理机制，建立健全各监管机构共同参与的算法治理联席会议制度。完善生成式人工智能治理机制，出台配套管控检测工具，规范人工智能生成作品的检测标准，利用技术创新、技术对抗等方式持续提升和迭代检测技术；强化生成式人工智能的多主体协同治理，做到技术治理、社会治理和法律治理的共同推进，保障相关技术发展平稳有序。
（作者单位：北京市延庆区人民法院）
|
|
|
