|
| 人大视窗 |
| 13 |
7/13 |
6
|
7
|
8
|
>
|
>| |
|
|
PDF版 |
 |
|
|
□ 本报记者 蒲晓磊
因为一项“危险技术”，11家互联网企业被约谈。近日，针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用，国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关，依法约谈映客、小米等11家企业。
对于运用深度伪造技术制作出来的产品，使用智能手机的公众或许并不陌生。不久前，短视频领域出现了一款火爆的“蚂蚁呀嘿”。玩家只要上传一张照片，照片上的人就能扭脖子瞪眼睛地唱上一首“蚂蚁呀嘿”。2019年国内红极一时的换脸软件“ZAO”，其基础也是深度伪造技术。
有了PS后，有图也不一定有真相；有了深度伪造，所看所听未必是真相。但与使用PS不同，即使是不具备相应技术的普通人，也能轻松运用深度伪造技术来实现“换脸”。
广东财经大学法学院教授姚志伟3月26日接受《法治日报》记者采访时说，深度伪造技术本身被广泛运用存在较大风险，其风险不仅在于会侵犯公民个人权利，还在于可能导致公共安全方面的危险。如果不对该技术的使用进行规制，将会产生可怕的后果。
中国法学会商法学研究会理事、北京华讯律师事务所主任张韬说，深度伪造技术不仅涉及民法典所保护的人格权、肖像权等法律问题，还涉及个人生物信息的提取、识别、利用以及保护等诸多方面问题。因此，立法机关在制定个人信息保护法、数据安全法等相关法律时，应当针对这类新问题作出相应的制度设计。
低门槛高效率蕴含更大威胁
所谓深度伪造，是指有关软件通过AI“换脸”、语音模拟、视频生成等方式，对既有图像、声音、视频进行篡改、伪造，自动生成音视频产品。
不可否认，深度伪造技术有一定的正向作用。该技术可以辅助科研、教学、艺术创作等，例如，在教育领域，逼真的虚拟教师可以让数字教学更具互动性和趣味性，合成的历史人物讲解视频可以让受众更有代入感。
然而，与深度伪造技术的正面效应相比，其所蕴含的潜在威胁和安全隐患，更加引人关注。
尽管在深度伪造技术出现之前，也有技术能够实现“换脸”，例如PS技术。但与以往的技术相比，深度伪造技术有着更高效率、更低门槛、更高质量的优势，这使得该技术在制造虚假人像和视频方面具有更加显著的优势。
“具备多种优势的深度伪造技术，使得普通人能够轻松地自行进行‘换脸’，制作虚假人像图像和视频成本极低。在兼具高仿真与高效率的人工智能协助下，海量的‘换脸’图像和视频可以随时产生并传播，短时间风靡互联网。对于这样一种技术，如果不进行规制，无疑将产生可怕的后果。因此，在这种背景下，国内外都已有立法动作进行回应。”姚志伟说。
危害公众利益乃至国家安全
深度伪造技术一旦泛滥应用，势必会对公众的人身、财产等合法权益造成侵害。
例如，利用深度伪造技术实现移花接木，会对他人名誉权构成侵害。制作虚假色情视频，是深度伪造技术最早也是最常见的非法运用方式之一。利用该技术能将一些知名歌星、影星等公众人物的脸移转到色情明星身上，伪造逼真的色情场景。
清华大学法学院教授程啸指出，这些虚假色情视频一经传播，公众可能真假莫辨，从而导致受害人的名誉严重受损。即便不是用于制作色情视频，深度伪造技术也完全可以通过制造虚假的视频或音频，侵害自然人、法人或非法人组织的名誉权，进而给其造成财产损失以及精神损害。
不仅如此，深度伪造技术还会对公共安全、经济安全、国家安全造成威胁。
姚志伟说，一旦深度伪造技术被滥用，公众无从区分真假时，可能会对任何含有人像的图像和视频产生怀疑，这无疑会极大地冲击媒体和政府的公信力，对社会信任体系造成重大损害，导致严重的社会信任危机。
“例如，在经济秩序方面，别有用心的人利用深度伪造技术，可以创造一家上市公司CEO宣称公司即将破产的虚假视频，我们可以想象，这个视频对该公司股价的冲击。”姚志伟说。
民法典对此已有专门规定
程啸指出，深度伪造技术的滥用会对公众的合法权益造成损害，破坏社会秩序、经济秩序和政治秩序，损害社会公共利益乃至危害国家安全，因此，包括我国在内的许多国家的法律都对其作出规范。
我国在编纂民法典时，有单位提出，利用信息技术手段“深度伪造”他人的肖像、声音，不仅侵害自然人的人格权益，严重的还可能造成恶劣的社会影响，危害国家安全和社会公共利益，建议法律对深度伪造技术带来的“换脸”等问题予以回应。
后来，民法典在制定时采纳了这一意见——第一千零一十九条第一款规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。
“对于深度伪造技术可能造成的风险，民法典中的相关规定已经可以解决民事责任问题，可以说是提前作出了一定的回应，这显示出我国立法机关对于类似问题的重视。但不可否认的是，网络法律制度依然有很大的空间需要完善。”张韬说。
张韬认为，从2019年的换脸软件“ZAO”到此次11家互联网企业被约谈，深度伪造技术的潜在问题或威胁已经逐步显露。尽管目前我国尚未发生因深度伪造技术而产生侵权纠纷案件，但不能不未雨绸缪进行应对。因此，立法机关应当完善网络法律制度，对这类新问题建立一整套新的制度。
对伪造场景应进行必要限制
值得注意的是，中共中央印发的《法治社会建设实施纲要（2020－2025年）》明确提出，要“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。
张韬认为，正在制定的个人信息保护法、数据安全法以及其他有关法律、行政法规在制定和修订时，应当针对这类问题进行专门规定，以回应和解决社会热点问题。
“在制定个人信息保护法和数据安全法时，对于深度伪造技术所能涉及或者应用的场景应进一步加强规制。现在的相关立法大多强调普适性的规定和适用，对很多具体、重要应用场景的规定还不够完善，因此，建议在立法的实践应用方面进行加强。”张韬说。
张韬建议，对深度伪造技术的研发和应用，特别是市场化的应用，要进行必要的监管；应用深度伪造技术的音视频“作品”，应当有水印或者其他显著的标识，以提醒用户注意；对深度伪造技术“换脸”仿声所应用的具体场景，应当进行必要的限制。
|
| 11家互联网企业因“危险技术”被约谈
|
| 深度伪造技术需要立法规制
|
|
|
|
|
|
| （ 2021-03-30 ） 稿件来源： 法治日报人大视窗 |
|
|
 |
| 本版制图/李晓军 |
|
□ 本报记者 蒲晓磊
因为一项“危险技术”，11家互联网企业被约谈。近日，针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用，国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关，依法约谈映客、小米等11家企业。
对于运用深度伪造技术制作出来的产品，使用智能手机的公众或许并不陌生。不久前，短视频领域出现了一款火爆的“蚂蚁呀嘿”。玩家只要上传一张照片，照片上的人就能扭脖子瞪眼睛地唱上一首“蚂蚁呀嘿”。2019年国内红极一时的换脸软件“ZAO”，其基础也是深度伪造技术。
有了PS后，有图也不一定有真相；有了深度伪造，所看所听未必是真相。但与使用PS不同，即使是不具备相应技术的普通人，也能轻松运用深度伪造技术来实现“换脸”。
广东财经大学法学院教授姚志伟3月26日接受《法治日报》记者采访时说，深度伪造技术本身被广泛运用存在较大风险，其风险不仅在于会侵犯公民个人权利，还在于可能导致公共安全方面的危险。如果不对该技术的使用进行规制，将会产生可怕的后果。
中国法学会商法学研究会理事、北京华讯律师事务所主任张韬说，深度伪造技术不仅涉及民法典所保护的人格权、肖像权等法律问题，还涉及个人生物信息的提取、识别、利用以及保护等诸多方面问题。因此，立法机关在制定个人信息保护法、数据安全法等相关法律时，应当针对这类新问题作出相应的制度设计。
低门槛高效率蕴含更大威胁
所谓深度伪造，是指有关软件通过AI“换脸”、语音模拟、视频生成等方式，对既有图像、声音、视频进行篡改、伪造，自动生成音视频产品。
不可否认，深度伪造技术有一定的正向作用。该技术可以辅助科研、教学、艺术创作等，例如，在教育领域，逼真的虚拟教师可以让数字教学更具互动性和趣味性，合成的历史人物讲解视频可以让受众更有代入感。
然而，与深度伪造技术的正面效应相比，其所蕴含的潜在威胁和安全隐患，更加引人关注。
尽管在深度伪造技术出现之前，也有技术能够实现“换脸”，例如PS技术。但与以往的技术相比，深度伪造技术有着更高效率、更低门槛、更高质量的优势，这使得该技术在制造虚假人像和视频方面具有更加显著的优势。
“具备多种优势的深度伪造技术，使得普通人能够轻松地自行进行‘换脸’，制作虚假人像图像和视频成本极低。在兼具高仿真与高效率的人工智能协助下，海量的‘换脸’图像和视频可以随时产生并传播，短时间风靡互联网。对于这样一种技术，如果不进行规制，无疑将产生可怕的后果。因此，在这种背景下，国内外都已有立法动作进行回应。”姚志伟说。
危害公众利益乃至国家安全
深度伪造技术一旦泛滥应用，势必会对公众的人身、财产等合法权益造成侵害。
例如，利用深度伪造技术实现移花接木，会对他人名誉权构成侵害。制作虚假色情视频，是深度伪造技术最早也是最常见的非法运用方式之一。利用该技术能将一些知名歌星、影星等公众人物的脸移转到色情明星身上，伪造逼真的色情场景。
清华大学法学院教授程啸指出，这些虚假色情视频一经传播，公众可能真假莫辨，从而导致受害人的名誉严重受损。即便不是用于制作色情视频，深度伪造技术也完全可以通过制造虚假的视频或音频，侵害自然人、法人或非法人组织的名誉权，进而给其造成财产损失以及精神损害。
不仅如此，深度伪造技术还会对公共安全、经济安全、国家安全造成威胁。
姚志伟说，一旦深度伪造技术被滥用，公众无从区分真假时，可能会对任何含有人像的图像和视频产生怀疑，这无疑会极大地冲击媒体和政府的公信力，对社会信任体系造成重大损害，导致严重的社会信任危机。
“例如，在经济秩序方面，别有用心的人利用深度伪造技术，可以创造一家上市公司CEO宣称公司即将破产的虚假视频，我们可以想象，这个视频对该公司股价的冲击。”姚志伟说。
民法典对此已有专门规定
程啸指出，深度伪造技术的滥用会对公众的合法权益造成损害，破坏社会秩序、经济秩序和政治秩序，损害社会公共利益乃至危害国家安全，因此，包括我国在内的许多国家的法律都对其作出规范。
我国在编纂民法典时，有单位提出，利用信息技术手段“深度伪造”他人的肖像、声音，不仅侵害自然人的人格权益，严重的还可能造成恶劣的社会影响，危害国家安全和社会公共利益，建议法律对深度伪造技术带来的“换脸”等问题予以回应。
后来，民法典在制定时采纳了这一意见——第一千零一十九条第一款规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。
“对于深度伪造技术可能造成的风险，民法典中的相关规定已经可以解决民事责任问题，可以说是提前作出了一定的回应，这显示出我国立法机关对于类似问题的重视。但不可否认的是，网络法律制度依然有很大的空间需要完善。”张韬说。
张韬认为，从2019年的换脸软件“ZAO”到此次11家互联网企业被约谈，深度伪造技术的潜在问题或威胁已经逐步显露。尽管目前我国尚未发生因深度伪造技术而产生侵权纠纷案件，但不能不未雨绸缪进行应对。因此，立法机关应当完善网络法律制度，对这类新问题建立一整套新的制度。
对伪造场景应进行必要限制
值得注意的是，中共中央印发的《法治社会建设实施纲要（2020－2025年）》明确提出，要“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。
张韬认为，正在制定的个人信息保护法、数据安全法以及其他有关法律、行政法规在制定和修订时，应当针对这类问题进行专门规定，以回应和解决社会热点问题。
“在制定个人信息保护法和数据安全法时，对于深度伪造技术所能涉及或者应用的场景应进一步加强规制。现在的相关立法大多强调普适性的规定和适用，对很多具体、重要应用场景的规定还不够完善，因此，建议在立法的实践应用方面进行加强。”张韬说。
张韬建议，对深度伪造技术的研发和应用，特别是市场化的应用，要进行必要的监管；应用深度伪造技术的音视频“作品”，应当有水印或者其他显著的标识，以提醒用户注意；对深度伪造技术“换脸”仿声所应用的具体场景，应当进行必要的限制。
|
|
|
