|
环球法治
|
|
□ 本报记者 韩博
印度大选正在如火如荼进行中。前不久，一段“印度总理莫迪跟着孟加拉语流行音乐跳舞”的人工智能（AI）合成视频在网上播放量突破千万，引发印度网民和媒体的广泛讨论。
事实上不仅仅是莫迪，几乎所有参选政党都利用了人工智能深度伪造视频技术（以下简称“深伪”技术）助选或恶搞政治对手。
莫迪合成视频造势
据《印度教徒报》报道，虽然在以往的印度大选中，仇恨言论和虚假信息并不让人陌生，但如今随着AI技术的惊人发展带来革命性变化，2024年的印度大选将面临新挑战。
5月6日，莫迪在社交平台X上转发了自己跳舞的AI合成视频，并配文称：“和你们所有人一样，我也喜欢看自己跳舞。在投票高峰期看到这样的创意真是让人快乐！”视频显示，“莫迪”随着节奏感十足的孟加拉语歌曲跳跃着登上舞台，一边踢腿一边挥舞手臂。该视频右下角有着“VIGGLE”字样的水印，这是一个可以快速生成AI视频的免费网站。
有网民留言称赞莫迪是“印度有史以来最酷的总理”。莫迪本人对此“天降流量”感到惊喜。他在社交媒体X的个人账号上转发了这条视频，并留言说：“和你们所有人一样，我也喜欢看自己跳舞。在投票高峰期看到这样的创意真是让人快乐！”
同样引发印度网民关注的，还有印度女政治家、西孟加拉邦首席部长班纳吉的一段“深伪”技术生成的舞蹈视频。
《印度时报》报道，随着各类人工智能工具性能的不断提高，使用门槛越来越低，包括莫迪领导的印度人民党和国大党在内的印度各政党团队，都在使用“深伪”技术，制作相关深度伪造视频来影响选民。
“我们怎么才能相信我们看到或听到的事情呢？现在网上有太多明星拉票的视频了，分清每个视频的真实性几乎是不可能的。”对于“深伪”技术在国家大选中得到普遍性应用，印度选民表达了自己的担忧，“我们应该制定严格的法律禁止这种造假行为”。
极大干扰选举秩序
目前“深伪”技术生产的视频已可以跨越语言翻译的障碍，实现高度定制化，视频中的候选人可以叫出观看网民的名字，“一对一”地和网民单独说话。而这种政治宣传视频通常是由竞选团队外包给技术公司完成。
贾登曾是宝莱坞特效师、程序员，现在经营一家视频制作工作室。他本人的政治立场属于中立，不与特定的党派联系在一起，业务也不限于特定党派，他通过广告公司和游说公司等渠道接单。在本次大选期间，贾登的生意一直处于“爆单”状态，几乎所有主流政党都有人找他定制过视频。
贾登的团队一般3天时间可以制作一个视频，报价大约60万卢比。如果是长期合作的客户，他们会先花一周时间建立关于该政客的影像资料库，让AI模型进行学习。如果后期不需要特别高的精度，他们可以在几分钟内按要求生成一个该候选人的视频。
不过贾登也坦言，这种视频可以是对候选人的正面宣传，也可能是对竞选对手的抹黑。
事实上，在此次印度大选中，利用“深伪”技术恶搞政治对手的视频已经出现过多次。对此，斯坦福大学人工智能研究院联合创始人兰迪·詹姆斯认为，AI造假“从未像现在这样可以批量化定制化制作”，由于造假成本极低，数以万计的假视频可能对正常的选举秩序造成极大干扰。
印度人工智能公司“The Indian Deepfaker”创始人迪维安德拉·辛格提到，很多客户希望针对竞选对手定制虚假音视频，如伪造对手的极端言论、不当行为，甚至虚假色情内容等。
迪维安德拉说：“在这场全球规模最大的选举中，势必会有大量同行通过制作扭曲事实的视频获得利润。能让我们保持底线的，只有我们的良心和道德。”
贾登和迪维安德拉的表态无疑映射出当前印度在“深伪”技术应用管理领域的“裸奔”现状，道德约束不能替代法律法规监管。
相关立法亟须完善
针对当前“深伪”技术泛滥的情况，印度目前没有针对“深伪”技术的法律或法规。最接近的是2000年5月，印度国会通过的《信息技术法案2000》，其中规定，在没有征得当事人同意的情况下，以伪造或冒充的方式，通过电子渠道发布和传播当事人私密照片或影像的，处以监禁和罚款。
但是上述法案对“深伪”技术应用界定模糊，约束有限。德里法律政策中心负责人谢纳兹表示：“现有法律还不够充分，因为它们在设计时从未考虑到这些新兴技术。”她警告说，零敲碎打的立法修正案并不是解决方案。“还需要有一个专门执行机构来执行这些法律。”她补充道。
今年2月16日，在慕尼黑安全会议上，微软、字节跳动、亚马逊、谷歌在内的25家科技公司签署了《打击在2024年选举中欺骗性使用人工智能的技术协议》，承诺在这一特殊年份，通过技术部署减少利用人工智能生成和分发欺骗性内容干扰选举的风险。
印度拉杰尼蒂政治管理咨询公司技术主管德什潘德指出，新媒体内容的大规模扩张和向数字化传播的转变，凸显政治信息传递方式的革命性变化，标志着选举策略进入新时代，相关立法工作亟须跟进。
|
| AI“深伪”技术介入印度大选 选民表达担忧
|
| “我们怎么才能相信我们看到或听到的事情呢？”
|
|
|
|
|
|
| （ 2024-05-27 ） 稿件来源： 法治日报环球法治 |
|
|
 |
| 图为在印度孟买，人们排队投票。 新华社发 |
|
□ 本报记者 韩博
印度大选正在如火如荼进行中。前不久，一段“印度总理莫迪跟着孟加拉语流行音乐跳舞”的人工智能（AI）合成视频在网上播放量突破千万，引发印度网民和媒体的广泛讨论。
事实上不仅仅是莫迪，几乎所有参选政党都利用了人工智能深度伪造视频技术（以下简称“深伪”技术）助选或恶搞政治对手。
莫迪合成视频造势
据《印度教徒报》报道，虽然在以往的印度大选中，仇恨言论和虚假信息并不让人陌生，但如今随着AI技术的惊人发展带来革命性变化，2024年的印度大选将面临新挑战。
5月6日，莫迪在社交平台X上转发了自己跳舞的AI合成视频，并配文称：“和你们所有人一样，我也喜欢看自己跳舞。在投票高峰期看到这样的创意真是让人快乐！”视频显示，“莫迪”随着节奏感十足的孟加拉语歌曲跳跃着登上舞台，一边踢腿一边挥舞手臂。该视频右下角有着“VIGGLE”字样的水印，这是一个可以快速生成AI视频的免费网站。
有网民留言称赞莫迪是“印度有史以来最酷的总理”。莫迪本人对此“天降流量”感到惊喜。他在社交媒体X的个人账号上转发了这条视频，并留言说：“和你们所有人一样，我也喜欢看自己跳舞。在投票高峰期看到这样的创意真是让人快乐！”
同样引发印度网民关注的，还有印度女政治家、西孟加拉邦首席部长班纳吉的一段“深伪”技术生成的舞蹈视频。
《印度时报》报道，随着各类人工智能工具性能的不断提高，使用门槛越来越低，包括莫迪领导的印度人民党和国大党在内的印度各政党团队，都在使用“深伪”技术，制作相关深度伪造视频来影响选民。
“我们怎么才能相信我们看到或听到的事情呢？现在网上有太多明星拉票的视频了，分清每个视频的真实性几乎是不可能的。”对于“深伪”技术在国家大选中得到普遍性应用，印度选民表达了自己的担忧，“我们应该制定严格的法律禁止这种造假行为”。
极大干扰选举秩序
目前“深伪”技术生产的视频已可以跨越语言翻译的障碍，实现高度定制化，视频中的候选人可以叫出观看网民的名字，“一对一”地和网民单独说话。而这种政治宣传视频通常是由竞选团队外包给技术公司完成。
贾登曾是宝莱坞特效师、程序员，现在经营一家视频制作工作室。他本人的政治立场属于中立，不与特定的党派联系在一起，业务也不限于特定党派，他通过广告公司和游说公司等渠道接单。在本次大选期间，贾登的生意一直处于“爆单”状态，几乎所有主流政党都有人找他定制过视频。
贾登的团队一般3天时间可以制作一个视频，报价大约60万卢比。如果是长期合作的客户，他们会先花一周时间建立关于该政客的影像资料库，让AI模型进行学习。如果后期不需要特别高的精度，他们可以在几分钟内按要求生成一个该候选人的视频。
不过贾登也坦言，这种视频可以是对候选人的正面宣传，也可能是对竞选对手的抹黑。
事实上，在此次印度大选中，利用“深伪”技术恶搞政治对手的视频已经出现过多次。对此，斯坦福大学人工智能研究院联合创始人兰迪·詹姆斯认为，AI造假“从未像现在这样可以批量化定制化制作”，由于造假成本极低，数以万计的假视频可能对正常的选举秩序造成极大干扰。
印度人工智能公司“The Indian Deepfaker”创始人迪维安德拉·辛格提到，很多客户希望针对竞选对手定制虚假音视频，如伪造对手的极端言论、不当行为，甚至虚假色情内容等。
迪维安德拉说：“在这场全球规模最大的选举中，势必会有大量同行通过制作扭曲事实的视频获得利润。能让我们保持底线的，只有我们的良心和道德。”
贾登和迪维安德拉的表态无疑映射出当前印度在“深伪”技术应用管理领域的“裸奔”现状，道德约束不能替代法律法规监管。
相关立法亟须完善
针对当前“深伪”技术泛滥的情况，印度目前没有针对“深伪”技术的法律或法规。最接近的是2000年5月，印度国会通过的《信息技术法案2000》，其中规定，在没有征得当事人同意的情况下，以伪造或冒充的方式，通过电子渠道发布和传播当事人私密照片或影像的，处以监禁和罚款。
但是上述法案对“深伪”技术应用界定模糊，约束有限。德里法律政策中心负责人谢纳兹表示：“现有法律还不够充分，因为它们在设计时从未考虑到这些新兴技术。”她警告说，零敲碎打的立法修正案并不是解决方案。“还需要有一个专门执行机构来执行这些法律。”她补充道。
今年2月16日，在慕尼黑安全会议上，微软、字节跳动、亚马逊、谷歌在内的25家科技公司签署了《打击在2024年选举中欺骗性使用人工智能的技术协议》，承诺在这一特殊年份，通过技术部署减少利用人工智能生成和分发欺骗性内容干扰选举的风险。
印度拉杰尼蒂政治管理咨询公司技术主管德什潘德指出，新媒体内容的大规模扩张和向数字化传播的转变，凸显政治信息传递方式的革命性变化，标志着选举策略进入新时代，相关立法工作亟须跟进。
|
|
|
