|
声音
|
|
□ 夏 伟
近期，“福州一老板10分钟被AI换脸诈骗430万元”“安徽一男子9秒被AI换脸诈骗132万元”等新闻引起社会广泛关注，有关AI犯罪的治理问题进入了公众的视野。
AI换脸的技术本质是深度合成，是指通过深度学习、虚拟现实等技术形成生成合成类算法，用以制作人脸图像、视频等信息。为了规范深度合成技术、引导AI“技术向善”，2022年，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，明确要求有关主体提供智能对话、合成人声、人脸生成等深度合成服务的，应当进行显著标识，避免公众混淆或者误认。
时至今日，AI换脸等深度合成技术已经达到“以假乱真”“眼见为虚”的欺骗效果，这使得公众辨明真伪的日常生活经验全面失灵。因此，AI换脸技术一旦被用于违法犯罪，公众几乎防无可防、防不胜防。
AI犯罪是高科技时代犯罪形态和手段共同进化的结果，形态上的进化显著扩大了犯罪的危害性，遮蔽了核心犯罪行为；手段上的进化全面增强了犯罪的隐蔽性，掩藏了源头犯罪行为，这也决定了AI犯罪治理需要采取有别于传统犯罪治理的新思路、新方法。有效治理AI被用于犯罪的关键并不是从法律上否定AI技术的合法性，而是顺应AI被用于犯罪的进化趋势，转变犯罪治理逻辑，规范AI技术的应用，确立穿透式犯罪治理模式。具体可以从三个维度展开：
在规制类型上，从边缘犯罪穿透至核心犯罪。AI诈骗是电信网络诈骗的新侵害形式，2022年我国通过反电信网络诈骗法，确立了电信网络诈骗全链条治理策略。全链条治理AI诈骗宜区分边缘犯罪与核心犯罪，边缘犯罪是指为AI诈骗提供“两卡”（手机卡、银行卡）或者其他帮助行为，核心犯罪是指AI诈骗的幕后操纵行为、具体实行行为。过去的司法实践经验表明，AI诈骗所牵连的边缘犯罪远多于核心犯罪，相对而言也更容易被查处。然而，如果将重点放在打击为数众多的边缘犯罪上，那么不仅会消耗过多的司法资源，也难以达到全链条治理的效果。只有穿透至核心犯罪，才能真正有效治理整个AI诈骗犯罪链条。
在规制流程上，从下游犯罪穿透至源头犯罪。AI诈骗有迹可循，其之所以让人防不胜防，是因为犯罪分子利用个人信息制定“专属剧本”，对被害人实施精准诈骗。个人信息是深度合成的基本素材，AI诈骗犯罪分子实施诈骗，必须精确获取个人信息，因此，个人信息犯罪是AI诈骗的源头犯罪行为。产业链化是个人信息犯罪的重要特征，司法执法机关可以着重打击贩卖、非法提供个人信息的黑灰产业链，实现“处理一案、治理一片”的效果。
在预防主体上，从个体防范穿透至平台责任。当下，面对层出不穷、形态各异、不断升级的AI犯罪，个体防范越来越无力，与之相对，平台预防违法犯罪的能力显著强化，因此也应承担更多的责任。平台的责任根据在于，它不仅可能成为AI诈骗的犯罪工具、犯罪空间，而且是个人信息的重要处理者，负有保护个人信息的法定义务。从技术治理角度来看，平台是高科技的载体，平台的参与能够精准识别AI诈骗与真人对话，以技术遏制技术犯罪，充分释放“技术+法律”在AI犯罪治理中的叠加效应。
AI犯罪的涌现及其危害升级，让全社会的担忧情绪陡增，也使AI技术本身被打上了“道德可疑”的标签。AI技术的污名化虽不至于否定其重要性，但却足以影响其价值的实现度，值得反思和警惕。AI技术的健康发展需要法治的保驾护航，在犯罪治理资源有限与AI犯罪不断增长的紧张状态下，必须转变犯罪治理逻辑，确立具有时代适应性的犯罪治理理念，穿透至AI犯罪的根源，聚焦于核心犯罪、源头犯罪的打击与平台责任的确立，这才是有效治理AI犯罪、规范AI技术运用的正本清源之道。
（作者系中国政法大学刑事司法学院副教授）
|
|
|
| 用穿透式治理有效惩治AI犯罪
|
|
|
|
|
|
| （ 2023-05-31 ） 稿件来源： 法治日报声音 |
|
|
□ 夏 伟
近期，“福州一老板10分钟被AI换脸诈骗430万元”“安徽一男子9秒被AI换脸诈骗132万元”等新闻引起社会广泛关注，有关AI犯罪的治理问题进入了公众的视野。
AI换脸的技术本质是深度合成，是指通过深度学习、虚拟现实等技术形成生成合成类算法，用以制作人脸图像、视频等信息。为了规范深度合成技术、引导AI“技术向善”，2022年，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，明确要求有关主体提供智能对话、合成人声、人脸生成等深度合成服务的，应当进行显著标识，避免公众混淆或者误认。
时至今日，AI换脸等深度合成技术已经达到“以假乱真”“眼见为虚”的欺骗效果，这使得公众辨明真伪的日常生活经验全面失灵。因此，AI换脸技术一旦被用于违法犯罪，公众几乎防无可防、防不胜防。
AI犯罪是高科技时代犯罪形态和手段共同进化的结果，形态上的进化显著扩大了犯罪的危害性，遮蔽了核心犯罪行为；手段上的进化全面增强了犯罪的隐蔽性，掩藏了源头犯罪行为，这也决定了AI犯罪治理需要采取有别于传统犯罪治理的新思路、新方法。有效治理AI被用于犯罪的关键并不是从法律上否定AI技术的合法性，而是顺应AI被用于犯罪的进化趋势，转变犯罪治理逻辑，规范AI技术的应用，确立穿透式犯罪治理模式。具体可以从三个维度展开：
在规制类型上，从边缘犯罪穿透至核心犯罪。AI诈骗是电信网络诈骗的新侵害形式，2022年我国通过反电信网络诈骗法，确立了电信网络诈骗全链条治理策略。全链条治理AI诈骗宜区分边缘犯罪与核心犯罪，边缘犯罪是指为AI诈骗提供“两卡”（手机卡、银行卡）或者其他帮助行为，核心犯罪是指AI诈骗的幕后操纵行为、具体实行行为。过去的司法实践经验表明，AI诈骗所牵连的边缘犯罪远多于核心犯罪，相对而言也更容易被查处。然而，如果将重点放在打击为数众多的边缘犯罪上，那么不仅会消耗过多的司法资源，也难以达到全链条治理的效果。只有穿透至核心犯罪，才能真正有效治理整个AI诈骗犯罪链条。
在规制流程上，从下游犯罪穿透至源头犯罪。AI诈骗有迹可循，其之所以让人防不胜防，是因为犯罪分子利用个人信息制定“专属剧本”，对被害人实施精准诈骗。个人信息是深度合成的基本素材，AI诈骗犯罪分子实施诈骗，必须精确获取个人信息，因此，个人信息犯罪是AI诈骗的源头犯罪行为。产业链化是个人信息犯罪的重要特征，司法执法机关可以着重打击贩卖、非法提供个人信息的黑灰产业链，实现“处理一案、治理一片”的效果。
在预防主体上，从个体防范穿透至平台责任。当下，面对层出不穷、形态各异、不断升级的AI犯罪，个体防范越来越无力，与之相对，平台预防违法犯罪的能力显著强化，因此也应承担更多的责任。平台的责任根据在于，它不仅可能成为AI诈骗的犯罪工具、犯罪空间，而且是个人信息的重要处理者，负有保护个人信息的法定义务。从技术治理角度来看，平台是高科技的载体，平台的参与能够精准识别AI诈骗与真人对话，以技术遏制技术犯罪，充分释放“技术+法律”在AI犯罪治理中的叠加效应。
AI犯罪的涌现及其危害升级，让全社会的担忧情绪陡增，也使AI技术本身被打上了“道德可疑”的标签。AI技术的污名化虽不至于否定其重要性，但却足以影响其价值的实现度，值得反思和警惕。AI技术的健康发展需要法治的保驾护航，在犯罪治理资源有限与AI犯罪不断增长的紧张状态下，必须转变犯罪治理逻辑，确立具有时代适应性的犯罪治理理念，穿透至AI犯罪的根源，聚焦于核心犯罪、源头犯罪的打击与平台责任的确立，这才是有效治理AI犯罪、规范AI技术运用的正本清源之道。
（作者系中国政法大学刑事司法学院副教授）
|
|
|
