今天一早,多个关于“韩国AI深度伪造淫秽影像”的话题词引发网友热议。 据韩国多家媒体报道,最近,韩国再现“N号房”丑闻,“深度伪造”,即利用AI换脸制造色情图频,并通过社交媒体平台传播的性犯罪行为被大量曝光。
自称韩国籍女子甚至在中国的微博上求助并曝光相关事件。
韩国近三年深度伪造淫秽影像案件% {; Q k5 w; d% ^* a b' F; ~
受害者中未成年人占比近六成 最大在野党共同民主党议员杨富男30日从警察厅方面获取的资料显示,2021年至2023年,共有527名深度伪造淫秽影像受害者报案,未成年人占比达59.8%,远高于20~29岁(32.1%)、30~39岁(5.3%)和40~49岁(1.1%)。未成年人占比从2021年的64.6%略降至2022年的52.9%,而去年再升至62%。 随着技术发展,使用深度伪造技术制造虚假视频更加方便,导致加害者中未成年人占比明显上升。涉嫌制作虚假视频被立案的加害者中,10~19岁占比2021年为65.4%,2022年略降至61.2%,去年反弹至75.8%,今年1至7月为73.6%。
资料图片:社交平台“电报”(Telegram)上出现的深伪色情内容群聊频道截图 使用deepfake制作非法合成视频并在Telegram上传播的所谓“熟人侮辱室”的经营者已被移交给检察官办公室拘留。受害者人数达到246人。 首尔警察厅“深度伪造等虚假视频集中应对工作组”30日宣布,开设并运营Telegram“熟人侮辱室”的20多岁男子A先生于22日被紧急逮捕,并于当天送交检察官办公室拘留。以同样的罪名拘留的还有B先生,他是一名30多岁的男子,经营一家成人网站约四年,检察官办公室收到了2万多张非法性图片,包括儿童和青少年的性剥削材料。 早前报道 据环球时报,8月27日韩国总统尹锡悦表示,最近以不特定人群为对象的深度伪造技术影像通过社交媒体迅速传播,不少受害者是未成年人,加害者也大多10多岁。他表示,依靠匿名恶意利用深度伪造技术是犯罪行为,希望有关部门通过掌握实际情况和调查,彻底根除这种数字技术犯罪。 涉案人数可能达22万 针对女性的深度伪造犯罪在韩国日趋猖獗,不仅大学校园中出现此类案件,甚至连中小学、军队等场所也成为高发地,社交媒体上,特别是“电报”(Telegram)群组中不断有受害学校及被害者信息流出。 8月26日,韩国女性民友会发布题为《群体性暴力参与者达到22万人,社会崩溃要被放任到何时》的报告,指出在“电报”群组中,只需上传熟人照片,付费后5秒钟内就能生成裸体合成图。令人震惊的是,这个聊天群的参与人数高达22.7万。民友会在报告中质问道:“(韩国)女性们生活在一个无法有效惩罚或预防针对女性犯罪和暴力的社会中,失去了日常生活的安全感,仿佛生活在一个没有国家的状态中。这样的社会还有存在的必要?” 面对深度伪造性犯罪的蔓延,韩国社会各界呼吁政府采取更强硬措施。 韩国国会女性家庭委员会27日表示,将于9月召开紧急对策会议,商讨相关解决方案。国会相关网站上还出现一份征求公众同意的请愿书,要求严厉惩罚“电报”平台性犯罪的肇事者。 9 {* ?& ~! [% w) I
|