{中国新闻网描述}凝旋
随着人工智能软件普及,“AI换脸”“AI合成照片、视频”等技术越来越多地出现在网络里,“AI”造假花样越来越多,一些不法分子将新技术用于非法的目的,让犯罪手段又有了新方式。
“一键去衣”!
深度伪造近七千张淫秽图片
在北京警方侦破的一起案件中,警方接到报案,有人在境外的网站上发广告,只需一张日常生活照片,就可以完成一键“去衣”的效果。
一名被警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技术员,他因为使用AI去衣技术,制作、贩卖淫秽物品而涉嫌犯罪。
北京市海淀区人民检察院检察官助理 郭树正:白某某用的这款人工智能软件,能很快对被害人的图片“一键去衣”,基本上几秒钟、几分钟就能批量生成相应的图片。
警方在白某某家的电脑里,查获了大量的涉案照片,都是经过“一键去衣”技术处理的。
郭树正:他在QQ上向351个人贩卖过相关图片,图片数量将近7000张。
随后,白某某因涉嫌制作、贩卖淫秽物品牟利罪被公诉至法院。今年4月19日,北京市海淀区人民法院对这起案件进行了开庭审理。
公诉人:其对含有人脸信息的众多不特定女性照片进行侮辱性编辑并出售,图片数量多,涉及人数多,社会公众利益受到严重损害。
那么,这些经过去衣的照片的受害者都是什么人?白某某为什么要制作这些照片呢?他又是如何进行牟利的呢?
2023年6月,家住北京的白某某在境外的社交媒体上接触到了这项“一键去衣”的技术,于是他动起了歪心思,打算利用这项技术来赚钱。
北京市海淀区人民检察院检察官 李鹏:他在境外的社交媒体上发布了广告,内容就是“去衣”,1.5元一张。
每张1.5元 发广告招揽图片定制服务
这就是白某某发布的广告帖,上面写着“电脑AI去衣,白菜价”“身边人、网红、明星皆可”。他的广告发布后,有不少人联系白某某,给他发送照片并购买这项“去衣”服务。
郭树正:一张图片他卖1.5元,能迅速满足相关人的需求。这个时候就有很多人去浏览白某某在境外社交网站上发布的帖子,经过我们统计,浏览他发布广告的人有3万人左右。
那么,“AI去衣”究竟是怎样的一种技术呢?据白某某供述,这项技术并不是真的“去衣”,而是一种伪造、重绘的技术。
郭树正:其实我们可以把它理解为深度的图片伪造,它并不是真的去掉别人照片上的衣服,其实都是针对已有的模型和已有的模组进行图片重绘。
而且,这项技术操作起来十分简单,去衣只需要一键就能完成,因此白某某定价不高,一张照片只需要1.5元,却可以利用低价吸引更多的订单。
短短几个月的时间,白某某就制作了几千张去衣的图片,赚了将近一万元钱。然而,他却没有意识到这一行为可能产生的严重后果。
郭树正:其中有让白某某去学生、教师、女同事等衣服的图片。根据我们调查,白某某在这个过程中,他其实是知道可能会有人拿这个图片实施违法犯罪行为,比方说敲诈勒索,或者继续传播对被害人的名誉造成一定的损失,或者实施一些其他更恶劣的犯罪行为。
检察官介绍,白某某使用的实际上是一个正规的AI绘图软件,而“去衣”只是其中的一个功能模块。白某某自以为发现了其中的商机,实际上却把自己送到了法庭里被告人的位置上。
公诉人:经依法审查查明,2023年6月至8月,被告人白某某在本市海淀区等地发布AI虚拟广告,将他人提供的承载人脸信息的特定多数女性图片,通过深度制造技术AI软件制作成裸体图片贩卖牟利,同时出售AI去衣软件及使用教程牟利。
涉嫌制作贩卖淫秽物品牟利罪被提起公诉
检察机关认为,被告人白某某以牟利为目的,制作、贩卖淫秽物品,情节严重,其行为触犯了《中华人民共和国刑法》的相关规定,应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。
郭树正:非法进行加工和利用,加工利用之后又通过各种非法途径传播,导致本来是为我们服务,为科技进步发展提供帮助的一项技术,变成了犯罪的工具。
侵犯不特定女性名誉 破坏网络环境
检察机关认为,白某某利用AI技术犯罪的行为不仅侵犯了无数无辜者的隐私与名誉,还破坏了网络环境的纯净,与科技向善的精神相背离。而利用新技术犯罪,也将受到司法机关的严厉打击。
公诉人:人工智能技术兴起之后,已经成为当今科技领域备受瞩目的技术之一,正在深刻改变我们社会、经济以及生活方式,为社会带来更多的便利。同时我们也打击治理运用AI技术实施犯罪,任何利用新技术实施犯罪的行为必将受到严惩。
“换脸”伪造不雅照
实施敲诈勒索
一键去衣、AI换脸技术,还会被不法分子利用,成为敲诈勒索的工具。近期,这类案件又有抬头趋势。前不久,深圳警方打掉一个团伙,这个团伙从网上等各种渠道收集被害人图片信息,然后进行合成处理,用来敲诈勒索。
前不久,深圳市民吴先生突然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。
当事人 吴先生:当时我收到一条彩信,里面是我的一张裸照,他当时威胁我,在几点之前要跟他联系给他转钱,我当时一想不对劲,就报警了。
深圳警方接到报案后,立即对吴先生提供的线索进行侦查。通过梳理报案记录,警方发现全市有同样遭遇的不止吴先生一人,犯罪嫌疑人的敲诈勒索方式都如出一辙。
当事人 邓先生:内容就是有我的照片,我旁边还有女的,还写我的名字。我还问我的同事,我同事说这肯定是别人复制上去的。
于是警方立即对相似的案件进行串并处理。调查后,一个通过换脸技术合成不雅照,实施敲诈勒索的犯罪团伙逐渐浮出水面。
深圳市公安局坪山分局民警 张威:经调查,这个团伙流窜作案,以“已掌握你在外面找小姐”“艳照将公之于众”等方式进行威胁,进而逼迫受害人“破财消灾”,从而达到敲诈勒索的目的。
团伙分工明确:有人修图、有人寻作案目标
随着侦查工作的深入,警方发现这是一个以王某为首的犯罪团伙,团伙内分工明确,有人负责修图,有人负责寻找作案目标,有人负责发短信打电话联系收款。深圳坪山警方兵分多路,展开统一收网行动,在多地警方协助下成功抓获以王某为首的十多名犯罪嫌疑人。
在犯罪嫌疑人的电脑里,警方发现了大量经过合成换脸后的不雅照片。
张威:从嫌疑人电脑里面提取的相关证据,这些图片是嫌疑人从网上等各种渠道收集的被害人图片信息,然后进行合成处理,用来敲诈被害人。
目前,王某等人已被检察机关提起公诉。案件正在进一步审理当中。
深圳市公安局刑警支队民警 程儒:如果遇到这种以换脸的方式实施敲诈勒索的行为,请及时报警。我们公安机关会依法严厉打击这种违法犯罪,在案件办理过程当中严格保护当事人的个人隐私。
以合成照威胁受害人
并准确说出个人信息
在山东威海,也有当事人遭遇到骗局,在收到伪造的不雅照后,没有多加核实,就向敲诈团伙转账20万元。
前不久,威海警方接到了反诈中心的一条资金预警信息,有市民正在向涉诈账户进行转账,民警立即与当事人取得联系,核实情况。
威海市公安局经济技术开发区分局皇冠派出所民警 刘羿:我们看到他的手机收到了一条短信,短信上的内容大概就是一张图片,上面有一男一女的裸照,还附了留言,说“我有你全部的影像资料,赶紧跟我联系”,并附上了一个电话。
王先生说自己当时看到这张照片,当时就有点懵。没有来得及多想,他拨打了信息上面的电话。由于对方准确地说出了自己的姓名以及工作单位,并且告诉王先生只要向他们转账68万元就可以买断这些视频,如果王先生不给钱就把视频公开。在对方的恐吓下,王先生信以为真。
刘羿:王先生起初没有那么多钱,所以他就说我先给你10万元,对方同意后就给他发了一个指定的银行账户,所以王先生就向账户内转了第一笔10万元。然后对方仍然给他打电话说这个钱太少了,如果不想让其他人知道,不想让单位的同事知道,就必须再次转账。王先生通过多方筹集,又向指定的银行账户转了第二笔10万元。
先后转账20万元 但未能满足对方胃口
然而,先后转账的20万元,根本满足不了对方的胃口。正当王先生惊慌失措时,民警联系到了王先生。
刘羿:当我们跟王先生一同看这张照片的时候,我们发现虽然脸部有相似的地方,但是他的脸型以及身形完全不是他本人。
之后,民警赶紧通过国家反诈大数据平台对王先生转账的两个银行账户进行紧急止付操作。
刘羿:平台对我们止付的这两个账户进行反馈,反馈出账户的余额以及银行卡的卡主身份等等情况。我们发现这两个账户的余额已经显示为0,所以我们紧接着就对这两个账户进行分析研判。
警方紧急止付 经过研判锁定两名嫌疑人
经过研判分析,警方锁定了犯罪嫌疑人郑某和钟某的身份信息。今年1月22日,威海警方赶赴浙江乌镇将两名犯罪嫌疑人抓获归案,为王先生挽回了损失。
警方介绍,在这些案件当中,犯罪嫌疑人先是通过网络等渠道,搜集被害人的视频、照片以及相关信息。再通过AI换脸技术PS合成所谓的“不雅视频”或“艳照”,然后通过短信、邮箱等渠道,精准发送给选定的对象并留下联系方式,最后以要举报、散播、告知家属等手段威胁选定的对象,要求被害人将钱汇到他们指定的银行账户。
警方提示:遇到此类情况要及时留存证据,拨打110报警。(央视新闻客户端) 【编辑:房家梁】
- 贾乃亮晒甜馨练字照片左手写字端正工整胜老爸
- 接连被对方主控打爆!欧文是骑士真正防守黑洞
- 辱母案事发地:借款人曾遭拘禁有施暴者免刑罚
- 美国6岁小学生带枪上课警方逮捕偷枪男孩父亲
- 季羡林之子诉北大返还原物案今日二审继续开庭
- 村官自掏腰包建民生工程未得偿还当地称是自愿
- 辱母杀人案于欢代理律师:将尽力为其做无罪辩护
- YG女模四周只喝水拥有纸片腰减肥过度嘴巴长烂疮
- 国足远征伊朗后勤无忧五星级酒店+国内厨师随行
- 台版太阳的后裔将开拍台军否认“防长”参演
- 不敢相信才15岁!邱淑贞女儿沉月成熟眼妆媚爆
- IDG资本合伙人俞信华:跑步减压给力投资
- 男孩骑共享单车被撞身亡系不满12岁未成年
- 企业环保违法被罚缺乏痛感数据造假仍屡禁不止
- 书豪19+8篮网客场取胜魔兽19+16老鹰遭七连败
- 世预赛-许尔勒2球穆勒破门德国4-1全胜领跑
- 辱母伤人案揭地下金融链:月息一分收十分放年息120%
- VR年内有望实现大众消费:发烧友向大众范围普及
- 散播仇恨变相支恐?谷歌遭多国“金主”抵制
- 阿里大文娱音乐战略整合启航:完善线下基础环节
- 台版太阳的后裔将开拍台军否认“防长”参演
- 和你爹单挑谁能赢?太子爷:我能打爆巅峰期的他
- 世预赛-老枪破门瓦尔迪进球英格兰2-0领跑
- 闹乌龙!潘玮柏晒牵手旅游照曝光恋情?真相是…
- 退出大年逢政策利好:IPO审核提速背后的PE格局
- 20多名球迷远征伊朗为国足助威已花10多万
- 世预赛-许尔勒2球穆勒破门德国4-1全胜领跑
- 黑手伸向快递:多地网购配件1个多月装好1把枪
- 党报:东北经济呈回暖趋势专项资金支持新兴产业集群
- 阿里大文娱音乐战略整合启航:完善线下基础环节
- 辱母伤人案揭地下金融链:月息一分收十分放年息120%
- 德黑兰魔咒!国奥超白金一代曾在这里陨落
- 杨洋粉丝制作的“饭制剧”《恋人》有侵权嫌疑
- 起底辱母案催债团伙:涉多起借贷案10余人被抓
- 张剑造访伊朗足协商谈未来足球合作事宜
- 父亲用刀捅死15岁儿子因多次催吃饭儿子没听从
- 最佳教练到底该花落谁家?斯波德帅谁更有希望
- 男孩骑共享单车被撞身亡系不满12岁未成年
- 日本松下公司计划再启动裁员
- 黑手伸向快递:多地网购配件1个多月装好1把枪
- 散播仇恨变相支恐?谷歌遭多国“金主”抵制
- 小学校长脱女学生裤子拍照卖钱被撤销教师资格
- 奥尼尔:詹姆斯和我很像纳什2个MVP都该是我的
- 防守端接连被爆!卢指导:不能太早露出所有底牌
- 埃尔伯:拜仁成功靠两秘诀中韩战氛围像巴西
- 硅谷创业孵化加速器的中国路线图:加速布局
- 散播仇恨变相支恐?谷歌遭多国“金主”抵制
- 人民日报海外版:中国用债合理与债务危机保持安全距离
- 20多名球迷远征伊朗为国足助威已花10多万
- 张剑造访伊朗足协商谈未来足球合作事宜
- KO西班牙法国!这支德国史上最凶残最低消费4球
- 男孩骑共享单车被撞身亡系不满12岁未成年
- 散播仇恨变相支恐?谷歌遭多国“金主”抵制
- 最佳教练到底该花落谁家?斯波德帅谁更有希望
- 极端组织警告:幼发拉底河涨水大坝或随时垮塌
- 香港首位女特首:政治背后我只是个小女人
- 贷款中介假公章伪造合同骗贷员工自曝年薪百万
- 接连被对方主控打爆!欧文是骑士真正防守黑洞
- 渝西高铁东西线之争:广安市长带队争取高铁过境
- 德黑兰魔咒!国奥超白金一代曾在这里陨落
- 杨洋粉丝制作的“饭制剧”《恋人》有侵权嫌疑
- 小S母女扮鬼脸神同步可爱性感表情切换自如
- 转转CEO黄炜:共享经济将建立C2C信任新体系
- 叫板大罗K神!为世界杯而生!德国最强王牌是他
- 小米与出门问问开撕的背后:语音AI创业公司艰难行进