每经编辑：杜宇
“AI换脸”相信大家都不(bu)陌生(sheng)。只需要一(yi)张照片(pian)，通过(guo)人工(gong)智能深(shen)度合成技术，任何人都能成为视频中的主人公，甚至连表(biao)情和(he)动作(zuo)都能以假乱真。
然而，这项新技术，却让一(yi)些人产生(sheng)了不(bu)良想法。今(jin)日，话题#男子用AI伪造学生(sheng)同事近(jin)7000张裸照#冲上热(re)搜。
据央视新闻官方微博6月18日消息(xi)，犯罪嫌疑人白某某，原本是一(yi)家互联(lian)网公司的技术员。他用AI“一(yi)键(jian)去衣”技术，深(shen)度伪造淫秽图片(pian)近(jin)7000张，再每张1.5元卖出。图片(pian)涉及女(nu)性(xing)人数多，包括学生(sheng)、教师、同事。目前(qian)白某某已(yi)被提起公诉。
男子用AI伪造学生(sheng)同事近(jin)7000张裸照
据央视新闻客户(hu)端(duan)，一(yi)名被警方抓获的犯罪嫌疑人白某某原本是一(yi)家互联(lian)网公司的技术员，他因(yin)为使用AI去衣技术，制作(zuo)、贩卖淫秽物品而涉嫌犯罪。
北京市海淀区人民检察院检察官助(zhu)理郭树正(zheng)表(biao)示：白某某用的这款人工(gong)智能软件，能很快(kuai)对被害人的图片(pian)“一(yi)键(jian)去衣”，基本上几秒钟、几分钟就能批量生(sheng)成相应的图片(pian)。
警方在(zai)白某某家的电脑里，查获了大量的涉案照片(pian)，都是经过(guo)“一(yi)键(jian)去衣”技术处理的。
郭树正(zheng)：他在(zai)QQ上向351个人贩卖过(guo)相关(guan)图片(pian)，图片(pian)数量将近(jin)7000张。
北京市海淀区人民检察院检察官李(li)鹏表(biao)示：白某某在(zai)境外的社交媒体上发(fa)布了广告，内容就是“去衣”，1.5元一(yi)张。
这就是白某某发(fa)布的广告帖，上面写着“电脑AI去衣，白菜价”“身边人、网红、明星皆可”。他的广告发(fa)布后，有不(bu)少人联(lian)系白某某，给他发(fa)送照片(pian)并购买这项“去衣”服务(wu)。
郭树正(zheng)：一(yi)张图片(pian)他卖1.5元，能迅速满足相关(guan)人的需求(qiu)。这个时候就有很多人去浏览白某某在(zai)境外社交网站(zhan)上发(fa)布的帖子，经过(guo)我们统计，浏览他发(fa)布广告的人有3万人左右(you)。
AI去衣”究竟是怎样的一(yi)种技术呢？据白某某供述，这项技术并不(bu)是真的“去衣”，而是一(yi)种伪造、重绘(hui)的技术。
郭树正(zheng)：其实我们可以把它理解(jie)为深(shen)度的图片(pian)伪造，它并不(bu)是真的去掉别人照片(pian)上的衣服，其实都是针对已(yi)有的模(mo)型和(he)已(yi)有的模(mo)组进行图片(pian)重绘(hui)。
而且，这项技术操作(zuo)起来十分简单，去衣只需要一(yi)键(jian)就能完成，因(yin)此白某某定价不(bu)高，一(yi)张照片(pian)只需要1.5元，却可以利用低价吸引更多的订单。
短短几个月的时间，白某某就制作(zuo)了几千张去衣的图片(pian)，赚了将近(jin)一(yi)万元钱。然而，他却没(mei)有意识到这一(yi)行为可能产生(sheng)的严重后果。
有人用暗(an)恋女(nu)生(sheng)换脸
据央视新闻，2022年8月，杭州市萧山警方在(zai)网上巡查中获取一(yi)条线索，辖区内有人利用AI技术制作(zuo)淫秽视频在(zai)网上进行大量传播，警方依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被移送至杭州市萧山区人民检察院审查起诉。
图片(pian)来源：央视新闻视频截图
检察机关(guan)调(diao)查发(fa)现，虞某从(cong)2020年开始(shi)接触“AI换脸”软件，起初，他想通过(guo)在(zai)网上推广该项技术以及相关(guan)的软件来获利，但是，一(yi)段时间过(guo)后关(guan)注他的人却很少，一(yi)次偶然的机会，虞某看到有人在(zai)社交群组中发(fa)布淫秽信息(xi)来吸引他人关(guan)注，于是他也动起了类似念头。
据虞某供述，为了吸引更多的关(guan)注和(he)流量，他在(zai)社交软件上创建了“浏览群”和(he)“私人定制群”，“浏览群”主要用来传播“AI换脸”的淫秽视频吸引、招揽观看者，其中包括一(yi)些经过(guo)虞某换脸的视频，当有人提出“定制换脸”的需求(qiu)，虞某会将这些人引入所谓“私人定制群”。
图片(pian)来源：央视视频截图
杭州市萧山区人民检察院第七检察部检察官助(zhu)理陈禹尧：通过(guo)收取入（浏览）群费用的方式，一(yi)个198元、298元或者398元。另外一(yi)个就是虞某还提供人脸视频定制服务(wu)，相当于客户(hu)如果需要定制一(yi)个换脸的视频，他可以根据时长，根据视频的难度大小收取相应的费用。
据检察机关(guan)调(diao)查，虞某一(yi)边通过(guo)传播换脸的淫秽视频来“吸粉(fen)引流”，同时又通过(guo)出售“AI换脸”软件和(he)提供所谓“AI换脸”的私人定制服务(wu)，在(zai)不(bu)到半年的时间里就获利数万元。而被“AI换脸”侵害人脸敏感信息(xi)的受害者，不(bu)仅包括多位知名公众人物，还有很多不(bu)特定的普(pu)通人。
据检察机关(guan)调(diao)查，虞某根据“AI换脸”视频的长度、清晰度等难易条件，按照5分钟300元、10分钟500元等标准来收取定制的费用。虞某声称(cheng)，“只要能看到脸的都能换”。
据检察机关(guan)了解(jie)，虞某的客户(hu)要求(qiu)“定制”换脸的对象不(bu)仅包括一(yi)些知名的公众人物，也有生(sheng)活中的普(pu)通人，其中就有人提出想要定制自(zi)己暗(an)恋女(nu)生(sheng)的换脸视频，而对于这些未(wei)经同意就擅(shan)自(zi)侵犯他人敏感信息(xi)的违(wei)法行为，虞某也是来者不(bu)拒(ju)。
另外，虞某除了进行定制化的换脸服务(wu)，还将“AI换脸”软件分为初级、中级和(he)高级三个等级进行销售并传授使用教程，同时还提供网上非法收集的他人人脸素材。
2023年4月14日，杭州萧山区人民检察院决定对虞某“AI换脸”侵犯公民个人信息(xi)公益诉讼(song)案立案，当日履行公告程序，公告期满，无适格主体提起诉讼(song)。6月9日，检察机关(guan)依法对虞某提起民事公益诉讼(song)。7月28日，该案在(zai)杭州互联(lian)网法院一(yi)审公开审理。
2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作(zuo)、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。
专家建议：隐私不(bu)要随意发(fa)
任何利用新技术犯罪的行为，必将受到严惩！以牟利为目的，制作(zuo)、贩卖、传播淫秽物品的行为，要承担哪些法律后果？
根据《中华人民共和(he)国刑法》第三百六十三条规定，以牟利为目的，制作(zuo)、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没(mei)收财产。
中国行政法学研究会常务(wu)理事、华东政法大学教授沈福(fu)俊建议提升(sheng)全民个人信息(xi)保护意识，谨防隐私泄露。“不(bu)管是在(zai)互联(lian)网上还是社交软件上，尽量避(bi)免过(guo)多地暴露自(zi)己的信息(xi)，在(zai)涉及转账交易等行为时，可以多角度询问身份信息(xi)，反复验证对方是否为本人。”
专家建议大家尽量不(bu)要把个人的隐私数据随意发(fa)到公共互联(lian)网上，如果有一(yi)些不(bu)法分子想要对你的家人实施诈骗，采集到数据以后还是比较容易实现的。
据北京商报报道，当前(qian)AI换脸的一(yi)些技术弱点仍然存在(zai)。中国信通院人工(gong)智能中心安(an)全与元宇宙部主任石霖指(zhi)出，一(yi)些换脸的视频会存在(zai)光照、表(biao)情等不(bu)够自(zi)然、帧与帧之间不(bu)够连贯的问题，尽管随着模(mo)型能力的提升(sheng)，这些换脸的痕迹已(yi)经做到几乎肉(rou)眼难以辨别的程度，但我们仍然可以通过(guo)一(yi)些专用的检测算法进行辨别。这些检测算法在(zai)训练过(guo)程中大量学习了换脸视频中伪造特征的方式，在(zai)使用的过(guo)程中逐帧提取特征，从(cong)而判断一(yi)段视频是否经过(guo)了换脸。当前(qian)，这些技术已(yi)经开始(shi)用在(zai)金融场景中，实现对诈骗等行为的识别。
那么，这些鉴(jian)别技术应用于反诈领域(yu)，前(qian)景如何？不(bu)得不(bu)承认，网络信号与算力仍是待解(jie)决的难题。“由于这些技术仍然需要大量的计算资源特别是GPU的支(zhi)持，因(yin)此，通常在(zai)使用过(guo)程中，需要将相关(guan)的检测模(mo)型部署在(zai)服务(wu)器中。但如果想要将这些检测模(mo)型部署在(zai)手机、个人电脑中，或嵌入到社交、会议软件里，可能会对软硬件的使用体验造成较大的影(ying)响(xiang)。近(jin)年来，很多技术企业已(yi)经开始(shi)尝试不(bu)断优化检测模(mo)型，探索将模(mo)型部署在(zai)端(duan)侧。”石霖说道。
每日经济新闻综合央视新闻客户(hu)端(duan)、央视新闻官方微博、北京商报
每日经济新闻