每经(jing)编(bian)辑(ji)：杜宇
“AI换脸”相信大家都不陌生。只需要一张(zhang)照片，通过人工智能深度合成(cheng)技(ji)术，任何人都能成(cheng)为视(shi)频中的主人公，甚至(zhi)连表情(qing)和动作都能以假乱真。
然而，这项新技(ji)术，却让一些人产生了不良想法。今日，话题#男子用AI伪造学生同事近7000张(zhang)裸(luo)照#冲上热搜。
据央视(shi)新闻官方微博6月18日消息，犯罪嫌疑人白某某，原本是一家互联网公司的技(ji)术员。他用AI“一键去衣”技(ji)术，深度伪造淫秽图片近7000张(zhang)，再每张(zhang)1.5元卖出(chu)。图片涉(she)及(ji)女性人数多，包括学生、教师、同事。目前白某某已被(bei)提起公诉。
男子用AI伪造学生同事近7000张(zhang)裸(luo)照
据央视(shi)新闻客(ke)户端，一名被(bei)警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技(ji)术员，他因为使用AI去衣技(ji)术，制作、贩卖淫秽物品而涉(she)嫌犯罪。
北京市海淀区(qu)人民(min)检察院检察官助理郭树正表示：白某某用的这款人工智能软件，能很(hen)快对被(bei)害人的图片“一键去衣”，基本上几秒钟、几分钟就(jiu)能批量(liang)生成(cheng)相应的图片。
警方在白某某家的电脑里，查获了大量(liang)的涉(she)案照片，都是经(jing)过“一键去衣”技(ji)术处理的。
郭树正：他在QQ上向351个人贩卖过相关图片，图片数量(liang)将近7000张(zhang)。
北京市海淀区(qu)人民(min)检察院检察官李鹏表示：白某某在境(jing)外的社交媒体上发布了广告，内容(rong)就(jiu)是“去衣”，1.5元一张(zhang)。
这就(jiu)是白某某发布的广告帖(tie)，上面(mian)写着“电脑AI去衣，白菜价”“身边(bian)人、网红、明星皆可”。他的广告发布后，有不少人联系白某某，给他发送照片并购买这项“去衣”服务。
郭树正：一张(zhang)图片他卖1.5元，能迅速满足相关人的需求。这个时候就(jiu)有很(hen)多人去浏览白某某在境(jing)外社交网站上发布的帖(tie)子，经(jing)过我们统计，浏览他发布广告的人有3万(wan)人左右。
AI去衣”究竟(jing)是怎样的一种技(ji)术呢？据白某某供述，这项技(ji)术并不是真的“去衣”，而是一种伪造、重绘的技(ji)术。
郭树正：其实我们可以把(ba)它理解(jie)为深度的图片伪造，它并不是真的去掉别人照片上的衣服，其实都是针对已有的模型和已有的模组进行图片重绘。
而且，这项技(ji)术操作起来十分简(jian)单，去衣只需要一键就(jiu)能完成(cheng)，因此白某某定价不高，一张(zhang)照片只需要1.5元，却可以利用低(di)价吸引(yin)更多的订(ding)单。
短短几个月的时间，白某某就(jiu)制作了几千张(zhang)去衣的图片，赚了将近一万(wan)元钱。然而，他却没有意识(shi)到这一行为可能产生的严重后果。
有人用暗恋女生换脸
据央视(shi)新闻，2022年8月，杭州市萧山警方在网上巡(xun)查中获取一条线索，辖区(qu)内有人利用AI技(ji)术制作淫秽视(shi)频在网上进行大量(liang)传播(bo)，警方依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被(bei)移(yi)送至(zhi)杭州市萧山区(qu)人民(min)检察院审查起诉。
图片来源：央视(shi)新闻视(shi)频截图
检察机关调查发现，虞某从2020年开始接触“AI换脸”软件，起初，他想通过在网上推广该项技(ji)术以及(ji)相关的软件来获利，但是，一段时间过后关注他的人却很(hen)少，一次偶然的机会，虞某看到有人在社交群组中发布淫秽信息来吸引(yin)他人关注，于是他也动起了类似念头。
据虞某供述，为了吸引(yin)更多的关注和流量(liang)，他在社交软件上创建(jian)了“浏览群”和“私人定制群”，“浏览群”主要用来传播(bo)“AI换脸”的淫秽视(shi)频吸引(yin)、招揽观(guan)看者，其中包括一些经(jing)过虞某换脸的视(shi)频，当有人提出(chu)“定制换脸”的需求，虞某会将这些人引(yin)入(ru)所(suo)谓“私人定制群”。
图片来源：央视(shi)视(shi)频截图
杭州市萧山区(qu)人民(min)检察院第七检察部检察官助理陈禹尧：通过收取入(ru)（浏览）群费用的方式，一个198元、298元或(huo)者398元。另外一个就(jiu)是虞某还提供人脸视(shi)频定制服务，相当于客(ke)户如果需要定制一个换脸的视(shi)频，他可以根据时长，根据视(shi)频的难度大小收取相应的费用。
据检察机关调查，虞某一边(bian)通过传播(bo)换脸的淫秽视(shi)频来“吸粉引(yin)流”，同时又通过出(chu)售“AI换脸”软件和提供所(suo)谓“AI换脸”的私人定制服务，在不到半年的时间里就(jiu)获利数万(wan)元。而被(bei)“AI换脸”侵(qin)害人脸敏感信息的受害者，不仅包括多位知名公众人物，还有很(hen)多不特(te)定的普通人。
据检察机关调查，虞某根据“AI换脸”视(shi)频的长度、清晰度等难易条件，按照5分钟300元、10分钟500元等标(biao)准来收取定制的费用。虞某声称(cheng)，“只要能看到脸的都能换”。
据检察机关了解(jie)，虞某的客(ke)户要求“定制”换脸的对象(xiang)不仅包括一些知名的公众人物，也有生活中的普通人，其中就(jiu)有人提出(chu)想要定制自己暗恋女生的换脸视(shi)频，而对于这些未经(jing)同意就(jiu)擅自侵(qin)犯他人敏感信息的违法行为，虞某也是来者不拒。
另外，虞某除了进行定制化的换脸服务，还将“AI换脸”软件分为初级、中级和高级三个等级进行销售并传授使用教程(cheng)，同时还提供网上非(fei)法收集的他人人脸素材(cai)。
2023年4月14日，杭州萧山区(qu)人民(min)检察院决定对虞某“AI换脸”侵(qin)犯公民(min)个人信息公益诉讼(song)案立案，当日履(lu)行公告程(cheng)序，公告期满，无适格主体提起诉讼(song)。6月9日，检察机关依法对虞某提起民(min)事公益诉讼(song)。7月28日，该案在杭州互联网法院一审公开审理。
2023年11月，杭州市萧山区(qu)人民(min)法院判决被(bei)告人虞某犯制作、传播(bo)淫秽物品牟(mou)利罪，判处有期徒(tu)刑七年三个月，并处罚金6万(wan)元。
专家建(jian)议(yi)：隐私不要随意发
任何利用新技(ji)术犯罪的行为，必将受到严惩！以牟(mou)利为目的，制作、贩卖、传播(bo)淫秽物品的行为，要承(cheng)担哪些法律后果？
根据《中华人民(min)共(gong)和国刑法》第三百六十三条规定，以牟(mou)利为目的，制作、复制、出(chu)版、贩卖、传播(bo)淫秽物品的，处三年以下有期徒(tu)刑、拘役或(huo)者管制，并处罚金；情(qing)节严重的，处三年以上十年以下有期徒(tu)刑，并处罚金；情(qing)节特(te)别严重的，处十年以上有期徒(tu)刑或(huo)者无期徒(tu)刑，并处罚金或(huo)者没收财产。
中国行政法学研究会常务理事、华东政法大学教授沈(shen)福俊建(jian)议(yi)提升全民(min)个人信息保护意识(shi)，谨防隐私泄露。“不管是在互联网上还是社交软件上，尽量(liang)避免过多地暴露自己的信息，在涉(she)及(ji)转账交易等行为时，可以多角(jiao)度询问身份信息，反复验证(zheng)对方是否为本人。”
专家建(jian)议(yi)大家尽量(liang)不要把(ba)个人的隐私数据随意发到公共(gong)互联网上，如果有一些不法分子想要对你的家人实施诈骗，采集到数据以后还是比较容(rong)易实现的。
据北京商报(bao)报(bao)道，当前AI换脸的一些技(ji)术弱点仍然存在。中国信通院人工智能中心安全与元宇宙部主任石霖指出(chu)，一些换脸的视(shi)频会存在光照、表情(qing)等不够自然、帧与帧之(zhi)间不够连贯(guan)的问题，尽管随着模型能力的提升，这些换脸的痕(hen)迹(ji)已经(jing)做到几乎(hu)肉(rou)眼(yan)难以辨(bian)别的程(cheng)度，但我们仍然可以通过一些专用的检测算(suan)法进行辨(bian)别。这些检测算(suan)法在训练过程(cheng)中大量(liang)学习了换脸视(shi)频中伪造特(te)征的方式，在使用的过程(cheng)中逐帧提取特(te)征，从而判断一段视(shi)频是否经(jing)过了换脸。当前，这些技(ji)术已经(jing)开始用在金融场景中，实现对诈骗等行为的识(shi)别。
那么，这些鉴别技(ji)术应用于反诈领域，前景如何？不得不承(cheng)认，网络信号与算(suan)力仍是待解(jie)决的难题。“由于这些技(ji)术仍然需要大量(liang)的计算(suan)资(zi)源特(te)别是GPU的支持，因此，通常在使用过程(cheng)中，需要将相关的检测模型部署在服务器中。但如果想要将这些检测模型部署在手机、个人电脑中，或(huo)嵌入(ru)到社交、会议(yi)软件里，可能会对软硬件的使用体验造成(cheng)较大的影响。近年来，很(hen)多技(ji)术企业已经(jing)开始尝试(shi)不断优化检测模型，探索将模型部署在端侧。”石霖说道。
每日经(jing)济新闻综合央视(shi)新闻客(ke)户端、央视(shi)新闻官方微博、北京商报(bao)
每日经(jing)济新闻