近年来
随着人工智能技术(AI)的高速发展
一些不法分子
利用AI的文本和图像生成功能
编造虚(xu)假信息
使“AI类网络谣言”滋生扩散
破坏(huai)网络生态，扰乱社会秩序
今日(ri)
四川网警公布(bu)10起AI造谣典型案例
一起来看看
↓↓↓
案例一
利用AI软件编造“山体滑坡致8人遇(yu)难”网络谣言
2024年1月23日(ri)，有网民在某平台发布(bu)文章称：“云南山体滑坡灾害 已致8人遇(yu)难”。经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害 已致8人遇(yu)难”的虚(xu)假新闻信息，并发布(bu)在网络平台上，造成不良社会影响(xiang)。目前，四川广元(yuan)公安机关已依(yi)法对杨某某进行行政处罚。
案例二
利用AI软件编造“喜德县地震(zhen)”
网络谣言
2024年6月9日(ri)，有网民在某视频平台发布(bu)视频称，“5月27日(ri)，四川省凉(liang)山彝族自治(zhi)州发生5.0级地震(zhen)，震(zhen)中位于喜德县，地震(zhen)波以每小时80公里的速度传播。地震(zhen)造成了大(da)量房屋损坏(huai)和人员伤亡，灾情严重”。经查，5月27日(ri)凉(liang)山发生5.0级地震(zhen)，震(zhen)中位于木里县，无人员伤亡，部(bu)分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用AI软件生成虚(xu)假地震(zhen)灾情图片，并在某短视频平台散布(bu)不实信息。目前，四川凉(liang)山公安机关已依(yi)法对罗某某进行行政处罚。
案例三
利用AI软件编造“巴(ba)中警民对峙”
网络谣言
2024年5月18日(ri)，有网民在某平台发布(bu)文章称：”巴(ba)中市最近上演了一场(chang)令人惊心动魄的事件，一辆运钞车遭到踢爆，警民双方展开了一场(chang)激烈的对峙”。经查，4月30日(ri)上午9时许，在四川巴(ba)中的一辆运钞车因在公交车站(zhan)牌处占道停留，交警发现后请运钞车驶离。违法人员尚(shang)某某在网上获悉相关图片后，为吸引眼球，获取流量和利益，带着侥幸心理(li)，在未经核实的情况下使用“AI千文”生成标题为《一场(chang)惊心动魄的"钞票大(da)战"巴(ba)中市警民对峙引发轰动谁(shui)将成为胜利者(zhe)》的虚(xu)假信息并发布(bu)，误导网民，引发社会恐慌，扰乱公共秩序。目前，四川巴(ba)中公安机关已依(yi)法对尚(shang)某某进行行政处罚。
案例四
利用AI软件编造“九旬老人遭儿女遗弃”网络谣言
2024年6月24日(ri)，有网民在某平台发布(bu)一则题为成都市新都区大(da)丰街道“九旬老人遭儿女遗弃，流浪乞讨多年成‘皮包骨’”的文章。经查，文章中的图片来源于某外国博主救(jiu)助外国流浪老人的视频，而文章中的这位“李(li)老头”也远(yuan)在大(da)洋彼岸，违法行为人张某为了吸引流量、博取关注，在家中借助AI程序，结合自己的“所思所想”编造并发布(bu)了这篇(pian)虚(xu)假文章。目前，四川成都公安机关已依(yi)法对张某进行行政处罚。
案例五
利用AI软件编造“4月大(da)女婴被遗弃”网络谣言
2024年1月12日(ri)，有网民在某平台发布(bu)文章称：“一则令人心痛的新闻在贵(gui)州省贵(gui)阳市花溪区传开，一个仅仅4个月大(da)的女婴被遗弃在超(chao)市角落”。经查，违法行为人周(zhou)某开发了可自动编撰文章的“翠绿笔墨”AI工具(ju)和配套管理(li)系统，并招募志愿者(zhe)创建工作群，要求志愿者(zhe)提供平台账号，由其开发的管理(li)系统代为登录(lu)账号，周(zhou)某再(zai)利用AI工具(ju)自动生成相关文章，通过管理(li)系统自动保存到志愿者(zhe)平台账号的“草稿箱”中，通过工作群发布(bu)任务，由志愿者(zhe)通过手机从“草稿箱”中手动发布(bu)，2023年11月以来，周(zhou)某通过招募获取相关账号300余个（均已关停），利用AI工具(ju)编造信息约42万余条（均已清(qing)除）。目前，四川达州公安机关已依(yi)法对周(zhou)某进行行政处罚。
案例六
利用AI编造“成都公交车失控”
网络谣言
2023年11月20日(ri)，有网民在某平台发布(bu)文章称：“四川成都公交车失控冲(chong)入河(he)中”。经查，违法行为人陈某看到“重庆公交车失控坠(zhui)河(he)10死2伤”的新闻后，为吸引眼球、博取流量，通过AI软件合成，将内容篡改为“成都龙泉驿(yi)公交车失控坠(zhui)河(he)10死2伤”后发布(bu)到互联网，产生不良社会影响(xiang)。目前，四川成都公安机关已依(yi)法对陈某进行行政处罚。
案例七
利用AI软件编造“地下热(re)管道破裂”
网络谣言
2023年12月27日(ri)，有网民在某平台发布(bu)文章称："西(xi)安市鄠邑区地下涌出热(re)水、疑是地下热(re)管道破裂引发”。经查，违法行为人王某、柳某为赚取平台奖励，利用AI软件自动生成“西(xi)安鄠邑区地下热(re)管道破裂”的文章，并与河(he)南省商丘网发布(bu)的“商丘一热(re)管道破裂”图片进行嫁接，发布(bu)在网络平台上，引发大(da)量网民关注，造成不良社会影响(xiang)。目前，四川绵阳公安机关已依(yi)法对王某、柳某进行行政处罚。
案例八
利用AI编造“建筑工地事故”网络谣言
2023年11月28日(ri)，有网民在某平台发布(bu)文章称：“成都龙泉驿(yi)区一工地上，四名工人使用脚手架高空(kong)作业触(chu)碰高压线不幸身亡”。经查，违法行为人朱某在互联网看到“四川达州渠县使用脚手架高空(kong)作业触(chu)碰高压线造成四人死亡”的新闻后，为吸引眼球、博取流量，通过AI软件合成，将事故地点篡改为成都龙泉驿(yi)区后发布(bu)到互联网，产生不良社会影响(xiang)。目前，四川成都公安机关已依(yi)法对朱某进行行政处罚。
案例九
利用AI软件编造“嫖(biao)娼突发心脏病死亡”网络谣言
2024年5月11日(ri)，有网民在某平台发布(bu)文章称：“凉(liang)山西(xi)昌有一男子因嫖(biao)娼突发心脏病死亡，其家属向两名卖淫女和宾馆老板寻求赔偿”。经查，违法行为人吉某某为吸引流量通过AI工具(ju)“智普清(qing)言”炮制该虚(xu)假文章并发布(bu)，造成不良影响(xiang)。目前，四川凉(liang)山公安机关已依(yi)法对吉某某进行行政处罚。
案例十(shi)
利用AI软件编造“虚(xu)假横幅”网络谣言
2024年4月，有网民在某平台发布(bu)“成都市郫都区德源镇某某开发区奠基仪式”的视频。5月，该网民又发布(bu)一挂有“让全村都怀上二胎(tai)，是村支书不可推卸的责任”横幅的图片视频。经查，以上视频为AI编辑生成，均为不实信息。目前，四川成都公安机关已依(yi)法对王某进行行政处罚。
转自 | 四川网警
来源：四川发布(bu)