胡欣红
近期，多地公安机关发(fa)布(bu)了多起利用AI工具实施造谣的相关案件。上海市公安局城市轨道和公交总队发(fa)布(bu)警(jing)情通报：两名营销人员为博取关注造谣地铁(tie)站发(fa)生持刀伤人的情况，被上海警(jing)方依法处以行(xing)政拘留。其中一人使用AI软(ruan)件生成(cheng)视(shi)频技(ji)术，编(bian)造了地铁(tie)行(xing)凶的虚假视(shi)频等不(bu)实信息(xi)发(fa)布(bu)到(dao)网上，造成(cheng)恶劣社会影响。
信息(xi)时代，各(ge)种资讯满天(tian)飞，有些事情本身就真假难辨，容易混淆(xiao)视(shi)听。谣言往往具有传播速度快(kuai)、影响范围(wei)广的特点，一旦形成(cheng)规模，就会对社会秩(zhi)序和社会稳定造成(cheng)威胁。使用AI技(ji)术让造谣更加(jia)便捷和高(gao)效，并提升了谣言的数量级和传播力，进一步加(jia)剧了谣言的危害性。去年(nian)，上海发(fa)生一起女童走失事件，一个造谣团伙以“标题党”“震惊体”方式，恶意编(bian)造炒作“女孩父亲系(xi)继(ji)父”“女孩被带往温州”等系(xi)列谣言。该团伙利用AI工具等生成(cheng)谣言内容，通过114个账号矩阵，在6天(tian)内发(fa)布(bu)268篇文章(zhang)，多篇文章(zhang)点击量超过100万次。
鉴于自媒体造谣严重伤害了网络生态，监管部门依法加(jia)大(da)了对网络谣言的打击力度。今年(nian)4月，中央网信办部署在全国范围(wei)内开展为期两个月的“清朗·整治‘自媒体’无底(di)线博流量”专项行(xing)动，整治的重点之一是“摆拍(pai)发(fa)布(bu)涉及国内外时事、社会民生等领域虚假事件信息(xi)。拼凑剪接网络视(shi)频图片，篡改事件发(fa)生的时间、地点、人物等要素，以假乱真欺骗公众”。
不(bu)得不(bu)说，目前网络造谣的成(cheng)本还是太低了。据(ju)央视(shi)报道，江西南昌一家MCN机构使用AI技(ji)术，最高(gao)峰一天(tian)生成(cheng)4000至7000篇谣言，最高(gao)的一条收入700元(yuan)，初步估算每天(tian)收入1万元(yuan)以上，但相关责任人仅(jin)仅(jin)被处以行(xing)政拘留5日。
《刑法》第291条规定：“编(bian)造虚假的险情、疫情、灾情、警(jing)情，在信息(xi)网络或(huo)者其他媒体上传播，或(huo)者明(ming)知(zhi)是上述虚假信息(xi)，故意在信息(xi)网络或(huo)者其他媒体上传播，严重扰乱社会秩(zhi)序的，处三年(nian)以下有期徒刑、拘役或(huo)者管制；造成(cheng)严重后果的，处三年(nian)以上七年(nian)以下有期徒刑。”据(ju)此(ci)，对网络造谣（及故意或(huo)恶意传谣）行(xing)为，除治安处罚外，情节严重的应追究刑事责任，切实提高(gao)其造谣成(cheng)本，方能以儆效尤。
AI造谣呈现出门槛低、批量化、识别(bie)难等特点，亟待加(jia)强监管，斩断背(bei)后利益(yi)链条。线下的惩(cheng)处力度固然要加(jia)强，线上的技(ji)术监管和追踪也要更新(xin)迭代。利用AI技(ji)术批量造谣往往涉及大(da)量的网络活动和数据(ju)传输，相关部门应加(jia)强对网络空(kong)间的监管和追踪，及时发(fa)现和处置谣言信息(xi)。
对于涉及的网络平台，也应追究其监管责任。用技(ji)术解决技(ji)术，用魔法打败魔法，在大(da)数据(ju)和新(xin)技(ji)术面前，识别(bie)利用AI炮制的垃圾信息(xi)，并没有那么(me)困难。如果平台未能有效监管和清理谣言信息(xi)，应依法对其进行(xing)处罚，并责令其加(jia)强内容审核和管理。此(ci)外，网络平台、媒体机构等应加(jia)强自律，遵守法律法规，不(bu)传播未经证实的信息(xi)。各(ge)行(xing)业之间也应加(jia)强合作，共同打击利用AI批量造谣的行(xing)为。
“造谣一张(zhang)嘴，辟谣跑断腿。”当前也亟须通过教育和宣传，帮助(zhu)公众提高(gao)对谣言的识别(bie)能力，做到(dao)理性看待网络信息(xi)，避(bi)免(mian)被谣言误导。尤其是看到(dao)耸人听闻(wen)的信息(xi)时，不(bu)妨多留个心眼(yan)，让子弹再飞一会儿，切莫落入信息(xi)陷阱之中，甚至盲目跟风转发(fa)评论，有意无意助(zhu)纣为虐。
（北(bei)京青年(nian)报）