近期，多地公安机关(guan)发布了多起(qi)利(li)用(yong)AI工具实施造谣的相关(guan)案件。6月20日，两名营销人员为博(bo)取关(guan)注造谣地铁站发生持(chi)刀伤人的情况，被上海警(jing)方依法处以行政拘(ju)留(liu)。其中(zhong)一人使用(yong)AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息发布到网(wang)上，造成恶(e)劣社会影响。
智能化、速成式，一键生成、坐收流量。通(tong)过AI软件，给出关(guan)键词，软件便会自动在网(wang)络上抓取相关(guan)信息，生成几(ji)百(bai)到上千字的文本，配上貌似和事件相关(guan)的虚假图(tu)片，甚至直接生产虚假视频，从而形成一篇看起(qi)来信息量很大，实际上子虚乌有的内容。场景一键生成、图(tu)文真假难辨，被玩坏的AI已经成了某些人手中(zhong)名副其实的“造谣机”，打开了批量造谣的“潘多拉魔(mo)盒”。
多起(qi)AI造谣事件背后，造谣者的动机主要是为了获取互联网(wang)内容平台给予创作者的点击量、阅读量奖励等。此(ci)类生意并不新鲜，只(zhi)不过，过去这些人炮(pao)制(zhi)稿件，至少还需要认识几(ji)个字，需要复制(zhi)粘(zhan)贴和拼(pin)凑抄袭；如今在AI助力下，进(jin)入门槛大大降低，几(ji)乎完全零门槛，而且篇篇“原创”，产量更是惊人。之前有媒体报道(dao)，有机构最(zui)高(gao)峰一天能生成4000至7000篇，最(zui)高(gao)的一条(tiao)收入700元(yuan)，初步(bu)估算每天收入1万元(yuan)以上。
内容越是惊人，越能博(bo)取流量，越能牟取收益。此(ci)类网(wang)络谣言之所以批量出现，完全是因为利(li)益驱使。当舆论场上大量充斥类似劣质虚假信息，不仅会对舆论空(kong)间和信息生态造成极大破坏，而且很有可能扰(rao)乱社会秩序甚至引发混乱。AI越强大，谣言越猖狂，这是我们社会的不可承受之重(zhong)。便利(li)的AI工具大大降低了造谣成本，提(ti)升(sheng)了谣言的数(shu)量级和传播力。AI造谣呈现出门槛低、批量化、识别难等特点，亟待加强监(jian)管，斩断背后利(li)益链条(tiao)。
AI谣言批量涌现，板子首先应该打在互联网(wang)内容平台身上。从根本上说，这帮人整天利(li)用(yong)AI工具制(zhi)造信息垃圾，是为了从互联网(wang)内容平台赚钱。互联网(wang)内容平台的利(li)益分成机制(zhi)，刺激了类似网(wang)络谣言的海量生产；与此(ci)同时，互联网(wang)内容平台严重(zhong)的审(shen)查漏洞，又(you)给此(ci)类垃圾信息提(ti)供了几(ji)乎没有限制(zhi)的发表空(kong)间。如果是传统(tong)机构媒体，这些垃圾信息不可能得(de)以发表，更不可能获取稿费；但在自媒体平台上，利(li)用(yong)AI炮(pao)制(zhi)的任何垃圾都能轻松发表，而且越是能够吸引眼球(qiu)的虚假信息流量分成越高(gao)。
遏制(zhi)利(li)用(yong)AI批量制(zhi)造谣言，互联网(wang)内容平台责(ze)无旁贷，必须切实担负起(qi)责(ze)任。用(yong)技术解决技术，用(yong)魔(mo)法打败魔(mo)法，在大数(shu)据和新技术面(mian)前，识别利(li)用(yong)AI炮(pao)制(zhi)的垃圾信息，并没有那么困难。如果某些自媒体账(zhang)号，创作量惊人，每天都更新N多篇，而且内容五花八门，什(shi)么热门写什(shi)么，账(zhang)号主体却又(you)没有任何相关(guan)资质，就非常值得(de)怀疑。关(guan)键是，内容平台愿不愿意牺牲流量这么去做。
某种意义上，内容平台也是垃圾信息的受益者之一，它们极大提(ti)高(gao)了平台活(huo)跃(yue)度。故而很多平台只(zhi)有鼓励发文的机制(zhi)，却没有遏制(zhi)垃圾信息和海量谣言的动力。
加大对利(li)用(yong)AI造谣的惩处力度，是另一个关(guan)键所在。利(li)用(yong)AI海量造谣，目前主要还是行政处罚为主，被刑事处罚的并不多。在界定制(zhi)造AI谣言是否存(cun)在主观恶(e)意以及认定被造谣方损失等方面(mian)，目前还存(cun)在一些争议。需要强化相关(guan)法律研究和适用(yong)，最(zui)好是及时出台权威司法解释，极大提(ti)高(gao)造谣者的违法成本，同时强化内容平台的监(jian)管责(ze)任。利(li)用(yong)AI炮(pao)制(zhi)谣言不能继续成为某些人的生财之道(dao)，亟待织密法治之网(wang)强化法治力量。
文l舒圣(sheng)祥