近期，多地公安(an)机关发布(bu)了(le)多起利用AI工具实施(shi)造谣的相(xiang)关案件(jian)。6月20日，两名营销人员为(wei)博取关注造谣地铁站发生持刀伤人的情况，被上海(hai)警(jing)方依法处以行政拘(ju)留。其中(zhong)一人使用AI软件(jian)生成视频技术，编造了(le)地铁行凶(xiong)的虚假视频等不(bu)实信息发布(bu)到网上，造成恶劣社会影响(xiang)。
智能化(hua)、速成式，一键生成、坐收(shou)流量。通(tong)过AI软件(jian)，给出关键词，软件(jian)便会自动在网络上抓取相(xiang)关信息，生成几百到上千字的文本，配上貌似和事件(jian)相(xiang)关的虚假图片，甚至直接生产虚假视频，从而(er)形成一篇看起来信息量很大，实际上子虚乌有的内(nei)容。场景一键生成、图文真假难(nan)辨(bian)，被玩(wan)坏的AI已经成了(le)某(mou)些(xie)人手(shou)中(zhong)名副其实的“造谣机”，打开了(le)批量造谣的“潘多拉魔盒”。
多起AI造谣事件(jian)背后，造谣者的动机主要是为(wei)了(le)获取互(hu)联网内(nei)容平台给予创作者的点击量、阅读量奖励等。此类生意(yi)并不(bu)新鲜，只不(bu)过，过去这些(xie)人炮制(zhi)稿件(jian)，至少还(hai)需要认识几个字，需要复(fu)制(zhi)粘贴(tie)和拼凑抄袭；如今在AI助力下，进入门槛大大降低，几乎完全零门槛，而(er)且篇篇“原创”，产量更是惊人。之前有媒体报(bao)道，有机构最高峰(feng)一天能生成4000至7000篇，最高的一条收(shou)入700元(yuan)，初步估算(suan)每天收(shou)入1万元(yuan)以上。
内(nei)容越是惊人，越能博取流量，越能牟取收(shou)益。此类网络谣言之所以批量出现，完全是因为(wei)利益驱使。当舆论场上大量充斥类似劣质虚假信息，不(bu)仅会对舆论空间和信息生态造成极大破坏，而(er)且很有可能扰乱社会秩序甚至引发混(hun)乱。AI越强大，谣言越猖狂，这是我们社会的不(bu)可承受之重。便利的AI工具大大降低了(le)造谣成本，提升了(le)谣言的数量级和传播力。AI造谣呈现出门槛低、批量化(hua)、识别难(nan)等特点，亟待加强监管(guan)，斩断背后利益链条。
AI谣言批量涌现，板子首(shou)先应该打在互(hu)联网内(nei)容平台身(shen)上。从根本上说，这帮人整(zheng)天利用AI工具制(zhi)造信息垃圾(ji)，是为(wei)了(le)从互(hu)联网内(nei)容平台赚钱。互(hu)联网内(nei)容平台的利益分(fen)成机制(zhi)，刺激了(le)类似网络谣言的海(hai)量生产；与(yu)此同时，互(hu)联网内(nei)容平台严重的审查漏洞，又给此类垃圾(ji)信息提供了(le)几乎没有限制(zhi)的发表(biao)空间。如果(guo)是传统机构媒体，这些(xie)垃圾(ji)信息不(bu)可能得以发表(biao)，更不(bu)可能获取稿费；但(dan)在自媒体平台上，利用AI炮制(zhi)的任何垃圾(ji)都能轻松发表(biao)，而(er)且越是能够吸引眼球的虚假信息流量分(fen)成越高。
遏制(zhi)利用AI批量制(zhi)造谣言，互(hu)联网内(nei)容平台责(ze)无(wu)旁贷，必(bi)须(xu)切实担负起责(ze)任。用技术解决(jue)技术，用魔法打败魔法，在大数据和新技术面前，识别利用AI炮制(zhi)的垃圾(ji)信息，并没有那么困难(nan)。如果(guo)某(mou)些(xie)自媒体账号，创作量惊人，每天都更新N多篇，而(er)且内(nei)容五花八门，什么热门写什么，账号主体却(que)又没有任何相(xiang)关资质，就非(fei)常值(zhi)得怀疑。关键是，内(nei)容平台愿不(bu)愿意(yi)牺牲流量这么去做。
某(mou)种意(yi)义上，内(nei)容平台也是垃圾(ji)信息的受益者之一，它(ta)们极大提高了(le)平台活跃(yue)度(du)。故而(er)很多平台只有鼓励发文的机制(zhi)，却(que)没有遏制(zhi)垃圾(ji)信息和海(hai)量谣言的动力。
加大对利用AI造谣的惩处力度(du)，是另一个关键所在。利用AI海(hai)量造谣，目(mu)前主要还(hai)是行政处罚为(wei)主，被刑事处罚的并不(bu)多。在界定制(zhi)造AI谣言是否存在主观恶意(yi)以及认定被造谣方损失等方面，目(mu)前还(hai)存在一些(xie)争议。需要强化(hua)相(xiang)关法律(lu)研(yan)究(jiu)和适用，最好是及时出台权威(wei)司法解释，极大提高造谣者的违法成本，同时强化(hua)内(nei)容平台的监管(guan)责(ze)任。利用AI炮制(zhi)谣言不(bu)能继续成为(wei)某(mou)些(xie)人的生财之道，亟待织密(mi)法治之网强化(hua)法治力量。
文l舒圣祥(xiang)