本(ben)文转自【法治日报(bao)】；
记(ji)者 张守(shou)坤
“有图有真相，这都是专家(jia)认证过的。”
近(jin)日，天津市民李萌（化名(ming)）与(yu)母亲就一(yi)篇“科普文章”发生了激烈的争吵：母亲坚信文章中有视频、有图，还(hai)有各种所谓博士(shi)、医(yi)疗团(tuan)队得出的研究(jiu)结论，不(bu)可能是假的；李萌仔细辨别文章发现，文章为AI生成，平台也进(jin)行了辟谣，肯定是假的。
这篇文章的内容与(yu)猫有关——有一(yi)名(ming)女生抱着猫玩，得了一(yi)种绝症叫“毛病”，后期整个人变得面(mian)目全非。也正是因(yin)为这篇文章，李萌母亲坚决反对她(ta)养猫，因(yin)为害怕她(ta)也患上“毛病”。李萌对此哭笑不(bu)得，“真希望我(wo)妈能少上点网”。
被AI谣言坑骗的远不(bu)止李萌母亲。近(jin)期，多地公安机关发布了多起利用(yong)AI工具实施造谣的相关案件，如发布“西安突发爆炸(zha)”虚假新闻的账号所属机构，最高峰(feng)一(yi)天能生成4000至7000篇假新闻，每天收入(ru)在1万元以上，而公司实际控制人王某某经营着5家(jia)这样的机构，运营账号达(da)842个。
接受《法治日报(bao)》记(ji)者采访的专家(jia)指出，便利的AI工具大幅降低了造谣的制造成本(ben)，提升了谣言的数量(liang)级和传播力。AI造谣呈现出门(men)槛低、批量(liang)化、识别难等特点，亟待(dai)加强监管，斩断背(bei)后利益链条。
用(yong)AI编造不(bu)实消(xiao)息
传播迅(xun)速多人受骗
6月20日，上海警方发布通报(bao)，两名(ming)品牌(pai)营销人员为蹭热度，编造了“中山(shan)公园地铁站捅人”等不(bu)实信息，相关人员已被警方行政拘留。通报(bao)中，有个细节引人注意：一(yi)名(ming)造假者使用(yong)AI软件生成视频技术，编造了地铁行凶的虚假视频等不(bu)实信息。
记(ji)者梳理发现，近(jin)年(nian)来，利用(yong)AI造谣现象(xiang)频发，且(qie)传播速度极快(kuai)，一(yi)些谣言造成不(bu)小的社会(hui)恐慌和危害。
去(qu)年(nian)，在上海一(yi)女童走失事件中，一(yi)团(tuan)伙以“标题党”“震惊(jing)体”方式，恶意编造炒作“女孩父亲系继父”“女孩被带往温州(zhou)”等谣言。该团(tuan)伙利用(yong)AI工具等生成谣言内容，通过114个账号矩阵，在6天内发布268篇文章，多篇文章点击量(liang)超过100万次。
公安部网安局(ju)近(jin)期公布一(yi)起案例。2023年(nian)12月以来，一(yi)条“西安市鄠邑区地下涌出热水”的信息频繁在网络上传播，出现如“地下出热水是因(yin)为发生了地震”“是因(yin)为地下热管道破裂”等谣言。经查，相关谣言是通过AI洗稿(gao)方式生成的。
近(jin)日，“济南一(yi)高层住宅(zhai)楼起火，多人跳楼逃生”“晨练大爷在济南英雄山(shan)附近(jin)发现坟中活人”……这些离谱的“重磅消(xiao)息”在网上广泛传播，引起大量(liang)关注。济南市委网信办(ban)第一(yi)时间通过济南互联网联合辟谣平台进(jin)行辟谣，但还(hai)是有不(bu)少人被“有图有真相”的表象(xiang)迷惑。
清华大学新闻与(yu)传播学院新媒体研究(jiu)中心今年(nian)4月发布的一(yi)份研究(jiu)报(bao)告显(xian)示(shi)，近(jin)两年(nian)的AI谣言中，经济与(yu)企业类谣言占(zhan)比(bi)最高，达(da)43.71%；近(jin)一(yi)年(nian)来，经济与(yu)企业类AI谣言量(liang)增速高达(da)99.91%，其中餐饮(yin)外卖、快(kuai)递(di)配送等行业更是AI谣言重灾区。
那(na)么，利用(yong)AI制造一(yi)篇假新闻究(jiu)竟有多简单？
记(ji)者用(yong)市面(mian)上流行的多款人工智能软件测试发现，只要给出关键词，就能在几秒钟内立刻生成一(yi)篇“新闻报(bao)道”，包括事情详细经过、评论观点、后续做法等，只要加上时间地点，再配上图片(pian)和背(bei)景(jing)音乐，一(yi)篇以假乱真的新闻报(bao)道便制作完成。
记(ji)者发现，很多AI生成的谣言中，都夹杂(za)着“据(ju)报(bao)道”“相关部门(men)正对事故原因(yin)进(jin)行深入(ru)调查，并采取(qu)措施进(jin)行抢修(xiu)”“提醒广大市民在日常(chang)生活中要注意安全”等内容，在网上发布后人们往往难辨真伪。
除了AI新闻，科普文章，图片(pian)、配音视频、换脸后模仿声音，这些都可以利用(yong)AI产生，在人工进(jin)行微调并融入(ru)一(yi)些真实的内容后，它们就会(hui)变得难以辨别。
中国(guo)人民大学新闻与(yu)社会(hui)发展中心研究(jiu)员曾持说，“生成式AI”的拼接本(ben)质和谣言有很强的亲近(jin)性，二者都属于“无中生有”——创造看起来真实合理的信息。AI让造谣更加简单和“科学”了，AI根据(ju)热点事件总结规律、拼接情节，很快(kuai)就能制作出符合人们“期待(dai)”的谣言，传播更加迅(xun)速。
“网络平台可以用(yong)AI技术反向对图像和视频的拼接进(jin)行检(jian)测，但很难对内容进(jin)行审查。当下人们并没有能力完全拦截谣言，更何况有许多未经证实或无法证实、模棱两可的信息。”曾持说。
为获流量(liang)牟利造假
涉嫌构成多种罪名(ming)
有些AI软件的“造谣效率”非常(chang)惊(jing)人。比(bi)如，出现了“一(yi)天能生成19万篇文章”的造假软件。
据(ju)查获该软件的西安警方介绍，警方提取(qu)了该软件7天保存的文章，发现总量(liang)超过100万篇，涉及时事新闻、社会(hui)热点、社会(hui)生活等各方面(mian)。账号的使用(yong)者有组织地将这些“新闻”发布到相关平台，再利用(yong)平台的流量(liang)奖励制度等获利。目前，该案涉及的账号已被平台查封(feng)，有关软件和服务器也被关闭(bi)，警方还(hai)在对案件进(jin)行深挖。
在多起AI造谣事件背(bei)后，造谣者的动机主(zhu)要源于引流和借(jie)此牟利。
“用(yong)AI批量(liang)生产爆款文案，突然你就变有钱了”“让AI帮我(wo)写推广文，1分(fen)钟搞定3篇”“图文创作，AI自动写文章，单号轻松日产500+，可多号操(cao)作，小白轻松上手”……记(ji)者检(jian)索(suo)发现，很多社交平台上都有类似“致富”文章流传，评论区还(hai)有不(bu)少博主(zhu)在推送。
今年(nian)2月，上海公安机关发现，在一(yi)家(jia)电(dian)商平台上出现了某艺人“命运多舛(chuan)、含恨离世”等短视频，引发大量(liang)点赞(zan)和转发。
经查，该视频内容系伪造。视频发布者到案后交代，他在某电(dian)商平台上经营一(yi)家(jia)土特产网店(dian)。由于销量(liang)不(bu)佳，他便通过编造夺人眼球的虚假新闻给网店(dian)账号吸(xi)引流量(liang)。他不(bu)会(hui)视频剪辑，便利用(yong)AI技术生成文本(ben)和视频。
北京(jing)瀛和律师事务所合伙人张强告诉记(ji)者，利用(yong)AI编造网络谣言，尤其是编造、故意传播虚假的险情、疫情、灾情、警情，可能涉嫌刑法编造、故意传播虚假信息罪。如果(guo)影响到个人或企业的名(ming)誉，可能涉嫌刑法诽谤罪和损害商业信誉、商业名(ming)誉罪。如果(guo)影响到股票证券、期货交易(yi)，扰乱交易(yi)市场，可能涉嫌刑法编造并传播证券、期货交易(yi)虚假信息罪。
持续完善辟谣机制
明(ming)确(que)标注合成内容
为治理AI造假乱象(xiang)，深化网络生态治理，近(jin)年(nian)来相关部门(men)和平台出台多项政策和措施。
早在2022年(nian)，中央网信办(ban)等就发布了《互联网信息服务深度合成管理规定》，规定任何组织和个人不(bu)得利用(yong)深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不(bu)得利用(yong)深度合成服务从事危害国(guo)家(jia)安全和利益、损害国(guo)家(jia)形象(xiang)、侵害社会(hui)公共利益、扰乱经济和社会(hui)秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和使用(yong)者不(bu)得利用(yong)深度合成服务制作、复制、发布、传播虚假新闻信息。
今年(nian)4月，中央网信办(ban)秘书局(ju)发布《关于开展“清朗·整治‘自媒体’无底线博流量(liang)”专项行动的通知》，要求加强信息来源标注展示(shi)。使用(yong)AI等技术生成信息的，必(bi)须明(ming)确(que)标注系技术生成。发布含有虚构、演绎等内容的，必(bi)须明(ming)确(que)加注虚构标签。
针对疑似使用(yong)AI技术的内容，一(yi)些平台会(hui)在下方贴上“内容疑似AI生成，请谨慎甄(zhen)别”的提示(shi)，并对包含虚构、演绎等环节的内容，明(ming)确(que)加注虚构标签，对违规账号采取(qu)“封(feng)号”等举措。部分(fen)大模型开发者也表示(shi)，会(hui)通过后台设(she)置的方式，对通过大模型生成的内容打上水印，告知用(yong)户。
在张强看来，人们对于生成式AI还(hai)没有足够的了解，也缺乏应对经验(yan)。在这种情况下，通过媒体提醒人们注意甄(zhen)别AI信息，是非常(chang)必(bi)要的。同时需要在执法层面(mian)加大响应力度，对于通过AI造谣、诈骗等行为及时予以查纠。
中国(guo)传媒大学文化产业管理学院法律系主(zhu)任郑宁认为，应进(jin)一(yi)步完善现有的辟谣机制，一(yi)旦某一(yi)条信息被甄(zhen)别为谣言，要立刻进(jin)行标注，并且(qie)向浏览过该谣言的用(yong)户再次推送，进(jin)行辟谣提示(shi)，以免该谣言进(jin)一(yi)步传播，造成更大的伤害。
值(zhi)得注意的是，有些人主(zhu)观上可能并无造谣意识，只是将AI合成内容发布在网络上，结果(guo)被大量(liang)转发，让不(bu)少人相信，从而产生危害。
对此，曾持认为，一(yi)个最简单的防范(fan)方式就是通过有关部门(men)或平台制定规定，必(bi)须在所有AI合成内容中都标明(ming)“此图片(pian)/视频为AI合成”。