4月12日，公安(an)部公布10起打击整治网络谣言违法犯罪典型案例，其中4起典型案例涉及使用(yong)人工智能（以下(xia)简称AI）技术(shu)编造虚假信息；4月23日，北京互联网法院一审开(kai)庭宣判AI生成声音人格权(quan)侵权(quan)案……
近年来，随着AI技术(shu)的(de)快速发展，越来越多的(de)人在(zai)工作生活中开(kai)始享(xiang)受到该(gai)技术(shu)所带来的(de)全新体验，但伴随而来的(de)是，利用(yong)或滥用(yong)AI技术(shu)从事违法犯罪的(de)活动（以下(xia)简称AI犯罪）日益增多。
对此，政法机关依法履职，持续深挖彻查AI犯罪，不断扩大办(ban)案战果，努力(li)提升打击治理(li)质效(xiao)，全力(li)维护人民群(qun)众合法权(quan)益。
“政法机关立足主责主业，发挥(hui)职能作用(yong)，全力(li)打击治理(li)AI犯罪，防范不法分子利用(yong)或滥用(yong)AI技术(shu)侵犯公民权(quan)利、危害公共安(an)全，保证AI技术(shu)始终沿着正确的(de)轨道向前发展。”首(shou)都师范大学政法学院法律系副教(jiao)授(shou)崔俊杰对《法治日报》记者说。
AI犯罪“花样”层出不穷
“电脑AI去衣(yi)，白菜价。”
2023年6月，原是北京一家互联网公司技术(shu)员的(de)白某某，在(zai)境外(wai)的(de)社交媒(mei)体上接触到了“一键去衣(yi)”的(de)AI技术(shu)，便动起了歪心思。
白某某通过境外(wai)的(de)网站发布广(guang)告，在(zai)某社交软件(jian)上贩卖深度伪造淫(yin)秽图片近7000张，获(huo)利一万多元。目前白某某已被提起公诉。
“一键去衣(yi)”究竟是怎样的(de)一种技术(shu)？记者了解到，这项技术(shu)并不是真的(de)“去衣(yi)”，而是在(zai)图片的(de)基础上，通过AI自行运算使用(yong)相关的(de)淫(yin)秽图像素材对图片进行重绘，和“AI换脸”“AI变声”一样，属(shu)于(yu)利用(yong)AI深度学习、虚拟现实等(deng)生成合成类算法制(zhi)作文本、图像、音频、视频、虚拟场景等(deng)信息的(de)技术(shu)。
“电诈(zha)犯罪团伙能够通过AI技术(shu)‘换脸’‘变声’，甚至是‘动态换脸’，增加了传统犯罪活动的(de)危害性，还产生了新型的(de)违法行为，如(ru)使用(yong)AI‘绘画’技术(shu)生成的(de)绘画作品(pin)可能会(hui)对他(ta)人著作权(quan)造成侵权(quan)。”崔俊杰表示(shi)，当前AI技术(shu)已被不法分子使用(yong)于(yu)网络钓鱼、深度伪造、绕过身份检查、“越狱”式(shi)服务、人肉搜索和监视五个方(fang)面，进一步降低了犯罪的(de)门槛。
5月6日下(xia)午，江西省鹰潭市(shi)余江区人民法院公开(kai)宣判全国首(shou)例“AI游戏外(wai)挂”案，依法对被告人王某合以提供侵入、非(fei)法控制(zhi)计算机信息系统程(cheng)序、工具罪判处(chu)有期徒刑三年，缓刑五年。宣判后，王某合表示(shi)服从判决，不上诉。
经审理(li)查明：王某合通过制(zhi)作出售“AI外(wai)挂”的(de)方(fang)式(shi)牟利，2022年，其先后联系万某至、张某（另案处(chu)理(li)）等(deng)人编写(xie)“AI外(wai)挂”程(cheng)序。至案发，王某合非(fei)法获(huo)利共计629万余元。
据(ju)悉，该(gai)程(cheng)序可对多款游戏的(de)画面数据(ju)进行未授(shou)权(quan)获(huo)取(qu)，对游戏中处(chu)理(li)的(de)鼠标数据(ju)指令进行未授(shou)权(quan)修改，造成玩家在(zai)玩游戏时，不用(yong)操作就可以“自动瞄准”“自动开(kai)枪”，干扰了游戏的(de)正常运行环(huan)境，属(shu)于(yu)破坏性程(cheng)序。
在(zai)崔俊杰看来，AI技术(shu)标准化程(cheng)度低、可定制(zhi)性强、应(ying)用(yong)场景广(guang)泛，不法分子作案手法越发多样，导致AI犯罪不断衍(yan)生升级，如(ru)不及时进行打击治理(li)，会(hui)给网络安(an)全，甚至广(guang)大群(qun)众的(de)生命(ming)财产安(an)全带来严峻挑战。
从严打击形成有效(xiao)震慑(she)
为应(ying)对挑战，政法机关采取(qu)一系列措施打击AI犯罪，维护AI技术(shu)良(liang)好的(de)发展环(huan)境，避免其在(zai)应(ying)用(yong)过程(cheng)中引发失序和失范。
2023年9月，最高人民法院、最高人民检察院、公安(an)部联合发布《关于(yu)依法惩治网络暴(bao)力(li)违法犯罪的(de)指导意见》，明确对“利用(yong)‘深度合成’等(deng)生成式(shi)人工智能技术(shu)发布违法信息”的(de)情形予以从重处(chu)罚。
4月23日，全国首(shou)例AI生成声音人格权(quan)侵权(quan)案在(zai)北京互联网法院一审开(kai)庭宣判，法院认定被告方(fang)使用(yong)原告声音、开(kai)发涉案AI文本转语音产品(pin)未获(huo)得合法授(shou)权(quan)，构成侵权(quan)，赔(pei)偿原告各项损失25万元，并书面赔(pei)礼道歉。
6月25日，江苏省张家港市(shi)人民检察院向市(shi)人民法院就一起敲诈(zha)勒索、诈(zha)骗(pian)案件(jian)提起公诉。据(ju)悉，犯罪嫌疑(yi)人所在(zai)的(de)境内团伙通过虚拟定位、AI技术(shu)合成照片等(deng)方(fang)式(shi)，在(zai)交友(you)软件(jian)上将自己(ji)包装成在(zai)外(wai)国的(de)中国女(nu)留学生，随后以谈恋(lian)爱等(deng)名义(yi)，向在(zai)国外(wai)的(de)留学生索取(qu)钱财。目前已查实该(gai)团伙敲诈(zha)勒索、诈(zha)骗(pian)50余人，涉案金额达100余万元。
自最高检去年11月发布《检察机关打击治理(li)电信网络诈(zha)骗(pian)及其关联犯罪工作情况（2023年）》后，各地检察机关按照相关要求，加大对侵犯公民个人信息尤其是非(fei)法获(huo)取(qu)人脸、声纹等(deng)敏(min)感信息、利用(yong)AI等(deng)前沿技术(shu)伪造人脸、声纹以及获(huo)取(qu)其他(ta)信息犯罪的(de)打击力(li)度。
此外(wai)，全国公安(an)机关去年依托“净网”专项行动组织专项会(hui)战，严打泄露身份证照片等(deng)图像信息的(de)犯罪源头，破获(huo)利用(yong)AI技术(shu)“换脸”进行诈(zha)骗(pian)犯罪案件(jian)79起，抓(zhua)获(huo)犯罪嫌疑(yi)人515名，有效(xiao)遏制(zhi)了该(gai)类犯罪势(shi)头。
政法机关依法打击AI犯罪，并通过办(ban)理(li)典型案例的(de)方(fang)式(shi)形成震慑(she)，让想(xiang)用(yong)AI技术(shu)非(fei)法获(huo)利的(de)人心生畏惧。
强化治理(li)实现标本兼治
记者了解到，在(zai)依法打击AI犯罪的(de)过程(cheng)中，政法机关深挖这一违法犯罪的(de)规律特点，坚(jian)持以打开(kai)路、打防并举、源头治理(li)、综合施策，会(hui)同(tong)相关部门单(dan)位深入推进行业治理(li)、综合治理(li)，压(ya)实主体责任，强化行业监督，堵住监管漏(lou)洞，全力(li)挤压(ya)相关违法犯罪活动空间，加速完善常态化治理(li)机制(zhi)，切(qie)实提高其违法成本。
据(ju)悉，为防范和打击“AI换脸”犯罪，全国公安(an)机关联合国家重点实验室等(deng)单(dan)位，开(kai)展人脸识别与活体检测技术(shu)安(an)全测评(ping)，覆盖即时通信、网络直(zhi)播、网络社交、电商平台、金融支付等(deng)重点App，及时发现人脸识别验证系统存在(zai)的(de)风险隐患，通报运营主体升级安(an)全保护措施和人脸识别算法，不给不法分子可乘之机。
与此同(tong)时，各地通过多种形式(shi)的(de)宣传教(jiao)育(yu)，帮助群(qun)众更加清晰认识到AI技术(shu)被利用(yong)或滥用(yong)所带来的(de)法律风险，增强了大家对AI犯罪的(de)防范意识。
今年4月，安(an)徽省合肥市(shi)警方(fang)通过中央媒(mei)体在(zai)关于(yu)“AI软件(jian)成造谣工具”节目中揭秘谣言制(zhi)作过程(cheng)，让网民更直(zhi)观地加深了对AI造谣的(de)认识，起到了较(jiao)好的(de)宣传效(xiao)果。
2024年以来，浙江省杭州市(shi)临平区借助“反诈(zha)智能AI宣防外(wai)呼系统”，自动识别、分析和预警潜在(zai)的(de)诈(zha)骗(pian)风险，并以电话(hua)语音形式(shi)向市(shi)民发送(song)提醒信息，不仅大幅提升工作效(xiao)能，也切(qie)实提高了市(shi)民对诈(zha)骗(pian)风险的(de)警觉性，降低了诈(zha)骗(pian)案件(jian)的(de)发生率。
“随着AI技术(shu)的(de)快速迭代，对其被不法分子利用(yong)或滥用(yong)进行防治提出了更高要求。如(ru)AI犯罪行为更为隐蔽和复杂，证据(ju)收(shou)集难度大。”崔俊杰说，因此，如(ru)何更好地防治AI犯罪，对内容生成平台、行业监管部门乃至政法机关等(deng)各方(fang)都提出了挑战。
崔俊杰建议，要坚(jian)持以科学适度的(de)治理(li)方(fang)式(shi)和治理(li)手段回应(ying)技术(shu)发展和社会(hui)变迁，针对AI犯罪特点，相关部门需(xu)及时推动相关法律的(de)立改废释纂，以良(liang)法促善治，提高依法治理(li)水平；加大全链条打击力(li)度，强化各部门协同(tong)配合，加强大数据(ju)法律监督模型应(ying)用(yong)，善于(yu)从中发现重点监督线索和社会(hui)治理(li)存在(zai)的(de)难点问题，实现精准监督、有效(xiao)监督，在(zai)确保行业良(liang)性健(jian)康发展的(de)基础上实现精准治理(li)。