中新网(wang)北京(jing)7月6日电(中新财经记者 吴(wu)涛)随着AI大模型的(de)发展，新技(ji)术应用不断加码的(de)同时，网(wang)络威胁也随之升级。提升安全防护能力，筑(zhu)牢安全基线，成为发展数智技(ji)术的(de)关键。
2024年7月2日至(zhi)5日，2024全球数字经济大会在北京(jing)举行(xing)。中新网(wang)记者 吴(wu)涛 摄
在2024全球数字经济大会期间举办(ban)的(de)多个分论(lun)坛上，不少嘉宾都(dou)提到(dao)了(le)AI安全话(hua)题，要用“魔法打败魔法”，AI驱动提升网(wang)络安全攻防能力。不少网(wang)络安全产(chan)品一个重要指标便(bian)是“含AI量”。
AI衍生出新安全问题
据多位业内人士介(jie)绍，大模型发展的(de)同时，也带(dai)来了(le)非常复杂的(de)安全问题，同时还降(jiang)低了(le)网(wang)络攻击的(de)技(ji)术门槛，借助AI能力，攻击者越来越走(zou)向自动化(hua)、智能化(hua)和武器化(hua)，甚至(zhi)造成安全防御(yu)的(de)整体瘫痪。
赛迪顾问总裁助理高丹表示，涉及(ji)到(dao)的(de)安全问题首先就是“幻觉(jue)”问题。“你问AI大模型一个问题，它可(ke)能说得清清楚(chu)楚(chu)，但其实都(dou)在瞎说，真假难辨”。
360数字安全集团(tuan)总裁胡振(zhen)泉(quan)表示，人工智能的(de)算法可(ke)能存在数据投毒攻击、恶意样本攻击；生成式人工智能在对话(hua)交互的(de)过程当中也可(ke)能存在数据非法获取、泄露和滥用等问题；还有很(hen)多利(li)用人工智能制作虚假视频进(jin)行(xing)诈骗、敲诈勒索(suo)等非法活动。
清华大学(xue)长聘副教授(shou)张(zhang)超表示，网(wang)络安全第(di)一阶段是“人做攻防”，第(di)二(er)阶段是“机(ji)器攻防”。自2017年开始(shi)，已(yi)经进(jin)入第(di)三阶段“智能攻防”，即用AI来做漏洞攻防相关研究，现(xian)在一些领先的(de)安全企业已(yi)经强调用AI来做全自动攻防的(de)机(ji)器人。
逆向利(li)用大模型
该如何解决AI时代带(dai)来的(de)安全问题？中国工程院院士沈昌祥在大会期间的(de)分论(lun)坛上表示，数据安全治理需要做到(dao)全程管控，要实现(xian)首先让进(jin)攻者“进(jin)不去”，进(jin)去后(hou)“拿不到(dao)”数据，接着因为数据被加密(mi)“看不懂”，并且系统带(dai)有自动免疫功能，让进(jin)攻者“改不了(le)”数据。
“大模型一个典(dian)型应用是信息缺失之后(hou)模型帮你补偿出来，比如文生图、文生视等。如果用在安全上呢？”张(zhang)超表示，黑客针对目标软件，需要拿到(dao)一个目标软件漏洞然后(hou)攻击它，第(di)一步就需要去理解它、分析(xi)它，这个地(di)方叫逆向工程，因为没有源(yuan)代码，可(ke)以使用一些AI软件把它逆向出来。
高丹认为，解决大模型“幻觉(jue)”等安全问题，首先要保证(zheng)数据安全，数据不被泄露；第(di)二(er)数据源(yuan)本身是干净的(de)；第(di)三要加强算法研究。从算法的(de)角度来说，我们的(de)算法能力越强，就能够减少相对的(de)“幻觉(jue)”。
胡振(zhen)泉(quan)认为，AI技(ji)术和数字安全的(de)融合发展已(yi)经成为行(xing)业高度关注的(de)课题，要用“以魔治魔”的(de)理念，来解决人工智能面临的(de)安全问题，也就是研发安全大模型，用人工智能来解决人工智能的(de)安全问题。
沈昌祥还表示，不仅(jin)仅(jin)要做好预防，还要能在发现(xian)故障后(hou)及(ji)时采取措施确(que)保稳定运行(xing)，保证(zheng)设(she)备(bei)“瘫不了(le)”，最后(hou)还要确(que)保行(xing)为可(ke)追溯“赖不掉”，因此我们还要打造安全可(ke)信的(de)产(chan)业新生态，筑(zhu)牢数字经济安全的(de)基座(zuo)。(完)