7月(yue)6日，在2024世界(jie)人工智能(neng)大会(hui)AI重(zhong)塑通信未来与可持续发展论坛上，奇安信集团董事长齐向东表示，AI与安全是(shi)数字化转型与可持续发展的(de)必修课，我国的(de)广大数字经济(ji)建设力量既要用AI去驱动(dong)安全，又要做好AI自身(shen)安全，护航数字化转型与可持续发展。
人工智能(neng)是(shi)引领新一轮科技革命和产(chan)业变革的(de)核心技术，为各(ge)行各(ge)业带来了全新赋(fu)能(neng)和全新机遇(yu)。但在享(xiang)受人工智能(neng)技术红(hong)利的(de)同(tong)时，也(ye)不能(neng)忽(hu)略随之而来的(de)安全风(feng)险。齐向东总结(jie)，AI的(de)安全风(feng)险主(zhu)要来自三个方面。
一是(shi)AI本身(shen)存在安全风(feng)险，数据(ju)污染和投毒轻而易(yi)举。二是(shi)AI应(ying)用存在安全风(feng)险，数据(ju)泄露和数据(ju)滥用防不胜防。当员工向人工智能(neng)工具“投喂”数据(ju)时，极(ji)易(yi)造成敏感(gan)信息、核心机密和其他数据(ju)泄露风(feng)险；更可怕(pa)的(de)是(shi)，不法分子还能(neng)利用所掌握的(de)信息和数据(ju)，通过(guo)AI深度伪造技术创建虚假(jia)身(shen)份，进行换脸、换声，达到(dao)不可告人的(de)目的(de)。三是(shi)AI被黑客利用加剧安全风(feng)险，饱和式攻击猖獗。生成式AI可以生成恶意软件、钓鱼邮件，也(ye)可以快速发现目标系统中的(de)漏洞，从而加速和扩大攻击规模，这大幅(fu)降(jiang)低了网络攻击门槛(kan)，网络攻击数量大幅(fu)增加。
AI引发的(de)安全风(feng)险固然不容(rong)忽(hu)视，但同(tong)时，当AI在网络安全领域被正确使用，也(ye)能(neng)够进步提升安全能(neng)力，更加高效(xiao)、智能(neng)地对抗网络威胁(xie)。齐向东表示，针(zhen)对攻击者突破单点设备、突破防护体系、隐藏踪迹(ji)的(de)三个进攻阶段，AI能(neng)给安全防护带来十(shi)倍(bei)、百倍(bei)乃至千倍(bei)的(de)效(xiao)率跃升，将攻击扼杀在事发之前。
如何用好“AI+安全”，为数字化转型提供(gong)助力？齐向东提出，要积极(ji)构建高可靠人工智能(neng)安全体系，着力为用户提供(gong)有效(xiao)的(de)安全防护，既要用AI去驱动(dong)安全，又要做好AI自身(shen)安全。第一，高质量的(de)数据(ju)是(shi)高水平AI的(de)基础(chu)。第二，体系化的(de)网络安全建设是(shi)AI发挥效(xiao)率的(de)平台。第三，统一的(de)标准能(neng)为AI驱动(dong)安全的(de)体系化落地扫除障碍。一方面，统一的(de)数据(ju)输入标准，能(neng)让AI读懂“多国语言”，完成体系化分析；另一方面，要统一指令输出标准，让AI实现跨(kua)设备、跨(kua)系统的(de)能(neng)力协同(tong)和全局联动(dong)。不仅如此，还要做好AI自身(shen)的(de)安全防护，让安全合规贯穿(chuan)全生命周期，确保AI在需求侧(ce)落地应(ying)用。
文(wen)/北京青年报记(ji)者 温(wen)婧
编(bian)辑/田野