7月4日至7日,2024世(shi)界人工智能大会暨人工智能全球治理高级别会议(WAIC 2024)将在上海(hai)举(ju)行(xing)。
在开幕式上,人工智能治理技术方向首席专家、清华大学惠妍讲席教授、清华大学电子系(xi)长聘教授、衔远科技创(chuang)始人周伯文(wen)表示,目前AI的发展是(shi)失衡的。
他指出,横(heng)轴是(shi)AI的技术能力的提升,在transformer为代表的基础模(mo)型架构下,将以大数据、大参数量、大计算量的尺(chi)度定律(lu),让目前的AI能力呈指数级增长;与之对比,在纵(zong)轴的AI安全维度,典型的技术如红队测试、安全标识、安全护栏与评估测量等,呈现离散化、碎片化且后置的特性。
他表示,目前世(shi)界上99%的算力用于模(mo)型的训练,只有不到1%用于更多“安全优先”的考量。所以我们需要(yao)找到AI安全优先,但又能保证AI能力长期发展的技术体系(xi)。我们把这样一种技术思想体系(xi)叫做“AI的45度平衡律(lu)”,是(shi)指从(cong)长期的角(jiao)度来(lai)看,我们要(yao)大体上沿着45度的安全与性能平衡发展,所谓的平衡是(shi)指短期内可以有波动(dong),但不能长期低于45度。