7月4日至7日,2024世界人工智能大会(hui)暨人工智能全球治理高级别(bie)会(hui)议(yi)(WAIC 2024)将(jiang)在上海举行。
在开幕式上,人工智能治理技术方向首(shou)席专家、清华大学惠(hui)妍讲席教(jiao)授、清华大学电子系长聘教(jiao)授、衔远(yuan)科技创始人周伯文(wen)表示,目前(qian)AI的发展是失衡的。
他(ta)指出,横轴是AI的技术能力的提升,在transformer为代表的基础模型架构下,将(jiang)以大数据、大参数量、大计(ji)算(suan)量的尺度定(ding)律,让目前(qian)的AI能力呈指数级增长;与之对比,在纵轴的AI安全维度,典型的技术如红队(dui)测试、安全标识(shi)、安全护(hu)栏与评估(gu)测量等(deng),呈现离散化、碎片化且后置(zhi)的特性。
他(ta)表示,目前(qian)世界上99%的算(suan)力用于模型的训练,只有不到1%用于更多(duo)“安全优先(xian)”的考量。所以我(wo)们需要找到AI安全优先(xian),但又能保证AI能力长期发展的技术体系。我(wo)们把这样(yang)一种技术思想体系叫做“AI的45度平衡律”,是指从长期的角度来看,我(wo)们要大体上沿着45度的安全与性能平衡发展,所谓的平衡是指短期内可以有波动,但不能长期低于45度。