新浪(lang)科技讯 6月14日下午消息，今日举办的(de)2024智源大(da)会上，百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨(yang)植麟、面壁(bi)智能联合创始人、CEO李大(da)海共同出席《尖(jian)峰对话：通(tong)往AGI之路》环节。

对于AI安(an)全问题，百川智能CEO王小川表示，安(an)全有不同的(de)内涵和外延，他将其分为三层安(an)全：

第一是意识(shi)形(xing)态安(an)全，做to c公众服务(wu)，要跟国家发展、国家意志保持一致，这是大(da)家的(de)一个基本功；

第二是比较远的(de)安(an)全，模型是不是把人类毁灭了，以(yi)后(hou)人就没了，然后(hou)机器掌握世界了，其实内心来想不希望发生的(de)，就像核弹一样(yang)的(de)把人类文明给搞没了。但是至于这个模型它是否比人更聪明，能够取代人做事情，这是个鼓励的(de)一件事情。这个技术能够跟我们一块去拓展人类文明，这件事情是有意义的(de)。

第三是现实安(an)全，现在的(de)AI能力还很弱，就不要想什么颠覆人类这么复(fu)杂的(de)事，现实中在近(jin)期还不存在安(an)全的(de)问题。