近(jin)日(ri)，“AI大神”、第四范式(shi)公司创始人、CEO戴文渊做客格隆(long)汇高端访谈《格隆(long)博士会客厅》。
在(zai)与格隆(long)的对话中，戴文渊在(zai)谈到AI的进化隐忧时指出，在(zai)一个可预(yu)见的时间内，还(hai)是可控的。
碳基生命利用 AI 去毁(hui)灭碳基生命离我们更近(jin)。
他担心大家花过(guo)多时间担忧短期不(bu)会发生的事，反(fan)而不(bu)太关注更近(jin)可能会发生的事情。
随着AI的进化，AI会否产(chan)生自主意识控制或奴役人类的担忧愈(yu)来(lai)愈(yu)多。
不(bu)过(guo)戴文渊认为(wei)，在(zai)一个可预(yu)见的时间内，还(hai)是可控的。
首先，这样的能力不(bu)是很多人能做的到，现在(zai)极少人能做到这样，并且要做到这样的效果需要消耗大量的资源。
如果我们发现，当 AI 有了这方面能力以后，我们可以及时的切断这些资源。
第二个，以这一代的AI基本(ben)理论(lun)基础，它需要人类去设置目标，而后面 AI 做的所有的事情都是基于人类设置的目标产(chan)生的结果。
如果发现 AI 发生了一些意想不(bu)到的事情，那我们可以召集一些最顶尖的科学(xue)家去研究是不(bu)是目标设置的有问题。
如何去修正目标、如何通过(guo)修正目标让 AI 不(bu)要去做这些事情，这些在(zai)他看来(lai)，至少可预(yu)见的时间内，都还(hai)是可控的。 戴文渊表示，作为(wei) AI 从业者(zhe)，他更担心的不(bu)是AI 有了自主的意识去替代人类或者(zhe)去奴役人类，而是大家花了过(guo)多的时间去担忧一些短期不(bu)会发生的事情，而更近(jin)可能会发生的事情反(fan)倒不(bu)太关注。 在(zai)他看来(lai)，这一代的 AI 取(qu)决于人类设置的目标。设置一个好的目标， AI 就在(zai)做好的事情；设置不(bu)好的目标， AI 就会干不(bu)好的事情。
另外(wai)一个方面， AI 所获取(qu)的成本(ben)其实在(zai)降低。当这个成本(ben)降低到一定的程度后，最需要担心的不(bu)是 AI 本(ben)身，而是我们人类当中不(bu)好的那部分人。 因为(wei)每个人的想法都会有不(bu)一样且又很难控制，这里面就会产(chan)生很多不(bu)可控因素。
这个不(bu)可控因素如果没有 AI 叠加，在(zai)过(guo)去每一个人的破(po)坏力是有限(xian)的，社会总体(ti)是可控的。
但如果由于 AI 门槛不(bu)断下降，人破(po)坏力得到提升，这个时候 AI 对社会的影响就是我们不(bu)可忽视(shi)的地方。
戴文渊也提出了自己的的担心和焦(jiao)虑。他希望让公众更多的关注到这个点上，不(bu)过(guo)戴文渊也表示，现在(zai)整个社会形态下，没有一个特别好的解法。所以在(zai) AI 成本(ben)进一步下降之前，可能需要一种新的社会组织形态，才(cai)能控制住这些不(bu)可控因素的影响。