近日，“AI大(da)神”、第四范(fan)式公司(si)创始人、CEO戴(dai)文渊做客格隆汇(hui)高(gao)端访(fang)谈《格隆博士会客厅(ting)》。
在与格隆的(de)对话中，戴(dai)文渊在谈到(dao)AI的(de)进化隐忧时(shi)指出，在一个可预见的(de)时(shi)间内，还是可控的(de)。
碳基生命利用 AI 去毁灭碳基生命离我们(men)更近。
他担心大(da)家花(hua)过多时(shi)间担忧短期不会发生的(de)事(shi)，反而不太关(guan)注(zhu)更近可能会发生的(de)事(shi)情。
随着AI的(de)进化，AI会否产(chan)生自主意识控制或奴役人类的(de)担忧愈(yu)来愈(yu)多。
不过戴(dai)文渊认为(wei)，在一个可预见的(de)时(shi)间内，还是可控的(de)。
首先，这样(yang)的(de)能力不是很多人能做的(de)到(dao)，现在极(ji)少人能做到(dao)这样(yang)，并且要做到(dao)这样(yang)的(de)效果需要消耗大(da)量的(de)资源。
如果我们(men)发现，当 AI 有了这方面能力以(yi)后，我们(men)可以(yi)及时(shi)的(de)切断这些资源。
第二个，以(yi)这一代的(de)AI基本理(li)论基础，它(ta)需要人类去设置(zhi)目标，而后面 AI 做的(de)所有的(de)事(shi)情都是基于人类设置(zhi)的(de)目标产(chan)生的(de)结果。
如果发现 AI 发生了一些意想不到(dao)的(de)事(shi)情，那我们(men)可以(yi)召集一些最顶尖的(de)科学家去研究是不是目标设置(zhi)的(de)有问题。
如何(he)去修正目标、如何(he)通过修正目标让 AI 不要去做这些事(shi)情，这些在他看来，至少可预见的(de)时(shi)间内，都还是可控的(de)。 戴(dai)文渊表示，作为(wei) AI 从业者，他更担心的(de)不是AI 有了自主的(de)意识去替代人类或者去奴役人类，而是大(da)家花(hua)了过多的(de)时(shi)间去担忧一些短期不会发生的(de)事(shi)情，而更近可能会发生的(de)事(shi)情反倒不太关(guan)注(zhu)。 在他看来，这一代的(de) AI 取决(jue)于人类设置(zhi)的(de)目标。设置(zhi)一个好的(de)目标， AI 就在做好的(de)事(shi)情；设置(zhi)不好的(de)目标， AI 就会干不好的(de)事(shi)情。
另外一个方面， AI 所获取的(de)成本其(qi)实在降(jiang)低(di)。当这个成本降(jiang)低(di)到(dao)一定的(de)程度后，最需要担心的(de)不是 AI 本身，而是我们(men)人类当中不好的(de)那部分(fen)人。 因为(wei)每个人的(de)想法(fa)都会有不一样(yang)且又(you)很难控制，这里面就会产(chan)生很多不可控因素。
这个不可控因素如果没有 AI 叠加(jia)，在过去每一个人的(de)破坏力是有限(xian)的(de)，社会总体是可控的(de)。
但如果由于 AI 门槛不断下降(jiang)，人破坏力得到(dao)提升，这个时(shi)候(hou) AI 对社会的(de)影响就是我们(men)不可忽视的(de)地方。
戴(dai)文渊也提出了自己的(de)的(de)担心和焦虑。他希望让公众更多的(de)关(guan)注(zhu)到(dao)这个点上，不过戴(dai)文渊也表示，现在整(zheng)个社会形态下，没有一个特(te)别好的(de)解法(fa)。所以(yi)在 AI 成本进一步下降(jiang)之前，可能需要一种新的(de)社会组织(zhi)形态，才能控制住(zhu)这些不可控因素的(de)影响。