近日，“AI 大(da)神”、第四范(fan)式公(gong)司创始人、CEO 戴文渊做客格隆汇高端访谈《格隆博士(shi)会客厅》。

对于以 AI 为(wei)代表的(de)硅基生(sheng)命，未(wei)来(lai)可能进化出认知能力、判(pan)断能力甚(shen)至情感、欲望(wang)的(de)担忧，戴文渊表示，AI的(de)表现其实最(zui)后都是(shi)人为(wei)设定(ding)的(de)目标导致的(de)，而不是(shi)AI自己。

硅基生(sheng)命其实并不知道贪婪(lan)、欲望(wang)叫什么(me)，它如果(guo)选择做人们看来(lai)贪婪(lan)的(de)事(shi)情，那是(shi)因为(wei)选择贪婪(lan)可以让预测下(xia)一个字的(de)准(zhun)确(que)率提升，源头其实还是(shi)人设定(ding)了一个什么(me)样的(de)目标。

例如现在的(de)推荐引擎会产生(sheng)很多的(de)“三俗”内容，这些“三俗”内容并不是(shi) AI 自己喜欢(huan)“三俗”，所以也想给你推“三俗”，而是(shi)人设定(ding)了一个目标——让网民看这个APP的(de)时长尽可能地长。

然后AI发现推一些“三俗”的(de)内容会让用(yong)户看得更久，最(zui)后它就(jiu)带来(lai)了这个结果(guo)，但其实这并不是(shi)AI的(de)自主意识，它只是(shi)在非常理性地计算(suan)，干什么(me)样的(de)事(shi)情对自己的(de)目标是(shi)最(zui)好的(de)。

就(jiu)像大(da)语言模(mo)型，它看起来(lai)好像在干很多事(shi)情，但其实它干所有事(shi)情就(jiu)只有一个目标——预测下(xia)一个字的(de)准(zhun)确(que)率，预测得尽可能的(de)高。

虽然最(zui)近的(de)20年AI技术(shu)日新月异，但此时此刻的(de)理论其实并没(mei)有突破上个世(shi)纪五六十年代以及七十年代所奠基的(de)框架。

所以不能说未(wei)来(lai)AI不会进化到自己设定(ding)自己的(de)目标，但至少(shao)在这个理论框架没(mei)有得到突破之前，即(ji)便(bian)大(da)模(mo)型训练数据(ju)量、算(suan)力再增(zeng)加几个数量级，AI的(de)目标仍然是(shi)人为(wei)设定(ding)的(de)。

因此相(xiang)比(bi)于硅基和碳基的(de)替(ti)代关系，大(da)家可能更需(xu)关注的(de)是(shi)，人设定(ding)的(de)这个目标对于我们整个社会乃至整个世(shi)界是(shi)否有益(yi)。