近(jin)日，“AI 大神”、第四范式公司创始人、CEO 戴文渊做客格隆汇高端(duan)访谈《格隆博士会客厅》。

对于以 AI 为代表的硅(gui)基生命，未来可(ke)能进化(hua)出认知能力、判断能力甚至情感、欲望的担忧，戴文渊表示，AI的表现其实(shi)最后都是人为设定的目标导致的，而不是AI自己。

硅(gui)基生命其实(shi)并(bing)不知道(dao)贪婪、欲望叫什么(me)，它(ta)如果选择做人们(men)看来贪婪的事情，那是因为选择贪婪可(ke)以让预测下(xia)一个字的准(zhun)确率提升，源头其实(shi)还是人设定了一个什么(me)样的目标。

例如现在(zai)的推荐(jian)引擎会产生很多的“三俗”内(nei)容，这些“三俗”内(nei)容并(bing)不是 AI 自己喜欢“三俗”，所以也想给你推“三俗”，而是人设定了一个目标——让网民看这个APP的时长尽可(ke)能地长。

然后AI发现推一些“三俗”的内(nei)容会让用户看得更久(jiu)，最后它(ta)就带来了这个结果，但(dan)其实(shi)这并(bing)不是AI的自主意识(shi)，它(ta)只是在(zai)非常理性地计算，干什么(me)样的事情对自己的目标是最好的。

就像大语(yu)言(yan)模型，它(ta)看起来好像在(zai)干很多事情，但(dan)其实(shi)它(ta)干所有事情就只有一个目标——预测下(xia)一个字的准(zhun)确率，预测得尽可(ke)能的高。

虽然最近(jin)的20年AI技术日新月异，但(dan)此时此刻(ke)的理论其实(shi)并(bing)没有突(tu)破上个世纪五六十年代以及七十年代所奠(dian)基的框架。

所以不能说未来AI不会进化(hua)到自己设定自己的目标，但(dan)至少在(zai)这个理论框架没有得到突(tu)破之前，即便(bian)大模型训练数据量、算力再增加几个数量级，AI的目标仍然是人为设定的。

因此相比于硅(gui)基和碳基的替代关系(xi)，大家可(ke)能更需关注的是，人设定的这个目标对于我们(men)整个社(she)会乃至整个世界是否有益。