近日，“AI 大神(shen)”、第四范式公司创始人、CEO 戴文渊做客格隆汇高端访谈《格隆博士会(hui)客厅(ting)》。

对于以 AI 为代表的硅(gui)基生命，未来可能进化出认(ren)知能力、判断能力甚至情感、欲望的担忧(you)，戴文渊表示，AI的表现其实最(zui)后(hou)都是人为设定的目标导致(zhi)的，而不(bu)是AI自己。

硅(gui)基生命其实并不(bu)知道贪婪、欲望叫什(shi)么，它如果选择做人们看来贪婪的事情，那是因为选择贪婪可以让预测下一个字的准确率提升，源头其实还(hai)是人设定了一个什(shi)么样的目标。

例如现在的推(tui)荐引擎会(hui)产(chan)生很多(duo)的“三俗”内(nei)容，这些“三俗”内(nei)容并不(bu)是 AI 自己喜欢“三俗”，所以也想给(gei)你推(tui)“三俗”，而是人设定了一个目标——让网(wang)民看这个APP的时长尽可能地长。

然后(hou)AI发现推(tui)一些“三俗”的内(nei)容会(hui)让用户看得更(geng)久，最(zui)后(hou)它就带来了这个结果，但其实这并不(bu)是AI的自主意识，它只是在非常理性地计(ji)算，干什(shi)么样的事情对自己的目标是最(zui)好的。

就像大语言模型，它看起来好像在干很多(duo)事情，但其实它干所有事情就只有一个目标——预测下一个字的准确率，预测得尽可能的高。

虽然最(zui)近的20年AI技术日新月异，但此(ci)时此(ci)刻的理论其实并没有突破(po)上个世(shi)纪(ji)五六(liu)十年代以及七十年代所奠基的框架。

所以不(bu)能说(shuo)未来AI不(bu)会(hui)进化到自己设定自己的目标，但至少在这个理论框架没有得到突破(po)之(zhi)前，即便大模型训练数据量(liang)、算力再增加几个数量(liang)级，AI的目标仍然是人为设定的。

因此(ci)相比于硅(gui)基和碳基的替代关(guan)系，大家可能更(geng)需关(guan)注的是，人设定的这个目标对于我们整个社会(hui)乃(nai)至整个世(shi)界(jie)是否有益(yi)。