近日(ri)，“AI 大神”、第(di)四范(fan)式公(gong)司创始人、CEO 戴文渊做客格隆汇高端访(fang)谈《格隆博(bo)士会客厅》。

对于以 AI 为代表(biao)的硅基生命，未来可(ke)能进化出认知能力、判断能力甚至(zhi)情感、欲望的担忧，戴文渊表(biao)示，AI的表(biao)现(xian)其实最后都是(shi)人为设(she)定的目(mu)标导致的，而不(bu)是(shi)AI自己。

硅基生命其实并不(bu)知道贪婪、欲望叫什么，它(ta)如果(guo)选择做人们看来贪婪的事(shi)情，那是(shi)因为选择贪婪可(ke)以让预测下一个字的准确率提升，源头其实还是(shi)人设(she)定了一个什么样的目(mu)标。

例如现(xian)在的推荐引擎(qing)会产(chan)生很多的“三俗”内容，这些“三俗”内容并不(bu)是(shi) AI 自己喜欢“三俗”，所以也想给你推“三俗”，而是(shi)人设(she)定了一个目(mu)标——让网民看这个APP的时长尽可(ke)能地长。

然后AI发现(xian)推一些“三俗”的内容会让用(yong)户看得更久(jiu)，最后它(ta)就带来了这个结(jie)果(guo)，但其实这并不(bu)是(shi)AI的自主意识，它(ta)只是(shi)在非常理(li)性地计算，干什么样的事(shi)情对自己的目(mu)标是(shi)最好的。

就像大语(yu)言模型，它(ta)看起来好像在干很多事(shi)情，但其实它(ta)干所有事(shi)情就只有一个目(mu)标——预测下一个字的准确率，预测得尽可(ke)能的高。

虽然最近的20年AI技术日(ri)新月(yue)异，但此时此刻的理(li)论其实并没有突破上个世纪五六十年代以及七(qi)十年代所奠基的框架。

所以不(bu)能说未来AI不(bu)会进化到自己设(she)定自己的目(mu)标，但至(zhi)少在这个理(li)论框架没有得到突破之前，即便(bian)大模型训练(lian)数(shu)据量、算力再增加几(ji)个数(shu)量级，AI的目(mu)标仍然是(shi)人为设(she)定的。

因此相比于硅基和碳基的替代关系，大家可(ke)能更需关注的是(shi)，人设(she)定的这个目(mu)标对于我们整个社会乃至(zhi)整个世界是(shi)否有益。