业界动态
第四范式戴文渊:依靠中国市场数据优势,作出全球领先的AI企业,算法,智商,时候
2024-07-15 02:57:00
第四范式戴文渊:依靠中国市场数据优势,作出全球领先的AI企业,算法,智商,时候

近日,“AI 大神”、第四范(fan)式公司创始人(ren)、CEO 戴(dai)文渊做客格隆汇高端访谈《格隆博士会客厅》。戴(dai)文渊表示,人(ren)工智能的格局(ju)其(qi)实比想象中(zhong)的更复杂,它里面(mian)主要(yao)有算法(fa)、算力、数据这几个对象。

算法(fa)就好像蒸汽机(ji)的一(yi)个构造图(tu)纸(zhi)一(yi)样,知道了(le)这个图(tu)纸(zhi),就能造出一(yi)个蒸汽机(ji)。就比如(ru)Transformer这个算法(fa),一(yi)般看懂了(le)这个论文,就可以构造一(yi)个Transformer算法(fa)的系统(tong)。

算力就是在双(shuang)方同样拥有Transformer算法(fa)的情况下,显卡越强性能越强。它就像是计算机(ji)的智商数据,类比来说,就是你学过多少东西,哪怕智商高的人(ren)没(mei)学习也不行(xing),可能智商低的人(ren)多努力最后也能达到。

在大家彼此(ci)的算法(fa)都差不多的情况下,其(qi)实信息(xi)差很快会被(bei)拉平,因此(ci)真(zhen)正(zheng)会拉开差距的其(qi)实还是算力和数据。所以如(ru)果最后要(yao)看AI的综合结果,需要(yao)同时看算力和数据两个方面(mian)。

往(wang)后或许不能说AI完全是一(yi)个指数级的上涨趋势,因为数据指数级增加也是会到头的。

目前数据量供应没(mei)有到天花板的时候,随着算力的指数级增加,这个模型的参数就是指数级往(wang)上涨。

一(yi)旦到数据见顶(ding)的时候,算力再指数级增加已经不能带来有效的参数的指数级增加了(le),所以那个时候可能瓶颈就会在数据上。

因此(ci)OpenAI也花了(le)很多钱去投数据,他们投在数据上的花销,或许没(mei)有比算力少多少。

数据还有一(yi)个瓶颈来自于(yu)产(chan)生数据的对象。即便现在可以用模型产(chan)出新的数据给模型,但如(ru)果这些数据不经过人(ren)的挑选(xuan),它还是不会产(chan)生新的信息(xi)量。就比如(ru),自己说的话再被(bei)自己听回(hui)去对自己本身不会有什么样的改进。

最后有效的数据能增加多少,取决于(yu)能调动多少人(ren)、多少力量去贡献数据。

中(zhong)国市(shi)场是拥有最大的的数据样本,整个中(zhong)国市(shi)场能找到很多的数据收集场景,并且(qie)规(gui)模可能是最大的,这就意味着能给到人(ren)工智能最多的学习材料。在AI领域,戴(dai)文渊认为,科技从业者都是为了(le)这个科技进步在努力,自己作为科研(yan)工作者,目标是做一(yi)个业界(jie)领先的东西。这可能需要(yao)充分利用自己所处的环境,看看怎么在这个环境做最领先的事情。

发(fa)布于(yu):广东省
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7