在电影《黑(hei)客帝国》中，人类被想象为(wei)“生物电池”，机器(qi)从人类身体所产生的(de)热量和电力中获取能量。这种设定虽然夸张，但(dan)引发了(le)人们对于虚拟现实与现实世界之间的(de)界限，以及自由意志等问题的(de)思考。
电影中的(de)“生物电池”概念(nian)也引出(chu)了(le)一(yi)个有趣的(de)现代对比：随着人工(gong)智能的(de)发展，人们在某种程(cheng)度上开始“为(wei)AI打工(gong)”。在大型文本生成项目中，如OpenAI的(de)GPT系列，高性(xing)能的(de)AI模型对高质量语料的(de)需求巨大。因此(ci)，为(wei)了(le)训练这些AI，人们需要创造和整理大量的(de)高质量文本数(shu)据。这个过程(cheng)看似为(wei)减少人类的(de)劳动而设计，实际上却让人类在某种程(cheng)度上成了(le)AI的(de)“做题家(jia)”，即持续提供用于训练AI的(de)数(shu)据。虽然这种情况和电影中的(de)设定不同，但(dan)也呈(cheng)现了(le)一(yi)种新的(de)依赖关系：人类的(de)智力产物直接支持着人工(gong)智能的(de)发展和优化(hua)。
WAIC 2024密切关注语料数(shu)据的(de)发展。为(wei)深入(ru)探(tan)讨语料数(shu)据的(de)策略、实践(jian)与挑战，大模型语料数(shu)据联盟、上海库帕思科技有限公司、上海市(shi)数(shu)商协会、上海市(shi)人工(gong)智能行业协会将联合举办“语料筑基，智生时(shi)代”数(shu)据主题论坛，为(wei)与会者提供深入(ru)洞(dong)察。
论坛时(shi)间：7月6日 9:30-12:30
论坛地点：上海世博中心(xin)金厅(ting)A
语料枯竭(jie)成为(wei)发展人工(gong)智能的(de)障(zhang)碍
语料库是训练AI模型的(de)“食粮”，其质量直接决定了(le)模型的(de)性(xing)能和应用的(de)广泛性(xing)。在全球范(fan)围内，从学术研究(jiu)到商业应用，人工(gong)智能的(de)发展都严重(zhong)依赖于大量高质量、多样化(hua)且公正的(de)数(shu)据，这些数(shu)据是训练精确、可靠和公正的(de)AI系统的(de)基础。
然而，由于采(cai)集限制、成本、维护等多种原因，高质量语料短缺正在成为(wei)全球人工(gong)智能研发中普遍(bian)存在的(de)一(yi)个国际性(xing)难题，且短期内无法通过单纯(chun)加大资金投入(ru)解决。
导致高质量语料短缺的(de)原因有以下几(ji)种：首先，数(shu)据的(de)采(cai)集往往受限于版(ban)权、隐私(si)保护法规以及数(shu)据来(lai)源的(de)限制，导致无法广泛地收集到多样的(de)数(shu)据样本。此(ci)外，数(shu)据的(de)标注工(gong)作不仅成本高昂，而且需要大量的(de)人工(gong)参与，这在很大程(cheng)度上限制了(le)数(shu)据集的(de)规模和多样性(xing)。标注数(shu)据的(de)准确性(xing)和一(yi)致性(xing)的(de)维护也是一(yi)个挑战，因为(wei)不同的(de)标注者可能会有不同的(de)理解和判断标准。
早在2022年，就有学者指出(chu)高质量语料将会成为(wei)AI发展的(de)制约，例如Nostalgebraist曾说过高质量的(de)语料数(shu)据的(de)缺失将会成为(wei)机器(qi)学习的(de)瓶颈。近年来(lai)，不断有研究(jiu)发现，由于互联网(wang)语料内容的(de)持续下降，互联网(wang)语料数(shu)据增速已经从90年代将近100%的(de)年增速率下降至2010年的(de)两位数(shu)增长率，预计本世纪末(mo)，增长率将会下降至1%。
2024年6月4日，Pablo Villalobos等人在一(yi)项研究(jiu)中进一(yi)步预测了(le)高质量语料枯竭(jie)的(de)具体时(shi)间。该研究(jiu)表明，高质量数(shu)据预计将于2028年枯竭(jie)，高质量数(shu)据的(de)缺位将会严重(zhong)限制未来(lai)大模型大表现（如下图所示）。
