7月4日，2024世界人工智能大会在上海举办。据悉，联合(he)国(guo)以及各国(guo)政府代表、专业国(guo)际组织(zhi)代表，全球知(zhi)名专家、企业家、投资家等1000余人参(can)加了本次会议(yi)。当天(tian)，南都记者穿梭(suo)于多个会场，收集了一批(pi)人工智能“大佬”们的精彩发言，或可窥见行业最新走势和他们关(guan)注的重点。
百度创始人、董(dong)事长兼(jian)首席执行官李彦宏在现场再度针对“开(kai)闭源之争”“开(kai)麦”，并坚持“商业化的闭源模(mo)型是最能打的”。作为“大模(mo)型初创五虎”的代表，智谱(pu)AI首席执行官张鹏(peng)和MiniMax创始人闫俊杰在现场再次针对大模(mo)型的“价格战”展开(kai)讨论，张鹏(peng)认为价格战不会长久，闫俊杰还(hai)指出人类要(yao)替代大模(mo)型实现“诗和远方”，必须提高大模(mo)型的准(zhun)确率(lu)。
针对大模(mo)型自身及其应用带来的一系(xi)列潜在风险，上海人工智能实验室首席科(ke)学家周伯(bo)文表示，我们在AI模(mo)型安全能力(li)方面的提升，还(hai)远远落后(hou)于性(xing)能的提升，这种(zhong)失衡导致AI的发展目(mu)前是跛脚的。而作为一个“无可救(jiu)药的技(ji)术乐观派”，阿里云创始人王坚则表示，在技(ji)术发展过程中，任(ren)何(he)人类自身产生出来的问题人类都一定会去解决。
7月4日，2024世界人工智能大会在上海举办。据悉，联合(he)国(guo)以及各国(guo)政府代表、专业国(guo)际组织(zhi)代表，全球知(zhi)名专家、企业家、投资家等1000余人参(can)加了本次会议(yi)。当天(tian)，南都记者穿梭(suo)于多个会场，收集了一批(pi)人工智能“大佬”们的精彩发言，或可窥见行业最新走势和他们关(guan)注的重点。
百度创始人、董(dong)事长兼(jian)首席执行官李彦宏在现场再度针对“开(kai)闭源之争”“开(kai)麦”，并坚持“商业化的闭源模(mo)型是最能打的”。作为“大模(mo)型初创五虎”的代表，智谱(pu)AI首席执行官张鹏(peng)和MiniMax创始人闫俊杰在现场再次针对大模(mo)型的“价格战”展开(kai)讨论，张鹏(peng)认为价格战不会长久，闫俊杰还(hai)指出人类要(yao)替代大模(mo)型实现“诗和远方”，必须提高大模(mo)型的准(zhun)确率(lu)。
针对大模(mo)型自身及其应用带来的一系(xi)列潜在风险，上海人工智能实验室首席科(ke)学家周伯(bo)文表示，我们在AI模(mo)型安全能力(li)方面的提升，还(hai)远远落后(hou)于性(xing)能的提升，这种(zhong)失衡导致AI的发展目(mu)前是跛脚的。而作为一个“无可救(jiu)药的技(ji)术乐观派”，阿里云创始人王坚则表示，在技(ji)术发展过程中，任(ren)何(he)人类自身产生出来的问题人类都一定会去解决。
百度李彦宏：最看好的AI应用方向是智能体(ti)
面对开(kai)闭源之争，百度创始人、董(dong)事长兼(jian)首席执行官李彦宏在现场再次表示“商业化的闭源模(mo)型是最能打的”，并直言百度最看好的是智能体(ti)，而搜索是智能体(ti)分发的最大入口。
百度创始人、董(dong)事长兼(jian)首席执行官李彦宏。
对于开(kai)源与(yu)闭源，李彦宏在现场再次指出，“商业化的闭源模(mo)型是最能打的”。李彦宏提到(dao)，今年以来，开(kai)源和闭源大模(mo)型是一个争议(yi)较大的话题，但很(hen)多人混(hun)淆了模(mo)型开(kai)源和代码开(kai)源的概念。
他提到(dao)，模(mo)型开(kai)源只(zhi)能拿到(dao)一堆(dui)参(can)数，还(hai)要(yao)在做SFT、安全对齐，即使是拿到(dao)对应源代码，也不知(zhi)道是用了多少比例、什么比例的数据去训(xun)练这些参(can)数，无法做到(dao)众人拾柴火(huo)焰高，“拿到(dao)这些东西(xi)，并不能让你站在巨人的肩膀上迭代开(kai)发。”
不过，在李彦宏看来，开(kai)源模(mo)型在一些学术研究、教学领域有存在价值，可以用于研究大模(mo)型的工作机制，形成理论。但当处于激(ji)烈的商业环境中，想要(yao)让业务效率(lu)高于同行、成本低(di)于同行，商业化的闭源模(mo)型是“最能打的”。
李彦宏还(hai)指出，大模(mo)型的重点还(hai)是“卷应用”，“没有应用，光有基础模(mo)型，不管是开(kai)源还(hai)是闭源都一文不值。”而针对AI应用，在AI时代“超级能干”的应用比只(zhi)看DAU的“超级应用”更重要(yao)，“我们要(yao)避免掉入‘超级应用陷阱’，觉得一定要(yao)出现一个10亿(yi)DAU的APP才叫成功，这是移动时代的思维逻(luo)辑。应用其实离我们并不遥远，两个月之前，百度曾(ceng)宣布文心大模(mo)型日调用量超过2亿(yi)，近期(qi)，该(gai)调用量已超过5亿(yi)。仅仅两个月，调用量发生这么大的变化，足见它背后(hou)代表了真实的需求。”
在AI应用的发展方向上，李彦宏最看好智能体(ti)。他表示，随着(zhe)基础模(mo)型的日益强大，开(kai)发应用也越来越简单，其中，最简单的就是智能体(ti)。而近期(qi)多家厂商押注的搜索赛(sai)道在李彦宏看来，则是智能体(ti)分发的最大入口。
“刚(gang)刚(gang)过去的高考季，很(hen)多大模(mo)型企业都热衷于用大模(mo)型去写(xie)高考作文，其实这个使用价值不大，人家不会允许你带大模(mo)型去参(can)加高考，真正的需求是考完之后(hou)报志愿的阶(jie)段，我们统计发现，高峰期(qi)我们的高考智能体(ti)每天(tian)回答超过200万个考生问题，而我们总共只(zhi)有一千万考生，这说明一天(tian)当中有大比例的人在利用这个智能体(ti)。”李彦宏提到(dao)。
阿里云创始人王坚：人工智能时代对大公司更友好
中国(guo)工程院(yuan)院(yuan)士、之江实验室主任(ren)、阿里云创始人王坚在现场提到(dao)，自己是个无药可救(jiu)的对技(ji)术的乐观主义者。至于那些或许会因为人工智能发展而出现的问题，王坚则相信在技(ji)术发展过程当中，任(ren)何(he)人类自身产生出来的问题人类都一定会去解决。
王坚还(hai)提到(dao)，人工智能必将(jiang)带来新的大公司出现，也一定会有大公司浴火(huo)重生。“人工智能对产业的影响是革命性(xing)的，只(zhi)要(yao)是个新的技(ji)术，一定会有新的大公司出现。如果一个新的技(ji)术出来，没有新的大公司出现，那它是不是颠覆性(xing)的技(ji)术是要(yao)打个问号的。但是我自己相信，在这个时代一定会有新的大公司出来。同时就像前几天(tian)苹果拿AI去服务了C端的客户这件事，在我看来是人工智能技(ji)术重新重构了苹果这家公司。所以这个重构苹果这家公司是从重构它的操作系(xi)统开(kai)始的。”
人工智能时代与(yu)互(hu)联网时代会有什么区别呢？在王坚看来，互(hu)联网时代充斥着(zhe)草(cao)根创业的传说，似乎互(hu)联网时代对很(hen)多东西(xi)的依赖性(xing)都很(hen)低(di)，但人工智能时代会依赖数据、算力(li)。从这个角度而言，这个时代对大公司会更友好，但友好并不代表着(zhe)宽容。“你没有创造力(li)他也不会对你宽容，因为该(gai)面临的挑战还(hai)是会面临的。”
谈及企业如何(he)拥抱AI时，王坚还(hai)提到(dao)，你会发现AI对每个部门都会产生影响，但要(yao)所有部门的所有人都去拥抱AI，在很(hen)多大企业是很(hen)难的。“我想小企业跟大企业的差别就是，大企业一定会觉得AI是工具(ju)的革命。小企业一定会觉得这是革命的工具(ju)，那就是点差别。我想大企业也要(yao)意识(shi)到(dao)这是这个革命的工具(ju)，那这个变化就来了。”
蚂蚁集团井(jing)贤栋：同样看好专业智能体(ti)的应用
在产业发展主论坛(tan)上，蚂蚁集团董(dong)事长兼(jian)CEO井(jing)贤栋表示，专业智能体(ti)能够破解通用大模(mo)型在严谨产业应用的关(guan)键难题，在人工智能时代，蚂蚁正在探索如何(he)让AI像扫码支(zhi)付一样便(bian)利每个人的生活，让AI技(ji)术发展的红利惠及更多人。
蚂蚁集团董(dong)事长兼(jian)CEO井(jing)贤栋。
据介绍，作为国(guo)内较早布局AI大模(mo)型的厂商，蚂蚁自研的百灵大模(mo)型2023年已通过备案，当下正围绕蚂蚁有生态(tai)积累(lei)、用户有需求的领域打造AI生活管家、AI金融管家和AI医疗健康管家。这三个管家对应的生活、金融和医疗等场景都需要(yao)严谨专业优质的服务。
对于通用大模(mo)型落地严谨产业，业界常认为面临着(zhe)三个“能力(li)短板(ban)”：领域知(zhi)识(shi)相对缺乏、复杂决策难以胜任(ren)，以及对话交互(hu)不等于有效协同。井(jing)贤栋在现场表示，为了破解这些难题，蚂蚁选择了构建(jian)专业智能体(ti)生态(tai)的路径，在他看来专业智能体(ti)是大模(mo)型落地严谨产业的有效路径。
针对领域专业知(zhi)识(shi)的短板(ban)，蚂蚁携手合(he)作伙伴(ban)打造了大规模(mo)专业知(zhi)识(shi)引擎，通过知(zhi)识(shi)引擎为大模(mo)型提供“专业教材(cai)”，让大模(mo)型具(ju)备专家知(zhi)识(shi)水平，还(hai)则依托知(zhi)识(shi)图谱(pu)、密态(tai)计算等技(ji)术，构建(jian)了大规模(mo)专业知(zhi)识(shi)引擎，将(jiang)垂(chui)直领域不同类型的数据抽象成不涉及隐私信息的领域知(zhi)识(shi)，供大模(mo)型训(xun)练学习。
井(jing)贤栋指出，未来智能化的用户体(ti)验，一定不是只(zhi)靠一个大模(mo)型，而是需要(yao)全行业深度协作，需要(yao)很(hen)多的专业智能体(ti)共同参(can)与(yu)、各司其职。蚂蚁坚持走开(kai)放道路，和行业共建(jian)专业智能体(ti)生态(tai)。他还(hai)提出，在移动互(hu)联网时代，生活、医疗、金融等场景中涌现出了一批(pi)优秀的应用，形成互(hu)联互(hu)通的网络对外提供服务。在大模(mo)型时代，智能体(ti)是新的应用范式，蚂蚁也在探索智能服务新可能。“我们相信，通过专业智能体(ti)的深度连接，Al会像互(hu)联网一样，带来服务的代际升级。”
商汤徐立：模(mo)型端侧是实时交互(hu)的重要(yao)突破点
商汤科(ke)技(ji)董(dong)事长兼(jian)CEO徐立在现场提出，应用是决定这个时代是不是人工智能超级时刻的关(guan)键。谈及应用，他提出了几大认知(zhi)。首先在徐立看来，如果要(yao)在垂(chui)直领域里做突破，需要(yao)大模(mo)型展现出卓(zhuo)越的深度思考的能力(li)。那么合(he)成的人工数据特别是高级思维的数据往(wang)往(wang)非常重要(yao)。徐立提出，越是有应用的场景才越能形成更好的高质量数据。
二(er)是实时交互(hu)性(xing)能够带来流畅(chang)体(ti)验，也是带来推动超级时刻以及应用变化的核心。“试想很(hen)多的交互(hu)如果说有滞后(hou)，甚至不能解决实时的视频流，体(ti)验会如何(he)？这也是为什么GPT-4O可能在性(xing)能上未必有那么大的提升，但仍给(gei)大家带来不同的感知(zhi)体(ti)验。”
同时徐立认为，要(yao)实现实时的交互(hu)性(xing)，端侧是一个非常重要(yao)的突破点。据悉，商汤已在今年着(zhe)重推动模(mo)型的端侧优化，实时交互(hu)变化更加流畅(chang)。徐立认为，用好端和云两部分的计算机资源，才能够成为一种(zhong)全自然的交互(hu)模(mo)式。
“生成的可控性(xing)”也被徐立认为是一大关(guan)键。“不管是文本、图像、视频，如果它没有具(ju)备可控性(xing)，它本身能够带来的效能提升就非常有限。你不需要(yao)做得很(hen)好，但你需要(yao)知(zhi)道你哪里做得不好、哪里进行了修改(gai)，有了这样一个边界才能做到(dao)真正的技(ji)术可控以及可持续的技(ji)术发展。”
智谱(pu)AI张鹏(peng)：把想象力(li)切实化作生产力(li)
如何(he)让大模(mo)型扎根到(dao)传统经(jing)济当中去，赋予传统经(jing)济更多能力(li)呢？智谱(pu)AI首席执行官张鹏(peng)提到(dao)，大模(mo)型带起了一股新的热潮(chao)，但AI不是一个今年才发生的事情，上一代AI甚至已经(jing)解决了很(hen)多问题，但大模(mo)型带来了“类人”的认知(zhi)能力(li)，这并不是让机器(qi)成为一个机器(qi)、一个工具(ju)，而是让机器(qi)像人一样去思考，思考这个能力(li)所带来的效能提升是更重要(yao)的。
过去，AI也能够产生实际效能去赋能实体(ti)经(jing)济，但过去的AI面临着(zhe)泛用性(xing)不够、成本太高、需要(yao)垂(chui)直化去做跟多事情、ROI算不平等问题。大模(mo)型带来了新的机遇，即AI能在一个模(mo)型上提供泛用化的能力(li)，能解决一系(xi)列的场景和应用需求，从而解决成本和收益平衡的问题。
从这个方向去思考，要(yao)用新一代生成式AI技(ji)术和大模(mo)型技(ji)术赋能实体(ti)经(jing)济，必须构建(jian)更通用、更基础的能力(li)，利用这个通用和基础能力(li)去解决多项问题，然后(hou)用这个收益总和去除以投入成本。
在张鹏(peng)看来，下一轮(lun)大模(mo)型能力(li)突破的关(guan)键，是大模(mo)型对多模(mo)态(tai)的突破。“真正的人在现实世界中解决问题，他需要(yao)的、输(shu)入的信息本身就是多模(mo)态(tai)的，除了自然语言以外还(hai)有视觉、听觉、触(chu)觉，还(hai)有常识(shi)，所有这些需要(yao)综(zong)合(he)起来才能解决现实世界中很(hen)多常见的问题，比如我们希(xi)望它帮助我们扫地、做饭(fan)、洗(xi)衣服，这些人物所需要(yao)输(shu)入的信息是非常多模(mo)态(tai)的，所以这些方面能力(li)的突破会带来AI的普惠，它能把原来金字塔型底座大、投入大、收益小的结构，变成一个倒金字塔结构，这样才能真正放大价值。”
“打造尽(jin)可能拓展用户想象力(li)的产品，基于大模(mo)型的技(ji)术为用户提供优质的服务和全新的体(ti)验，把用户的想象力(li)切实化作生产力(li)，这是我们对想象力(li)必答题的回答。”张鹏(peng)表示。
而谈及大模(mo)型的价格战，张鹏(peng)则表示，当技(ji)术本身越来越好时，成本会越来越低(di)、价格也会持续走低(di)，但这个事情过度后(hou)就会切断价值传递。“真正的价值应该(gai)是逐级、大家往(wang)同样的一件事情里不断添(tian)加自己的价值，再放大、扩大这个价值，比如我们给(gei)大家提供更优质的服务，也希(xi)望大家能够用这个服务创造更大价值，相应地我们创造这一部分价值应该(gai)反向再传递回来，就像我们的BP算法一样，大家各自得到(dao)自己价值的部分，这才是一个正常合(he)理的市场价值链。最近外面一直在传‘价格战’这件事情，首先在这个阶(jie)段用户肯定是得益的，但（价格战）这种(zhong)事情肯定是不长久的。”
MiniMax闫俊杰：提高正确率(lu)能更快实现“诗和远方”
过去一段时间，针对风起云涌的AI技(ji)术，网上流传着(zhe)一个梗：人类希(xi)望AI能解放人类生产力(li)，让人类关(guan)心诗和远方，但现在更多是AI在“诗和远方”，人类还(hai)在做原来的事情。
MiniMax创始人首席执行官闫俊杰在现场提到(dao)，提高大模(mo)型的正确率(lu)，或许能更快实现人类的“诗和远方”。闫俊杰表示，从去年开(kai)始ChatGPT出来之后(hou)，国(guo)内很(hen)多公司也在迎头(tou)赶(gan)上、推出了很(hen)多模(mo)型。但最核心的问题是，目(mu)前国(guo)内模(mo)型的错误率(lu)还(hai)比较高，“比如说我们看GPT4，它在很(hen)多测试指标上可能正确率(lu)有60%、70%，但国(guo)内的模(mo)型很(hen)多时候(hou)整体(ti)上还(hai)是有60%到(dao)70%的错误率(lu)。这也是大模(mo)型产品还(hai)不能独立成为Agent的原因。”
要(yao)实现“诗和远方”，在闫俊杰看来，需要(yao)不断地降低(di)大模(mo)型的错误率(lu)。“我觉得最核心的问题，是怎么把大模(mo)型错误率(lu)从30%、40%降到(dao)3%、4%甚至降低(di)一个数量级，这个事可以让AI从一个辅助人类的工具(ju)成为独立完成工作的个体(ti)。当模(mo)型的错误率(lu)能变成个位数时，即在人类定义测试上都可以接近人类最好水平时，它在实体(ti)经(jing)济里产生更大效益就变得更加自然。另外这也意味着(zhe)大模(mo)型可以独立完成任(ren)务了。”
而针对近期(qi)不断被关(guan)注的大模(mo)型价格战，闫俊杰则表示，大模(mo)型价格持续走低(di)整体(ti)来说是正向事件。“对于大模(mo)型企业来说，价格降低(di)的好处是你可以有更多的用户，可以有更多在线用户的使用时长，有更多的流量，然后(hou)也可以产生更大价值，最后(hou)是基于这种(zhong)流量和价值来找到(dao)好的商业模(mo)式，这件事实际上也正在发生。”
科(ke)学家周伯(bo)文：AI安全能力(li)提升落后(hou)于性(xing)能提升
上海人工智能实验室主任(ren)、首席科(ke)学家周伯(bo)文在现场提到(dao)，当前以大模(mo)型为代表的生成式人工智能快速发展，但随着(zhe)能力(li)的不断提升，模(mo)型自身及其应用也带来了一系(xi)列潜在风险的顾虑。
从公众对AI风险的关(guan)注程度来看，首先是数据泄露、滥(lan)用、隐私及版权(quan)相关(guan)的内容风险；其次是恶意使用带来伪造、虚假信息等相关(guan)的使用风险，这当然也诱发了偏见歧视等伦理相关(guan)问题；此外还(hai)有人担心：人工智能是否会对就业结构等社会系(xi)统性(xing)问题带来挑战，在一系(xi)列关(guan)于人工智能的科(ke)幻电(dian)影中，甚至出现了AI失控、人类丧失自主权(quan)等设定。
周伯(bo)文提到(dao)，这些由AI带来的风险已初露端倪，但更多的是潜在风险，防范这些风险需要(yao)各界共同努力(li)，需要(yao)科(ke)学社区做出更多贡献。
去年5月，国(guo)际上数百名AI科(ke)学家和公众人物共同签署了一份公开(kai)信《Statement of AI Risk》，表达了对AI风险的担忧，并呼吁，应该(gai)像对待流行病和核战争等其他大规模(mo)的风险一样，把防范人工智能带来的风险作为全球优先事项。
周伯(bo)文分析，出现对这些风险担忧，根本原因是目(mu)前的AI发展是失衡的。“总体(ti)上，我们在AI模(mo)型安全能力(li)方面的提升，还(hai)远远落后(hou)于性(xing)能的提升，这种(zhong)失衡导致AI的发展是跛脚的。而不均衡的背后(hou)是二(er)者投入上的巨大差异。如果对比一下，从研究是否体(ti)系(xi)化，以及人才密集度、商业驱(qu)动力(li)、算力(li)的投入度等方面来看，安全方面的投入是远远落后(hou)于AI能力(li)的。”
周伯(bo)文介绍，为实现可信AGI，同时兼(jian)顾安全与(yu)性(xing)能，上海AI实验室最近在探索一条以因果为核心的路径，将(jiang)可信AGI的发展分为泛对齐、可干预、能反思三个递进阶(jie)段。“‘泛对齐’主要(yao)包含(han)当前最前沿的人类偏好对齐技(ji)术；‘可干预’主要(yao)包含(han)通过对AI系(xi)统进行干预，探究其因果机制的安全技(ji)术，例如人在回路、机械可解释性(xing)，以及我们提出的对抗演练等，它以通过提高可解释性(xing)和泛化性(xing)来提升安全性(xing)，同时也能提升AI能力(li)；‘能反思’则要(yao)求AI系(xi)统不仅追求高效执行任(ren)务，还(hai)能审视自身行为的影响和潜在风险，从而在追求性(xing)能的同时，确保安全和道德边界不被突破。”
采写(xie)：南都记者 林文琪