业界动态
2024 MWC上海| 中兴通讯总裁徐子阳:匠心筑基,开放共赢,突破,产业,芯片
2024-07-15 00:55:02
2024 MWC上海| 中兴通讯总裁徐子阳:匠心筑基,开放共赢,突破,产业,芯片

6月26日,2024年上海世界移动通信大会启幕,中兴通讯总裁徐子(zi)阳应邀出席同日举办的“人工智能先行”主题演讲(jiang)和以“5G-A×AI”为主题的GTI国(guo)际产业大会(上海),分享中兴通讯在人工智能浪(lang)潮下的数智实践(jian)与创新。

“人工智能先行”主题演讲(jiang)中,徐子(zi)阳以《匠心筑基,开放共赢》为题展(zhan)开分享。他(ta)表示,当前全球已经进入(ru)AI驱(qu)动的产业革命(ming),但除了(le)幻觉、安全和伦理等(deng)问题外,生成式AI发展(zhan)还面临算力、能耗、数据集、标准(zhun)化及商业应用等(deng)挑战。对(dui)于AI进阶,中兴通讯秉承开放解耦、以网强算、训推并举的核心主张,同时以客户价值为核心,提(ti)供从算力、网络、能力、智力到应用的全栈全场景(jing)智算解决方案,以硬实力筑基,以软实力启智,灵活实现与客户能力的优势互补和强强协作,赋能千行百业的数智化转型(xing)需求,为经济高质(zhi)量发展(zhan)注入(ru)源源不断的动能,共筑AI时代的美好未来。

GTI国(guo)际产业大会(上海)中,徐子(zi)阳参加(jia)GTI-GSMA 5G-A×AI合作签约仪式并围绕5G-A×AI这一主题,以《算网进阶,智创未来》为题发表演讲(jiang)。他(ta)结(jie)合当下核心挑战、解决方案和实践(jian)案例,阐释了(le)传统工业化向新型(xing)工业化的升级路径,最重(zhong)要的就是:结(jie)合数智技术在底层的核心突破、基础设施的效率和能力升级、与行业Know-How的深度融合,加(jia)速数字(zi)和物(wu)理世界的交融,提(ti)升生产和交易效率,并构建敏捷和自适应组织,在不确定的未来中行稳(wen)致远。中兴通讯主张围绕数字(zi)化、网络化、智能化和低碳化四个纬度,突破现阶段核心挑战或掣肘,承前启后继(ji)往开来。中兴通讯将始(shi)终(zhong)秉持创新引领、多(duo)样互补、开放利他(ta)的原则,以“开放解耦、以网强算、以智升维、以绿奠基”全力支持产业链健康可持续发展(zhan),繁荣数字(zi)经济。

以下为徐子(zi)阳《匠心筑基,开放共赢》主旨演讲(jiang)全文:

应势而(er)变(bian),赋能智能进阶

过去的一年多(duo),大模型(xing)和生成式AI为数智浪(lang)潮推波助澜,技术高速迭代,产品层出不穷,新场景(jing)和新业态蓄势待发。虽然生成式AI依然处于发展(zhan)初(chu)期,但大家已经有普遍共识,即全球已经进入(ru)AI驱(qu)动的产业革命(ming),AI将对(dui)生产生活的方方面面产生深远的影响和变(bian)革。人工智能将深刻重(zhong)塑全球经济格局。业界咨询机构预测,至2030年,AI将显著推动中国(guo)GDP增长26%,北美GDP增长14.5%,预计为全球贡献约10.7万亿美元的经济增长,占据全球影响的近(jin)七成。这一变(bian)革将为零售、金(jin)融服务和医疗保健等(deng)行业带来前所未有的商业机遇。

除了(le)幻觉、安全和伦理等(deng)问题外,生成式AI发展(zhan)还面临算力、能耗、数据集、标准(zhun)化及商业应用等(deng)挑战,因此(ci),需要从多(duo)个方面实现进阶发展(zhan),中兴通讯提(ti)出算网进阶、训推并举、开放解耦的核心主张。首先是突破技术瓶颈,加(jia)强架构、算法、算网和软硬件协同优化等(deng)研究(jiu),提(ti)升AI训练和推理效率;其次,以RAG、Agents等(deng)多(duo)种解决方案确保可靠性、安全性和可解释性,以实现大模型(xing)的广泛应用和更高价值,构建数据飞轮,兼顾能力提(ti)升和商业闭环;最后,以“开放解耦”加(jia)速标准(zhun)化,构建繁荣的产业和商业生态。

算网进阶,打造高效基座

首先是算网进阶,打造高效基座。在智算领域(yu),高速网络连(lian)接(jie)不仅不可或缺,而(er)且至关重(zhong)要,无论是芯片内裸Die互联(lian)、芯片之间、服务器之间、DC之间,网络连(lian)接(jie)技术的持续创新和突破,将极大的提(ti)升智算的性能与效率。

Die2Die即芯片内的裸Die间高速互联(lian)网络,结(jie)合自研的并口/串口全系(xi)列IP、成熟的2.5D/3D先进封装,支持异构解构和集成,一定程(cheng)度上突破摩尔定律失效和工艺方面的制约,实现异构计算和网络处理在内的多(duo)种芯片架构,提(ti)供更高的性能表现和更优的性价比(bi)。

Chip2Chip即跨(kua)芯片之间的互联(lian)网络,通过芯片间可分布(bu)式高速交换互联(lian),及PCIe5/6、56G/112G/224G SerDes全系(xi)列高速接(jie)口结(jie)合的解决方案,更好地解决目前Mesh互联(lian)灵活性差和带宽利用率低的问题,并进一步突破算力芯片TP8/16互联(lian)的规(gui)模瓶颈,更好地适应复杂的大规(gui)模智算应用场景(jing)的需求,为客户提(ti)供差异化的竞争(zheng)优势。中兴通讯也在积极参与中移全向智感高速互联(lian)架构(OISA)的推进。另外,面向下一代102.4T网络交换机光电异构集成的需求,LPO(Linear-drive Pluggable Optics,线性驱(qu)动可插拔光模块)光电融合互联(lian)和CPO(Co-packaged Optics,光电共封装),均(jun)可极大地提(ti)升互联(lian)密度,并降(jiang)低能耗,同时,布(bu)局光互连(lian)I/O,其在带宽密度、功率效率、延迟方面将实现革命(ming)性的提(ti)升。

Server 2 Server即智算集群(qun)的互联(lian)场景(jing),中兴通讯正全力配合中国(guo)移动,完(wan)善全调度以太网(GSE)产业生态,打造无阻塞(sai)、高带宽及超低时延的新型(xing)智算中心网络,在今年2月份,中兴通讯积极参与了(le)中国(guo)移动组织的GSE原型(xing)机互联(lian)互通测试,后续基于千卡和万卡场景(jing)驱(qu)动,共智合力,加(jia)速突破,积极助力链长壮大产业发展(zhan)。在自身能力上,中兴通讯将持续推动关键芯片的转发能力从12.8T向51.2T能力升格,通过提(ti)供单层/盒盒/框盒的多(duo)样化方案,更好的服务全域(yu)智算训练场景(jing)需要。

DC 2 DC属广域(yu)连(lian)接(jie)场景(jing),400G光传输产业在中国(guo)运营(ying)商的引领下蓬勃发展(zhan),为“光电贯东西、一网通九州”的算间智联(lian)打下了(le)坚实基础。中兴通讯正在全力支持国(guo)内运营(ying)商全球规(gui)模最大400G OTN 商用网络部署,验证了(le)全场景(jing)Real 400G的大容量连(lian)接(jie)能力,联(lian)合国(guo)内运营(ying)商完(wan)成了(le)基于S+C+L波段的单波T比(bi)特实时系(xi)统传输实验,并创造了(le)传输容量的世界记录。后续,中兴通讯也将继(ji)续发挥连(lian)接(jie)优势,以网强算,打造算力网络高效全光底座。

训推并举,赋能实体经济

对(dui)于大模型(xing)在各行业的落地应用,除了(le)常(chang)规(gui)的幻觉、安全和伦理等(deng)问题,还需要解决专业性、准(zhun)确性、鲁棒性和可追溯性等(deng)一系(xi)列刚性场景(jing)下的挑战,同时在基础大模型(xing)基础上构建领域(yu)模型(xing)时,专业数据治(zhi)理、增量训练等(deng)工程(cheng)经验和工具集等(deng)也至关重(zhong)要。以电信自智网络场景(jing)为例,大小模型(xing)结(jie)合、RAG(Retrieval Augmented Generation)、多(duo)智能体(Agents)协同、数字(zi)孪生、多(duo)模态CoT(Chain-of-Thought)等(deng)等(deng)技术创新,都已经有所成效。

在AI应用商业化的征(zheng)途上,训推并举是驱(qu)动实体经济腾飞的关键。中国(guo)凭借丰富的应用场景(jing)和私域(yu)数据资源,可以为全球AI产业做出巨大贡献。为了(le)充分发挥这一优势,我们需要注重(zhong)准(zhun)确性、专业性和推理效率的提(ti)升,同时加(jia)强领域(yu)数据治(zhi)理和数字(zi)孪生技术的应用。训推并举,以训练创造能力,以推理和应用验证价值,构建数据飞轮,双循环将进一步促(cu)进AI能力迭代和商业变(bian)现,从而(er)锻造核心优势

具体操作上,我们主张锚定高价值行业和天(tian)使(shi)客户。天(tian)使(shi)客户通常(chang)是行业中最具影响力的企业,数字(zi)化基础好,同时积极拥抱技术变(bian)革,并可以引领整个行业数智化进程(cheng)。通过与天(tian)使(shi)客户的合作,数智技术与Know-How结(jie)合,优势互补,并快速验证迭代技术方案,树立标杆。基于自研或开源基础大模型(xing),利用丰富的行业数据和知识工程(cheng)构建领域(yu)大模型(xing),打造行业样板,实现从0到1突破。基于领域(yu)大模型(xing),结(jie)合不同场景(jing)实现从1到N的应用拓展(zhan)。

开放解耦,构建繁荣生态

最后是开放解耦,构建繁荣生态。AI技术处于高速迭代期,但当下依然普遍生态封闭,同时缺乏行业标准(zhun),并带来一系(xi)列问题,比(bi)如重(zhong)复开发和资源浪(lang)费、技术孤立和风险(xian)集中、选择受(shou)限和供应垄断等(deng),制约了(le)AI的快速良性发展(zhan)。

中兴通讯倡导构建全栈开放的智算方案。在基础设施层面,软硬协同,最大化资源效率。硬件兼容适配国(guo)内外主流GPU/CPU,支持OSIA、RoCE/GSE等(deng)开放标准(zhun)的高速无损互联(lian),为客户提(ti)供多(duo)样化的选择;软件支持异构资源管理、训推作业调度和异构集合通信等(deng),在强化对(dui)多(duo)厂(chang)家GPU支持的同时,为模型(xing)运行提(ti)供高性能、高可靠的运行环境;通过算力卸载及在网计算等(deng)技术,大幅(fu)缩减数据读写(xie)与传输时间,提(ti)升算力利用率。在能力平(ping)台层面,适配PyTorch、TensorFlow等(deng)主流框架,自动实现向后端平(ping)台编译和优化,并提(ti)供从数据处理、模型(xing)开发/训练/优化/评估/部署等(deng)端到端的工程(cheng)工具集,在支持全生命(ming)周期保障和管理的同时,还应支持算力原生、混池训练、高效推理、数据飞轮构建等(deng)。在算力网络层面,强化算网协同,支持应用全域(yu)无感迁移。

“一花独放不是春,百花齐放春满园”,全栈开放的智算方案将有利于开放的技术生态和共赢的商业生态的构建,是智算良性发展(zhan)的关键。通过软硬解耦、训推解耦、模型(xing)解耦,推动各类能力组件化和共享赋能,加(jia)速AI技术的创新、研发、应用和商业化进程(cheng),构建开放的技术生态;通过产业内的芯片厂(chang)商、ICT硬件厂(chang)商、应用开发者(zhe)、集成商、运营(ying)商的生态定位和优势互补,共同做大做强,实现共赢的商业生态

筑基启智,共创美好未来

中兴通讯始(shi)终(zhong)以客户价值为核心,提(ti)供从算力、网络、能力、智力到应用的全栈全场景(jing)智算解决方案,并已形(xing)成高速互联(lian)、在网计算、算力原生、无感迁移、数据处理和算法优化等(deng)多(duo)个关键技术积累。一方面,中兴通讯聚焦算力网络的高效、绿色、安全,以硬实力筑基,以及能力应用的灵活、敏捷、智慧,以软实力启智;另一方面以数字(zi)星(xing)云的组件式交易的全开放研发架构,可分可合,灵活实现与客户能力的优势互补和强强协作,赋能千行百业的数智化转型(xing)需求。

在基础设施领域(yu),提(ti)供算、存、网、数据中心等(deng)全系(xi)列产品及方案,全面满足从中心到边(bian)缘的多(duo)样化智算中心建设需求。在算力维度,芯片侧兼容适配国(guo)内外多(duo)厂(chang)家GPU/CPU,自研定海芯片支持RDMA标卡、智能网卡、DPU卡等(deng)多(duo)种形(xing)态,提(ti)供高性能、多(duo)样化的算力内核和硬件加(jia)速;整机侧,基于扣卡模组/PCIe插卡AI服务器、训推一体机等(deng)系(xi)列产品,灵活适配差异化场景(jing);数据中心侧,依托风液融合、弹性配电等(deng)节能技术,打造PUE低至1.1、机柜功率密度最高达60kW的新型(xing)智算中心。在网络维度,中兴通讯与产业伙(huo)伴一起建立开放的GPU互联(lian)标准(zhun)Olink(Openlink),也将全面融入(ru)中移OSIA架构,在兼容现有RDMA协议实现机内机间统一互联(lian)技术的同时,重(zhong)点推动机内通信从Mesh互联(lian)转向交换互联(lian)支持单机更大规(gui)模TP计算,降(jiang)低连(lian)接(jie)复杂度,提(ti)升集群(qun)规(gui)模和效能;自研的RoCE网卡和盒式、框式RDMA交换机,支持构建百卡-万卡规(gui)模的智算集;Real 400G助力打造算力网络高效全光底座。

在能力领域(yu),算力统一云管平(ping)台ZTE TECS支持异构资源管理、训推作业调度和异构集合通信;ZTE AIS训推平(ping)台,则支持拥有面向大模型(xing)的数据处理和模型(xing)开发平(ping)台,提(ti)供大模型(xing)工程(cheng)化全栈工具和引擎。在具体应用场景(jing)中,如无感迁移可以实现5天(tian)可用,15天(tian)好用;高效推理实现千亿模型(xing)单卡部署;数据自动标注,时间节约80%等(deng)等(deng)。

在智力方面,中兴星(xing)云大模型(xing)集中发力算法创新、数据工程(cheng)和高效算力平(ping)台。星(xing)云基础大模型(xing)包括2.5B/16B/40B/100B多(duo)种规(gui)模,可以覆盖从手机、边(bian)缘到中心云各种部署场景(jing)。在训练阶段采用多(duo)阶段预训练、中文词(ci)表改进、高质(zhi)量语料精炼、合成数据训练等(deng)多(duo)项技术创新,在算力需求降(jiang)低50%的同时保证了(le)模型(xing)训练效果。在推理效率方面,在保证模型(xing)准(zhun)确率不受(shou)影响的情况下,以权重(zhong)INT4量化和KVCache FP8量化算法,节省推理资源3倍。星(xing)云通信大模型(xing)已完(wan)成千亿级(9*20B)MoE(混合专家)大模型(xing)的训练,并且支持多(duo)模态输入(ru)及十二万的有效上下文窗口,对(dui)通信业务场景(jing)提(ti)供通信专家级的见解和帮助。星(xing)云研发大模型(xing)通过多(duo)模型(xing)协作技术,可以支持需求、设计、编程(cheng)、测试等(deng)不同阶段全流程(cheng)30多(duo)种场景(jing),多(duo)种编程(cheng)语言(yan)如Python、Java、C/C++、Go、Java 代码生成能力可以达到GPT4水平(ping),并且在单元测试准(zhun)确率、覆盖率大幅(fu)超越GPT4-Turbo,可以根据需求直接(jie)生成测试用例(测试驱(qu)动开发)。

在应用方面,中兴通讯积极探索大模型(xing)在行业中的实际应用,先后在研发提(ti)效、通信网络运维、城市治(zhi)理、工业园区等(deng)多(duo)个方向推出大模型(xing)应用。其中,星(xing)云编程(cheng)大模型(xing)在HumanEval的评分位列业界编码模型(xing)第(di)一梯队,目前日活用户已超过1.3万,日请(qing)求数达到11万+,日吞吐量达3.3亿 tokens,编码提(ti)效30%,整体研发提(ti)效10%。同时基于端到端智算平(ping)台为客户提(ti)供全流程(cheng)大模型(xing)工具链,降(jiang)低客户进入(ru)门槛和开发、使(shi)用成本(ben),助力大模型(xing)在行业的普惠应用。

中兴通讯始(shi)终(zhong)秉持多(duo)样互补、开放利他(ta)的原则,坚定不移的支持并推动产业繁荣发展(zhan);同时强化内外双循环,持续引领创新发展(zhan)。未来,中兴通讯将持续加(jia)大投入(ru),致力于在多(duo)个领域(yu)实现技术引领,进一步推动智算产业的壮大与发展(zhan),为经济的繁荣贡献力量。

来源|观察者(zhe)网

发布(bu)于:上海市
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7