业界动态
2024 MWC上海| 中兴通讯总裁徐子阳:匠心筑基,开放共赢,突破,产业,芯片
2024-07-14 20:38:51
2024 MWC上海| 中兴通讯总裁徐子阳:匠心筑基,开放共赢,突破,产业,芯片

6月26日,2024年上海世界移(yi)动通信大会(hui)启幕,中兴通讯总裁徐子阳应邀出席同日举办的(de)“人工智能(neng)先行”主题演讲和以(yi)“5G-A×AI”为主题的(de)GTI国(guo)际产业大会(hui)(上海),分享中兴通讯在人工智能(neng)浪潮下的(de)数智实践与创新。

“人工智能(neng)先行”主题演讲中,徐子阳以(yi)《匠(jiang)心(xin)筑基,开放共赢》为题展开分享。他表示,当前全球已经进入AI驱动的(de)产业革命(ming),但除了幻觉、安全和伦理等问题外,生成(cheng)式AI发展还面临算力、能(neng)耗、数据集、标准化及商业应用等挑战。对于AI进阶,中兴通讯秉承开放解耦、以(yi)网强算、训推(tui)并(bing)举的(de)核心(xin)主张,同时以(yi)客户价(jia)值为核心(xin),提供从(cong)算力、网络、能(neng)力、智力到应用的(de)全栈全场景智算解决方案,以(yi)硬实力筑基,以(yi)软实力启智,灵活实现(xian)与客户能(neng)力的(de)优势互(hu)补和强强协作(zuo),赋能(neng)千行百业的(de)数智化转型需求,为经济高质量发展注(zhu)入源源不断的(de)动能(neng),共筑AI时代的(de)美好未来。

GTI国(guo)际产业大会(hui)(上海)中,徐子阳参加GTI-GSMA 5G-A×AI合作(zuo)签约(yue)仪式并(bing)围绕5G-A×AI这一主题,以(yi)《算网进阶,智创未来》为题发表演讲。他结合当下核心(xin)挑战、解决方案和实践案例,阐释了传统工业化向新型工业化的(de)升级路径,最重要(yao)的(de)就是:结合数智技术在底层的(de)核心(xin)突破、基础设施的(de)效率和能(neng)力升级、与行业Know-How的(de)深度(du)融合,加速(su)数字和物(wu)理世界的(de)交(jiao)融,提升生产和交(jiao)易效率,并(bing)构建敏捷和自适应组织,在不确定的(de)未来中行稳致远(yuan)。中兴通讯主张围绕数字化、网络化、智能(neng)化和低碳化四个纬(wei)度(du),突破现(xian)阶段核心(xin)挑战或掣肘,承前启后继往开来。中兴通讯将始终秉持创新引(yin)领、多样互(hu)补、开放利他的(de)原则,以(yi)“开放解耦、以(yi)网强算、以(yi)智升维、以(yi)绿奠基”全力支持产业链(lian)健康可持续(xu)发展,繁荣(rong)数字经济。

以(yi)下为徐子阳《匠(jiang)心(xin)筑基,开放共赢》主旨演讲全文:

应势而(er)变,赋能(neng)智能(neng)进阶

过去的(de)一年多,大模型和生成(cheng)式AI为数智浪潮推(tui)波助澜,技术高速(su)迭(die)代,产品层出不穷,新场景和新业态蓄势待发。虽(sui)然生成(cheng)式AI依然处(chu)于发展初期,但大家已经有普遍共识,即全球已经进入AI驱动的(de)产业革命(ming),AI将对生产生活的(de)方方面面产生深远(yuan)的(de)影响和变革。人工智能(neng)将深刻重塑全球经济格局。业界咨询(xun)机构预测,至2030年,AI将显著推(tui)动中国(guo)GDP增长26%,北美GDP增长14.5%,预计为全球贡献约(yue)10.7万亿美元的(de)经济增长,占据全球影响的(de)近七成(cheng)。这一变革将为零售、金融服务和医疗保(bao)健等行业带来前所未有的(de)商业机遇。

除了幻觉、安全和伦理等问题外,生成(cheng)式AI发展还面临算力、能(neng)耗、数据集、标准化及商业应用等挑战,因此,需要(yao)从(cong)多个方面实现(xian)进阶发展,中兴通讯提出算网进阶、训推(tui)并(bing)举、开放解耦的(de)核心(xin)主张。首先是突破技术瓶(ping)颈,加强架构、算法、算网和软硬件协同优化等研究,提升AI训练和推(tui)理效率;其次,以(yi)RAG、Agents等多种解决方案确保(bao)可靠性、安全性和可解释性,以(yi)实现(xian)大模型的(de)广泛应用和更(geng)高价(jia)值,构建数据飞轮,兼顾能(neng)力提升和商业闭环;最后,以(yi)“开放解耦”加速(su)标准化,构建繁荣(rong)的(de)产业和商业生态。

算网进阶,打造高效基座

首先是算网进阶,打造高效基座。在智算领域,高速(su)网络连接不仅不可或缺,而(er)且至关(guan)重要(yao),无论是芯(xin)片内裸Die互(hu)联、芯(xin)片之间、服务器(qi)之间、DC之间,网络连接技术的(de)持续(xu)创新和突破,将极大的(de)提升智算的(de)性能(neng)与效率。

Die2Die即芯(xin)片内的(de)裸Die间高速(su)互(hu)联网络,结合自研的(de)并(bing)口/串口全系列IP、成(cheng)熟的(de)2.5D/3D先进封装,支持异构解构和集成(cheng),一定程度(du)上突破摩(mo)尔定律失效和工艺方面的(de)制约(yue),实现(xian)异构计算和网络处(chu)理在内的(de)多种芯(xin)片架构,提供更(geng)高的(de)性能(neng)表现(xian)和更(geng)优的(de)性价(jia)比。

Chip2Chip即跨(kua)芯(xin)片之间的(de)互(hu)联网络,通过芯(xin)片间可分布式高速(su)交(jiao)换互(hu)联,及PCIe5/6、56G/112G/224G SerDes全系列高速(su)接口结合的(de)解决方案,更(geng)好地解决目前Mesh互(hu)联灵活性差和带宽利用率低的(de)问题,并(bing)进一步突破算力芯(xin)片TP8/16互(hu)联的(de)规模瓶(ping)颈,更(geng)好地适应复杂的(de)大规模智算应用场景的(de)需求,为客户提供差异化的(de)竞争优势。中兴通讯也在积极参与中移(yi)全向智感高速(su)互(hu)联架构(OISA)的(de)推(tui)进。另外,面向下一代102.4T网络交(jiao)换机光电异构集成(cheng)的(de)需求,LPO(Linear-drive Pluggable Optics,线性驱动可插拔光模块)光电融合互(hu)联和CPO(Co-packaged Optics,光电共封装),均可极大地提升互(hu)联密度(du),并(bing)降低能(neng)耗,同时,布局光互(hu)连I/O,其在带宽密度(du)、功率效率、延(yan)迟方面将实现(xian)革命(ming)性的(de)提升。

Server 2 Server即智算集群的(de)互(hu)联场景,中兴通讯正全力配合中国(guo)移(yi)动,完(wan)善全调度(du)以(yi)太网(GSE)产业生态,打造无阻塞、高带宽及超低时延(yan)的(de)新型智算中心(xin)网络,在今年2月份,中兴通讯积极参与了中国(guo)移(yi)动组织的(de)GSE原型机互(hu)联互(hu)通测试,后续(xu)基于千卡(ka)和万卡(ka)场景驱动,共智合力,加速(su)突破,积极助力链(lian)长壮大产业发展。在自身能(neng)力上,中兴通讯将持续(xu)推(tui)动关(guan)键芯(xin)片的(de)转发能(neng)力从(cong)12.8T向51.2T能(neng)力升格,通过提供单层/盒盒/框(kuang)盒的(de)多样化方案,更(geng)好的(de)服务全域智算训练场景需要(yao)。

DC 2 DC属广域连接场景,400G光传输产业在中国(guo)运营商的(de)引(yin)领下蓬勃发展,为“光电贯东西、一网通九州”的(de)算间智联打下了坚实基础。中兴通讯正在全力支持国(guo)内运营商全球规模最大400G OTN 商用网络部署,验证了全场景Real 400G的(de)大容量连接能(neng)力,联合国(guo)内运营商完(wan)成(cheng)了基于S+C+L波段的(de)单波T比特实时系统传输实验,并(bing)创造了传输容量的(de)世界记录。后续(xu),中兴通讯也将继续(xu)发挥连接优势,以(yi)网强算,打造算力网络高效全光底座。

训推(tui)并(bing)举,赋能(neng)实体经济

对于大模型在各行业的(de)落(luo)地应用,除了常规的(de)幻觉、安全和伦理等问题,还需要(yao)解决专业性、准确性、鲁棒性和可追溯性等一系列刚性场景下的(de)挑战,同时在基础大模型基础上构建领域模型时,专业数据治理、增量训练等工程经验和工具(ju)集等也至关(guan)重要(yao)。以(yi)电信自智网络场景为例,大小(xiao)模型结合、RAG(Retrieval Augmented Generation)、多智能(neng)体(Agents)协同、数字孪生、多模态CoT(Chain-of-Thought)等等技术创新,都已经有所成(cheng)效。

在AI应用商业化的(de)征途上,训推(tui)并(bing)举是驱动实体经济腾飞的(de)关(guan)键。中国(guo)凭借丰(feng)富的(de)应用场景和私域数据资(zi)源,可以(yi)为全球AI产业做(zuo)出巨(ju)大贡献。为了充分发挥这一优势,我们需要(yao)注(zhu)重准确性、专业性和推(tui)理效率的(de)提升,同时加强领域数据治理和数字孪生技术的(de)应用。训推(tui)并(bing)举,以(yi)训练创造能(neng)力,以(yi)推(tui)理和应用验证价(jia)值,构建数据飞轮,双循环将进一步促进AI能(neng)力迭(die)代和商业变现(xian),从(cong)而(er)锻造核心(xin)优势

具(ju)体操(cao)作(zuo)上,我们主张锚定高价(jia)值行业和天使客户。天使客户通常是行业中最具(ju)影响力的(de)企业,数字化基础好,同时积极拥抱技术变革,并(bing)可以(yi)引(yin)领整(zheng)个行业数智化进程。通过与天使客户的(de)合作(zuo),数智技术与Know-How结合,优势互(hu)补,并(bing)快速(su)验证迭(die)代技术方案,树(shu)立标杆。基于自研或开源基础大模型,利用丰(feng)富的(de)行业数据和知识工程构建领域大模型,打造行业样板,实现(xian)从(cong)0到1突破。基于领域大模型,结合不同场景实现(xian)从(cong)1到N的(de)应用拓展。

开放解耦,构建繁荣(rong)生态

最后是开放解耦,构建繁荣(rong)生态。AI技术处(chu)于高速(su)迭(die)代期,但当下依然普遍生态封闭,同时缺乏行业标准,并(bing)带来一系列问题,比如重复开发和资(zi)源浪费、技术孤(gu)立和风险集中、选择受限(xian)和供应垄断等,制约(yue)了AI的(de)快速(su)良性发展。

中兴通讯倡导(dao)构建全栈开放的(de)智算方案。在基础设施层面,软硬协同,最大化资(zi)源效率。硬件兼容适配国(guo)内外主流GPU/CPU,支持OSIA、RoCE/GSE等开放标准的(de)高速(su)无损互(hu)联,为客户提供多样化的(de)选择;软件支持异构资(zi)源管理、训推(tui)作(zuo)业调度(du)和异构集合通信等,在强化对多厂家GPU支持的(de)同时,为模型运行提供高性能(neng)、高可靠的(de)运行环境;通过算力卸载及在网计算等技术,大幅缩减数据读写与传输时间,提升算力利用率。在能(neng)力平台层面,适配PyTorch、TensorFlow等主流框(kuang)架,自动实现(xian)向后端平台编译和优化,并(bing)提供从(cong)数据处(chu)理、模型开发/训练/优化/评估/部署等端到端的(de)工程工具(ju)集,在支持全生命(ming)周(zhou)期保(bao)障和管理的(de)同时,还应支持算力原生、混池训练、高效推(tui)理、数据飞轮构建等。在算力网络层面,强化算网协同,支持应用全域无感迁(qian)移(yi)。

“一花独放不是春,百花齐放春满园”,全栈开放的(de)智算方案将有利于开放的(de)技术生态和共赢的(de)商业生态的(de)构建,是智算良性发展的(de)关(guan)键。通过软硬解耦、训推(tui)解耦、模型解耦,推(tui)动各类能(neng)力组件化和共享赋能(neng),加速(su)AI技术的(de)创新、研发、应用和商业化进程,构建开放的(de)技术生态;通过产业内的(de)芯(xin)片厂商、ICT硬件厂商、应用开发者、集成(cheng)商、运营商的(de)生态定位和优势互(hu)补,共同做(zuo)大做(zuo)强,实现(xian)共赢的(de)商业生态

筑基启智,共创美好未来

中兴通讯始终以(yi)客户价(jia)值为核心(xin),提供从(cong)算力、网络、能(neng)力、智力到应用的(de)全栈全场景智算解决方案,并(bing)已形成(cheng)高速(su)互(hu)联、在网计算、算力原生、无感迁(qian)移(yi)、数据处(chu)理和算法优化等多个关(guan)键技术积累。一方面,中兴通讯聚焦算力网络的(de)高效、绿色、安全,以(yi)硬实力筑基,以(yi)及能(neng)力应用的(de)灵活、敏捷、智慧,以(yi)软实力启智;另一方面以(yi)数字星云的(de)组件式交(jiao)易的(de)全开放研发架构,可分可合,灵活实现(xian)与客户能(neng)力的(de)优势互(hu)补和强强协作(zuo),赋能(neng)千行百业的(de)数智化转型需求。

在基础设施领域,提供算、存(cun)、网、数据中心(xin)等全系列产品及方案,全面满足从(cong)中心(xin)到边缘(yuan)的(de)多样化智算中心(xin)建设需求。在算力维度(du),芯(xin)片侧兼容适配国(guo)内外多厂家GPU/CPU,自研定海芯(xin)片支持RDMA标卡(ka)、智能(neng)网卡(ka)、DPU卡(ka)等多种形态,提供高性能(neng)、多样化的(de)算力内核和硬件加速(su);整(zheng)机侧,基于扣卡(ka)模组/PCIe插卡(ka)AI服务器(qi)、训推(tui)一体机等系列产品,灵活适配差异化场景;数据中心(xin)侧,依托风液融合、弹性配电等节能(neng)技术,打造PUE低至1.1、机柜功率密度(du)最高达60kW的(de)新型智算中心(xin)。在网络维度(du),中兴通讯与产业伙伴一起建立开放的(de)GPU互(hu)联标准Olink(Openlink),也将全面融入中移(yi)OSIA架构,在兼容现(xian)有RDMA协议实现(xian)机内机间统一互(hu)联技术的(de)同时,重点推(tui)动机内通信从(cong)Mesh互(hu)联转向交(jiao)换互(hu)联支持单机更(geng)大规模TP计算,降低连接复杂度(du),提升集群规模和效能(neng);自研的(de)RoCE网卡(ka)和盒式、框(kuang)式RDMA交(jiao)换机,支持构建百卡(ka)-万卡(ka)规模的(de)智算集;Real 400G助力打造算力网络高效全光底座。

在能(neng)力领域,算力统一云管平台ZTE TECS支持异构资(zi)源管理、训推(tui)作(zuo)业调度(du)和异构集合通信;ZTE AIS训推(tui)平台,则支持拥有面向大模型的(de)数据处(chu)理和模型开发平台,提供大模型工程化全栈工具(ju)和引(yin)擎。在具(ju)体应用场景中,如无感迁(qian)移(yi)可以(yi)实现(xian)5天可用,15天好用;高效推(tui)理实现(xian)千亿模型单卡(ka)部署;数据自动标注(zhu),时间节约(yue)80%等等。

在智力方面,中兴星云大模型集中发力算法创新、数据工程和高效算力平台。星云基础大模型包括2.5B/16B/40B/100B多种规模,可以(yi)覆盖从(cong)手机、边缘(yuan)到中心(xin)云各种部署场景。在训练阶段采用多阶段预训练、中文词表改进、高质量语料(liao)精炼、合成(cheng)数据训练等多项技术创新,在算力需求降低50%的(de)同时保(bao)证了模型训练效果。在推(tui)理效率方面,在保(bao)证模型准确率不受影响的(de)情况下,以(yi)权重INT4量化和KVCache FP8量化算法,节省推(tui)理资(zi)源3倍。星云通信大模型已完(wan)成(cheng)千亿级(9*20B)MoE(混合专家)大模型的(de)训练,并(bing)且支持多模态输入及十二万的(de)有效上下文窗口,对通信业务场景提供通信专家级的(de)见解和帮助。星云研发大模型通过多模型协作(zuo)技术,可以(yi)支持需求、设计、编程、测试等不同阶段全流程30多种场景,多种编程语言如Python、Java、C/C++、Go、Java 代码(ma)生成(cheng)能(neng)力可以(yi)达到GPT4水平,并(bing)且在单元测试准确率、覆盖率大幅超越GPT4-Turbo,可以(yi)根据需求直接生成(cheng)测试用例(测试驱动开发)。

在应用方面,中兴通讯积极探(tan)索大模型在行业中的(de)实际应用,先后在研发提效、通信网络运维、城市(shi)治理、工业园区(qu)等多个方向推(tui)出大模型应用。其中,星云编程大模型在HumanEval的(de)评分位列业界编码(ma)模型第一梯(ti)队,目前日活用户已超过1.3万,日请求数达到11万+,日吞吐(tu)量达3.3亿 tokens,编码(ma)提效30%,整(zheng)体研发提效10%。同时基于端到端智算平台为客户提供全流程大模型工具(ju)链(lian),降低客户进入门(men)槛(kan)和开发、使用成(cheng)本,助力大模型在行业的(de)普惠应用。

中兴通讯始终秉持多样互(hu)补、开放利他的(de)原则,坚定不移(yi)的(de)支持并(bing)推(tui)动产业繁荣(rong)发展;同时强化内外双循环,持续(xu)引(yin)领创新发展。未来,中兴通讯将持续(xu)加大投入,致力于在多个领域实现(xian)技术引(yin)领,进一步推(tui)动智算产业的(de)壮大与发展,为经济的(de)繁荣(rong)贡献力量。

来源|观察(cha)者网

发布于:上海市(shi)
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7