【白皮书市场研报】GPT与通信白皮书（2024）-2024全球6G技术大会.docx

《【白皮书市场研报】GPT与通信白皮书（2024）-2024全球6G技术大会.docx》由会员分享，可在线阅读，更多相关《【白皮书市场研报】GPT与通信白皮书（2024）-2024全球6G技术大会.docx（22页珍藏版）》请在优知文库上搜索。

1、。Alt“动一-论以摘要在大数据、云计算等关键技术的共同推动下，以ChaIGPT为代表的GPT大模里大量涌现，展现出了极富创造力的内容生成能力，提供了高度狎能化的人机交互体验。一直以来，在通信方面存在许多传统方法难以精确建模或高效求解的技术难题，而GPT展示出的潜力能够改进信息通信的服务，提升自智网络的性能，此外，GPT的快速发展和广泛应用，也需要大带宽低时延高可靠的通信网络来支撑。因此,本白皮书从通信从业界的角度，探讨了GPT与通信的相互关系，具体来说，首先，第I章阐述了GPT大模型的概念、发展历程和研究现状。其次，第2章探讨了GPT赋能通信行业的崭新应用，以及在网络智能自治中的定位。再次，

2、第3章对通信网络如何支持GPT泛在应用进行了研究，给出了未来网络设计的典型.思路“接着，笫4章对GPT和通信从独立演进到协同发展的过程进行了全面的分析，介绍了未来能够通过“6G+GPT”加速数字化和智能化转型的行业。随后，第5章指出了“GPT+通信”融合发展所面临的五个最显著的问即，并给出了一些解决思路.然后，第6章提出J对GPT与通信融合发展的建议和对未来的展望。圾后，第7章对本白皮书进行了总结。目录摘要I。引濡4ICPT引领人工智能发展热潮71.1. GPT基本概念71.1.1. 生成式预训练转换器71.12大模型81.1.3. Transformer架构IO12GPT发展历程121.3.

3、 GPT研究现状141.3.1. 国外研究现状151.3.2. 国内研究现状171.3.3. 国际组织17ZGPT赋频信行业192.1. GFI1催生通信新应用与新改革192.1.1. 智能客服2()2.1.2. 自动化仿真212.1.3. 增强谙义通信222.1.4. 生缎芯片设计领域232.2. GpT促进通信网络智能自治242.2.1. GPT重型网络燃划252.2.2. GPT增强切片部署262.2.3. GpT简化网络运维272.2.4. GPT加速网络优化283 .通信网络便能GPT泛在应用313.1. 通信网络保障GPT应用落地313.2. 未来网络技术支探GPT应用331.1

4、.1.未来网络设计的典型思路343.22 原生支拄GPT应用的6GN络353.3. 新型网络架构支持GPT能力下沉363.3.1. 自适应切片373.3.2. 分布式学习383.3.3. 边煽智能394 .GPT与通信协同发展414.1. GF与通信从独立演进到紧密结合4161.1. GPT与迪信结合趋势4161.2. GPT与5G网络结合424.2. GPT与6G通信网络融合发展434.2.1. GPT支持海量数据处理444.2.2. GPT推动网络自服务444.2.3. GPT处助网络资源编排444.2.4. GPT构建网络内生安全454.3. 6G4OPT”赋能行业数字化转型454.3.

5、1. -6GXiPT式能智能工业464.3.2. -6G+GPTtt能智慧医疗474.3.3. “6G+；PT想使智能交通474.3.4. -6G+GPT做健智慈农业484.3.5. 6G+OPT职能智能家居48436.“66KiPT期:能数字娱乐49SGPT+通信融合发展面临的问题505.1. 通信高质量训练数据稀法，专用模型准确性和泛化性差515.2. 端恻算力及硬件资源不足，大根型轻瑞化部署难535.3. 云边端异构网络协同困难,大模型性能程定性差555.4. 服务器互联存在带宽瓶颈,训练时间长推理效率低57SS大模型相关法律法规滞后，安全除私与道德伦理风险高596发展建议与未来展里62

6、61.发展建议626.1.1.加快Al算力建设,提供糜础设施支撑626.12 加强校企联合培养，填补创新人才空缺M6.13 3.加速制定相关政策,建立平台引导发展666.2.未来展望68621.核心技术实现突破，关梃能力显著增强686.22 体系建设日益完善.数字经济快速发展696.23 应用场景不断拓展,循序渐进融合共生707.结束语72参考文献73缩略语79致谢81构如图0l所示。图（M白皮竹章节架构图本白皮书由北京理工大学牵头组织撰写，共有18家中位参与，包括移动、联通、电信3大运营商，7所一流高校，3家知名企业，以及5个业内领先的研究院所。从调研和跟进GPT大模型前沿动态，到探究GPT

7、与通信的关系并构思白皮书的大纲，再到安排章节具体内容并分工撰写，总共历时8个多月，有50多位专家学者深度参与，在反史讨论修改迭代了二十余个版本之后才最终完成。在此期间，部分参与总位还成功联合申请了科技部的国际合作课题基于大模型的云算网一体化多维智能编排关梃技术研究“，从而更好地支持本白皮书的完成.我们认为，Al技术仍处于飞速发展阶段，GPT大模型与通信网络能够实现相互融合、相互支持，不断拓展创新应用场景并完善生态建设,从而共同促进科技进步和千行百业的发展。T：Transformero说明了GPT是基于TranSformCr架构的语言模型。GenCratiVCPre-trainedTransor

8、mcr生成式.颈训练p转换器图I-IGPT的含义2017年，Ckx)gle团队首次提出基于自注意力机制(Self-ttentionMechanism.SAM)的TranSfOrmCr模型，并聘其应用于N1.PvOPCnAl应用了这项技术，于2018年发布最早的一代大模型GPT-1,此后每一代GPT模型的参数班都呈爆炸式增长，2019年2月发布的GPT2参数量为15亿，而2020年5月发布的GPT3,参数量直接达到了1750亿。因此，ChatGpT的“一夜爆火”并不是偶然，它是经过了很多人的努力，以及很长一段时间的演化得来的。要了解GPT的发展，首先应该了解大模型的概念以及TranSfOrnIC

9、r架构。1.1.2.大模型一般来说，在ChatGPT之前，被公众关注的Al模型主要是用于单一任务的。比如，引燃了整个人工智能市场并促使其爆发式发展的“阿尔法狗”(AlPhaGo)，它基于全球用枇棋谱的计算，在2016年轰动一时的“人机大战中击败了围机世界冠军李世石。但是从本质上来说，这种专注了某个具体任务而建立的Al数据模型,和ChaIGPT相比,只能叫“小模型”。大模型是指具有庞大的参数规模和复杂程度的机器学习模型，我们所提到的通常是大语常模型(1.argelanguageModel.1.1.M)的简称.语言模型是一种人工智能模型，它被训练后可以理解和生成人类语言，而,大”的意思是指模型的参

10、数量非常大，是相对于“小模型”而言的。如图12所示，这阴诳化树图追溯了近些年大楼型的发展历程，其中IR点凸显了某些最知名的模型,同一分支上的模型关系更近田.实心方块表示开源模型空心方块则是闭源模型.非TranSfcinner的模型都用灰色衣示，而然Transformer的模型中，仅编码器模型是粉色分支，仅解码器模型是蓝色分支，编码器-解码器模型是绿色分支。大模型进化树图l2大模型进化树基于这幅进化树示意图，我们可以得出：仅解码器模型正逐渐成为1.1.M发展的主导模型，且OPenAl持续保持着其在1.1.M方向上的领先地位。Mela在开源和推动1.1.M研究方面贡献电越，但GPT-3推出后1.1

11、.M开发有闭源的趋势。此外，仍有许多公司和机构在枳极探索编码器-解码涔模型，比如谷歌.2017年6月，谷歌大脑团队在Al领域的顶会NCUrIPS发表了一篇名为AHemioniSAHYOuNeed的论文,首次提出了一种新的网络架构，即TranSfOrmer,它完全基于SAM,掰弃了循环递归和卷积。在八个Ploo图形处理器（GraphicsProcessingUnit,GPU）上进行了仅仅12个小时的训练之后，TranSfOrnlCr就可以在翻洋质量方面达到更高的水平川，体现了很好的并行能力，成为当时最先进的1.1.M.图1-4给出了TranSfOrmer的网络结构。TranSfOrmer是由系列

12、编码版和解码器形成的，二者均由多头注意力层和全连接前馈网络组成。GPT类似于Translornier的Deeoder部分，是一个白ICl归模型”IramfonncrM络结构帕InpusQXpirtflIsrHieanghO图IYTransfbnner网络结构图Tratuformer的核心组件是多头注意力机制模块，如图I-5所示.它需耍三个指定的输入Q（代表查询）、K（代表键）、V（代表值），然后通过公式将Q和K之间两两i噌相似度，依据相似度对各个V进行加权，得到注意力的计算结果。深入，纷纷开始研发自己的大模型，且应用的场景也越来越丰富。以ChatGPT为代表的大模型，正式开启了Al2.0时代。

13、1.3.1.国外研究现状美国在美国，OpcnAI、AnIhroPiC等初创企业和微软、GUOglC等科技巨头带领若美国在大模型的道路上飞速前进，同时各大公司也在不断提升自身的竞争力。Gglc给AnthroPiC投资3亿美元以应对ChatGpT的威胁，加入了Al反馈强化学习(ReinforcementlearningfromArtificialIinelligenceFeedback.RI.AIF)去减少人类的反馈，并于2022年12月发表论文ConS由Ut沁naiA/:HaIviiessnessfromAlFeedhaCh介绍了人工智能模型ClaUdc：美国新媒体巨头BuZZfCCd因宣布计划

14、采用ChatGPT协助内容创作，股价两天涨了三倍：微软作为OPenAI的主要投资方，也在利用ChatGPT来增强其产品竞争力，补充专业知识、补齐数理短板。英国20234/月，英国政府宣布，向负员构建英国版人工智能基础模型的团队提供I亿英镑的起始资金，以助英国加速发展人工智能技术。英国政府表示，该投资将用于资助由政府和行业共建的新团队，以确保英国的人工智能”主权能力Z这一举措的目标是推广应用安全可靠的基础模型，并争取在2030年将英国建设成为科技“超级大国”且针对GPT等大模型应用在人工智能伦理方面的争议，英国还发布了监管措施白皮书，并表示接下来监管机构将向各个组织发布使用指南和风险评估模板等其

15、他工具及资源，来制定行业内的具体实施原则。欧洲芬兰的FlOwrite是个基于AI的写作工具，可以通过输入关键词生成邮件、消息等内容。荷兰的全渠道通信平台MesSagCBird推出了自CI的Al平台MeSSageBirdAI,可以理解客户信息的含义并做出相应的响应。这两者都是在GPT-3的基础上运行的.德国在大模型的研发上也不断追赶。比如，谷歌2023年3月7日推出2.GPT赋能通信行业第1章中我们介绍了GpT的概念、发展历程和研究现状等内容，可以看出，GPT已被应用于众多领域，成为经济社会发展中重要的变革.技术与关键力量，GPT将为全球产业带来巨大匕取和突破式发展。当前，GpT已经实现了人与机潺之间以多种形式进行“communication”的功能，接近甚至超越了人与人之间以文本方式聊天的体验，这与通信行业支挣人们进行多种多样交流的作用相似.Al应用在通信行业的落地，为信息通信基础设施的建设和运营开拓了新方案。作为AI发展的新高度,GPT引发的Al即服务拥有更大的业务空间,能为通信行业的创新提供广阔的舞台。G