2023人工智能行业大模型创新应用白皮书.docx
《2023人工智能行业大模型创新应用白皮书.docx》由会员分享,可在线阅读,更多相关《2023人工智能行业大模型创新应用白皮书.docx(64页珍藏版)》请在优知文库上搜索。
1、北京市人工智能行业大模型创新应川白皮0(2023年)二o二三年十一月目录一.全妹夫程男於腐整体态必二.国内外大模型行业应用概述(一)DC仆大撵唤行量应用符况I二)我IS/#t型行先应用31Il三.北直市大程壑行亚应用情况1)(一)北京市大模里产业发履情况.iil,I三)大林中行业应用典型寰例2.金融犊城2J,卷象Jf衿阳瑟.,-.国1-*碌*i:里也智里城市。t53(四)北京市大捏型行业应用击炼的报脱59浩四、下一步iSt61id”:TirH打1打工综述作为新一抡科技革命和产业变革的核心引案,人工智能正在为经济社会发展持续注入新动能,今年以来,大横型技术引领着人工智能领域迈入新发展高度,在世界
2、范围内受到广泛关注.大模型对于人工智能厂商和企业用户而言,是一个重要发展机遇.人工智能厂商方面,谷歌、微软、Meta,亚马逊等全球科技巨头将大模型视为重要发展机遇,积极投入并且大动作魏发。我国众多厂商也投身大模型领域,包括百度、阿里、腾讯等互联网大厂,科大讯飞、商汤科技、旷视科技等垂直于Al领域的厂商,以及智诺华章、百川智能,MiniMax等大模型初创企业.市场上也不乏高校、研究机构的身影,清华大学,中国科学院自动化所、北京智源人工智能研究院等发布了各自的大模型成果.企业用户方面,大模型在企业便1的应用速度之快超乎想象.2023年初,企业管理层对大模型的话JS还停曾在大模型是什么,是不是概念炒
3、作.短短半年,大模型已经从饭后谈济走向薄地应用。大企业管理层关于大模型的对话变得比之前复杂很多,他们希望了解到大模型能为企业发展带来哪些变革,大模型的应用路径是什么,如何提升大模型的投济回报率,以及应该为拥抱大模型做哪些准备。而且,大模型吸引的人群位愈发广泛,不仅吸引&爪CTn等技术管理者的关注,(F0、20等非技术类看理者同样期待大模型在业务中发挥价值。这些转变表明,大模型的变革之力正日益得到产业界的认可.从传统行业到高科技行业,从行业黑马到行业龙头,诸多企业开始论证或试点应用大模型,期望在客户运营、软件开发、菅铺推动等领域有所提升,进而靖强市场竟争力。一、全球大模型发展整体态势(一)大模型
4、推动智能寸I3T,打开Al技术发展上网人工智能大模型,是指通过在海量数据上依托强大算力济源济行训练后能完成大星不同下游任务的模型.在技术层面上,大横型的.采用调训练+指今*调+人类反债的强化学习的训练范式。首先通过贪训练技术将深度学习网络在海量数据上进行自监督训练,然后利用指令数据进行有监督指令微调,提升模型对人类指令的迫随能力,最后,基于由人类价值标注数据训练得到的奖励模型所提供的奖励信息进行强化学习,控制大模型的输入符合人类价值判断。在大模型使用时,通过设计提示进行即时学习可以进一步提升大模型完成各类任务的能力.规膜化是使大模型强大的重要原因,研究表明当模型规模足婚大的时候,会涌现智能能力
5、,具备处理新的、更高层次的特征和模式的能力,能舒为一系列下游任务带来更好的任务效果.大模型不断扩大的规模由“量变引发质变,模型通用认知能力不断提升.大模型能力的迅速发展不仅有助于人类完成规定动作,还可能帮助人类去研究和发现未知领域,突破人类过去没有突破过的极限.大模型的技术变革呈现数据巨量化、模型通用化、虚用娥城中心化的特点.整个发晨历程可划分为三个阶段.2013-2018年的深度学习阶段,主要还是基于传统的针对特定任务的专用模型+大量标注数据方式,在监督学习的机制下训练得到一个个专用小模型,但是在词向后的自监督学习中,使用大规模数据进行预训练的方法已初见瑞倪,2017i、AfitrMf的提出
6、为基础架构带来了规横化构势和盘膜化运算的潜力.Tmn也)g鬻决丁RNN和LSTM中许可化训练和长距离依依问JK,解决了CNN的局部归纳偏差问JR,能婚容纳更多的麻数规模,并且具备更强的语义特征提取能力、长更棘征城获能力、综合特征提取能力2018年-2022年的预训练阶段,基于“海量无标注数据。在自监督学习机制下获得预训练大模型,诵过少量标注数据微调后得到领域专用模型.自监督学习机制的成功使得可利用的数据愈发巨置化L从标注数据拓展到无标注数据.Bert胃力汽UI的强训练数h量升大3到S信,成为自然语言理解任务中的条准模型。自此,预训练+微调的学习范式成为主流。在通用大模型上通过少量标注数据微调,
7、即可适用于一系列下磐在存,2022年下半年以来的大语言模型阶段,丘训练大模型的诵用能力愈发强大,引入指今二督训练使得模型能更好地追随人类指令完成各种任务,并提升了在下游任务上的泛化能力,通过人类反馈学习让机器与人类价值对齐成为可肌(二)大模型变革内容生产和技术服务模式,无限生产推动生产效率颠腹式提升内容生产方面,生成式大模型率先在内容创作,图像生成、数字人、游戏等娱乐媒体领域广泛应用,内容生产效率和质量显著提升,内容生产模式从辅助人到“暮代人演变.Gartner雉WI至2023vl20%It容彼七成式七模型所创建:至2025年底,生成丈大模型产生的数据挣占所育敌据的10%技术服务方而,大模型的
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 2023 人工智能 行业 模型 创新 应用 白皮书
