人工智能发展与数据安全挑战.docx

《人工智能发展与数据安全挑战.docx》由会员分享，可在线阅读，更多相关《人工智能发展与数据安全挑战.docx（14页珍藏版）》请在优知文库上搜索。

1、O引言当前，随着大数据和云计算等新代信息技术的发展成熟，人工智能技术和应用获得出大突破性进屣，并快速向各个行业和领域渗透。其中，大数据是人工智能开发和应用的基础，当前以机器学习为主的人工智能技术的高速发展依赖于底U大数据的丰富程度.强大的模型往往需要含有大量样本的数据集作为基础,数据的质量、多样性将对算法模型的成败产生重大影响。数据越多，模型的准确度和重曳性就越好,因此，人工智能需要数据来建立其智能.然而，随君越来越多的数据在人们的生产和生活场景中被收集和利用，数据安全风险和隐私保护成为人工智能系统在开发和应用过程中面临的严峻安全挑战,亟需全球共同治理。I数字经济时代人工智能发展的趋势1.1

2、新一轮数字经济发展浪潮全面来临数字经济是指以数字化的知识和信息为关键生产要素，以现代信息网络为重要我体，以信息通信技术的广泛普及和有效使用为核心驱动，全面推动商业模式优化创新、生产消费效率提升和产业经济智能化升级的系列经济活动。近年来，随着大数据、云计算、物联网等为代表的数字技术带来f全球性的科技革命和产业变革，以“数字新基建、数据新要素、在线新经济为核心特征的新i轮数字经济发展浪潮全面来临，为基于算法、算力和数据驱动下的人工智能全面.新发展注入了全新的强大动能（如图I所示）。图1数字经济时代推动人工智能全面新发展（1）数字新基建成为人工智能新发展的坚实底座和基础支撑近年来，美国、欧洲、日本、

3、英国等全球主要经济体纷纷大力发展以5G、物联网、工业互联网、云计算、数据中心、卫星互联网等为代表的新型数字基础设施建设，而中国自2018年12月首次提出“新基建”概念以来，至今已有7次中央级会议或文件明确表示加快新基建的建设速度，并在2020年5月将“加强新型基础设施建设”明确写入2020年政府工作报告。数字新基建的加快推进和不断完善将成为人工智能全面新发展的坚实数字底座.其中，物联网和工业互联网将极大拓宽人工智能的数据来源和应用场景，5G和卫星互联网则能够大幅度提高人工智能数据传输、处理以及应用开发的效率，数据中心、云计算设施确保了人工智能发展所需要的巨大基础计算和存储需求，以人工智能芯片、

4、智能终端、智能计算平台为代表的人工智能基础设施则为人工智能应用提供了高质用的硬件支撑。(2)数据新要素成为人工智能新发展的核心动能和强大驱动2020年4月，中共中央、国务院发布关于构建更加完善的要素市场化配置体制机制的意见，将数据明确列为一种新型生产要素与土地、劳动力、资本和技术等传统要素并列，并强调婴加快培育数据要素市场.随着全球各国不断加快数据市场的建设，相在未来形成包括数据要素确权定价、数据交易流通和收益分配等核心功能的数据要素市场改革驱动和政策赋能，能够极大地推动政府公共数据开放和社会企业数据共享，进一步打通数据壁垒，推动形成数据更大规模的有序、便捷、高效和安全流动交易的宏大数字空间，

5、为人工智能全面新发展注入高质fit的数据动能.(3)在线新经济为人工智能新发展提供丰富广阔的应用场珏随着全球经济因疫情冲击而遭受重创甚至面临衰退，以在线新经济为代表的数字经济模式成为全球经济复尿和转型增长的核心驱动“在线新经济的本质是传统行业线上化、网络化、数字化和智能化转型，是指以大数据、云计算、区块链等新一代信息技术在办公、医疗、教育、金融、生产、物流等各个垂直领域的加速落地并形成新型的经济业态。在线新经济的兴起将为人工智能发展提供丰富广阔的应用场景，不断推动人工智能的算法迭代优化，以及向更多行业和更多领域渗透落地，形成人工智能全面新发展庞大、立体的需求牵引。1.2 全球人工智能发展逐步从

6、“探索期”向“成长期”转变根据行业生命周期理论（Industry1.ifeCyc1.e）和GarIner的技术成熟度曲线模型，本文认为当前全球人工智能发展正在逐步渡过“探索期”并进入“成长期”，且己进入r全面转型的关键节点，主要有以下四个关键特征：（1）人工智能专用技术迅速突破专用人工智能即面向特定领域的人工智能（即“弱人工智能”），由于其具备任务单一、需求明确、应用边界清晰、传统领域知识丰富和功能卷模相对简单等特征，因此在重点领域形成技术突破后，随即进入了快速的商业化应用阶段，成为人工智能迈向“成长期”的底必支掠。Eiiitr,人工智能主婴的应用技术方向包括以深度学习为代表的机器学习算法；以

7、计算机视觉、图像识别、语音识别为代表的智能感知技术：以及以无人驾驶、自动机器人等为代表的自主无人系统的三大领域。（2）人工智能产业生态蔚然成型从全球范围内看，围绕专用人工智能技术的人工帮能产业已经初具规模。中国电子学会发布的夕新一代人工智能商业白皮书（2019年）3显示，2018年全球新一代人工智能产业规模超过555.7亿美元,预计2019年产业规模将突破718亿美元。而据预测，2025年世界人工智能总体市场规模将超过6万亿美元,2017-2025年复合增长率达30%。在产业链上，形成了包括智能芯片、传感器、智能设备厂商的硬件层：数据分析处理、克法模型、软件开发和关键技术厂商的技术层：行业应用

8、、解决方案、产品服务开发J.商的应用层等三大层级体系,整体产业生态发展开始从“探索期”的弥补市场空白向“成长期”的产业结构优化转型发展。（3）人工智能投融资日趋理性成熟自2018年全球人工智能投融资达到784.8亿美元高值以来，2019年全球人工智能领域的投融资规模开始回落。中国信息通信研究院发布的全球人工智能产业数据报告显示，2019年一季度全球人工智能融资规模126亿美元，环比卜降7.3%。创投研究机构CBInsights发布的全球人工智能投资趋势年度报告显示，AI初创公司超过70%的投融资为早期投资或A轮融资，资金向头部初创企业集中的趋势明显加强。伴随着“探索期”的风险投资甚至跟风投机泡

9、沫的消除，核心技术、商业落地和可持续发展成为投资者最关切的决策因素，投融资整体趋向理性必然带来产业结构的优化，驱动人工智能从“探索期”向“成长期”发展。（4）人工智能应用场景向深层拓展目前，人工智能的应用场景包括金融、零售、医疗、教育、政务、制造、汽乍、家居、智慧城市、数字内容、公共安全等多个垂直领域。相关行业场景的应用深度不一。IDC发布的UI驱动金融行业智能决策（2020）S显示，目前金融行业头部企业A1.应用渗透率达75%以上；第二梯队的企业A1.应用渗透率超过50:第三梯队的金融企业AI应用渗透率约30%,成为当下人工智能渗透率最高的应用场景。中国新一代人工智能发展战略研究院对797家

10、中国人工智能什干企业中的581家应用层企业进行了详细分析，提供企业技术集成与方案提供、智能机器人两个应用领域的人工智能企业数占比最高，分别为15.43%和9.66m紧随其后的是关键技术研发和应用平台、新媒体和数字内容、智能医疗、智能硬件、金融科技、智能商业和零售、智能制造领域。相关研究预测，到2022年前后，医疗、公共安全、智能制造、无人驾驶和智慈城市等场景的整体人工智能渗透率都将超过25%。可以说，“探索期”的人工智能发展将主要向更多应用领域过渡，“成长期”的人工智能应用相向更深层次渗透。1.3 数据安全成为人工智能全面新发展的重要制约问题数据安全是数字经济发展中最关键的安全挑战之随着人工智

11、能在产业和技术两个方面都在加快渡过“探索期”，逐步进入“成长期”，人工智能发展与数据安全将更加深度地交织在起，数据安全问题已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈.一方面，人工智能发展加剧r传统数据安全风险.在以“数字新基建、数据新要素、在线新经济”为址要特征的数字经济发展大背景下，人工智能的新发展必然伴随着数据总量的井喷式爆发，各类智能化数据采集终端的加快增长，数据在多种渠道和方式下的潦动更加复杂，数据利用场景更加多样，整体数字空间对于人类现实社会各个领域的融合渗透更趋于深层，这将使得传统数据安全风险持续地扩大泛化。另一方面，人工智能催生了件种新型的数据安全风险。人工智能通过训

12、练数据集构造和优化的算法模型，因其对于数据资源特有的处理方式，将会带来数据污染、数据投毒、算法歧视等i系列的新型数据安全问题。同时，人工智能在自动化网络攻击、数据黑产的应用，使得传统网络安全和数据安全威胁更加更杂，对国家和企业现有的数据安全治理能力形成巨大冲击。2人工智能全面新发展的数据安全挑战人工智能全面新发展的数据安全挑战既有传统数据安全问题的普遍共性，更具有人工智能时代的独特烙印，影响领域班盖用户隐私、公民权益、商业秘密、知识产权、社会公平、国家安全等各个方面。因此，报告基于数据生命周期的视域，从数据采集、数据处理、数据流通和数据使用4个阶段，重点聚焦分析人工智能发展中较为独特或更突出的

13、数据安全问题（如表1所示）。Am劣、!，Mj1.1.1.Pa34!1三H11*oM*HIB*9、供!Vf1.H.1*02务Gf1.t*u.vnicrR4*mt4*FJ*5*W1.-M5Wf1.M9&*.n*MVM4iRrnn4k.”CC14iArmii9H*ifUNVJBMA1.1.Mrv*3C109194io*a04n.be0kCJUHf1.N.F*.N1.WTA1.M，一Iyf84)juo*ii.A3.*Jt4*0a*tWIAn.赛人H,久BM*NR9V谪产，“X，#.RB19Kf1.W.MF1.B.：C9W*W4y4*tR4A9M.4fBSffrV00HIiaf1.WXZ工cdsmftA

14、C0tnRP*XS3h”f1.M1.仇*3i*Vu0rca*i*vi*9ezjA.n443Iq0tf*f1.MVI-AVBSVIABe11设EJQf1.M“SQM2.1 数据采集阶段的安全挑战（1）人工智能数据采集时难以保障用户的数据权利人工智能算法尤其是在深度学习的开发测试过程中，需要大量训练数据作为机器学习资料和系统性能测试。H前，人工智能企业的数据采集主要包括现场无差别采集、直接在线采集、网上公开数据源和商务采购等方式。在现场无差别采集时，由丁无法提前预知采集的用户，难以获得用户的充分授权I可意.而在直接在线采集时，由于人工智能系统通常由训练好的模型部署而成，对用户数据需要进行连续性的处

15、理分析，因此很难保隙用户的修改、撤回等权益.在网上公开数据源和商务采购时，由于目前数据共享、交易和流通的市场化机制不健全，因此存在一部分企业通过灰色渠道获得用户数据，而这些数据缺乏用户知情同意。另外，随着计算机视觉、图像识别和语音识别技术的发展，以对个人生物特征数据进行采集分析的应用成为人工智能发展的重要应用方向。而在各国现行的法律规制下，人脸数据、基因数据、体型数据、语音特征等生物特征数据均属于个人敏感数据，对此类数据的采集和处理存在较大的法律合规和隐私保护风险。（2）现场无差别采集可能会产生过度采集问题现场采集是人工智能数据采集的全要方式，广泛应用于无人驾驶、智能家居、智慈城市等场景中。其主要通过在公开环境中部署各类传感器或采集终端,以环境信息为对象进行无差别、不定向的现场实时采集.现场采柒由于难以提前预知采集