分布式存储在云环境下的应用和部署.docx

随着互联网数据规模越来越大，并发请求越来越高，传统的关系数据库系统在性能、价格、可扩展性方面已经不能很好地满足需求.谷歌、亚马逊等互联公司率先在后台基批设施中引入超大规模分布式存储系统，用来解决海量数据的存磕问题.与传统的集中式存储技术不同，分布式存储没有将数据存储在某个特定节点上,而是通过网络将各个节点分散的存储资源汇聚成一个虚拟的存储备，将数据分散在各处.相较于集中存储，分布式存储成本低，扩展性好，弱化了关系数据模型，可以得到高并发和高性能.1分布式存储概念及特点分布式存储系统，是将数据分散存储在多台独立的设备上.传统的网络存储系统采用集中的存储服务器存放所有数据，存储服务器成为系统性能的瓶颈，也是可靠性和安全性的焦点，不能满足大规模存储应用的需要,随着各行业数字化转型的加速，越来越多的数据被生产出来，分布式存储成为我们应对海量数据挑战的由要助力.从20世纪80年代开始，历经几十年的演进，分布式存储已经走过了四个阶段：第一阶段是1980年代的网络文件系统，通过少量服务器实现网络环境下的简单文件共享；第二阶段是1990年代的共享SAN文件系统，已经能够外接SAN设备实现更大的文件系统；第三阶段是2000年代的Share-Nothing存储，开始利用通用服务器构建起高扩展的存镭系统；第四阶段是2010年代逐步产生的企业级云存储，这类存储开始具备丰富的企业特性，存储性能、效率和数据保护能力有了显著的增强，开始在各行各业中广泛应用.此外，不同类型的数据需要用不同的分布式存储系统去处理.图片、视频等非结构化数据，由于个体相互之间没有关联，体积大，采用二级制，通常使用分布式文件系统进行存储；自描述的数据结构和内容混在一起的半结构化数据，比较简单的可以用分布式键值系统存储，较为复杂的一般采用分布式表格系统来存储区;结构化数据由分布式数据库存储.2云计算的概念及特点云计算是网格计算、分布式计算(DiStribUtedComputing),并行计算(ParalIelComputing),效用计算(UtilityComputing),网络存储、虚拟化(VirtUaIiZatiOn)、负载均衡(1.OadBaIanCe)等传统计算机和网络技术发展融合的产物.广义云计算指服务的交付和使用模式，指通过网络以按需要、易扩展的方式获得服务.这种服务可以是IT软件和互联网相关服务，也可以是其他服务.狭义云计算指IT基础设施的交付和使用模式，指通过网络以按需、易扩展的方式获得所需资源。总体来说云计算具有以下几个特点：1)超大规模："云"具有相当的规模，企业私有云一股拥有数百上千台服务器并且能够横向平滑扩展，"云"赋予了用户前所未有的计算能力；2)虚拟化：云计算支持用户在任意位置、使用各种终端获取应用服务.所请求的资源来自"云"，而不是固定的有形的实体。应用在"云"中某处运行，但实际上用户无需了解、也不用担心应用运行的具体位置；3)高可靠性："云"使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性；4)通用性：云计算不针对特定的应用，在"云”的支律下可以构造出千变万化的应用，同一个"云"可以同时支撑不同的应用运行；5)高可扩展性："云"的规模可以动态伸缩,满足应用和用户规模增长的需要；6)按翕服务："云"是一个庞大的资源池，你按需购买；7)廉价性：由于"云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本，"云”的通用性使资源的利用率较之传统系统大幅提升，因此用户可以充分享受“云”的低成本优势.3分布式存储在云环境下的应用场景3.1分布式存储系统架构云和AI时代，数据迎来海量增长。高速SG通信、商清8K视频、自动驾戚和大数据分析等越来越多的新兴应用正逐步推高对数据存储的需求.企业不断扩展业务边界,整合云场景存硫资源，以更低TCO(TotalCostofOwnership),更灵活的弹性部署应对非结构化数据快速增长.在这样的背空下，分布式存储架构成为了首选。各存储厂家纷纷推出自己的分布式存储产品，通过存储系统软件将每个硬件节点的本地存储资源组织起来，按需为上层应用提供文件存储、对蕊存储、大数据存储和块存储服务.实现海量数据储存更经济、多样性数据使用更高效、在线业务承载更可靠,其系统架构如图1.舄俄俄J9C皇X3三W三Jf-四）序图1分布式存锯系统架构图目前大多分布式存悻产品都会提供基于三层的分布式存储架构，会融合分布式文件、对蕊、大数据和块多个服务形态，支持文件、对釜、大数据服务部署在一个集群，并统一管理，整体功能架构由存储接口层、存储服务层、存储引擎层和存储管理组成，如图2所示，此外还会提供一些杀毒、异构开源存储首理的特色功能.NFSraFSHDFSPoSIX/MPISCSISCSI图2分布式存储软件功能架构PEST/SNMP分布式存储系统具有海量数据储存更经济、多样性数据使用更高效、在线业务承我更可靠等优势，已被广泛应用于如下场景:1）HPC（HighPerformanceComputing）场品:在气象、基因、石油等HPC高性能计凭场景，应用对分布式存储的性能要求高.文件服务提供的DPC可减少跨网络传输延迟,并提供标准接口给应用，在不修改应用的情况下提供比标准协议更高的性能。2）内容存描、备份归档场景:总性能、高可筋的企业级对象存储资源池可满足巨联网数据、在线音频/视频、企业网盘等实时在线业务吞吐最大、热点数据频繁访问的业务需求，以及长期保存、在线访问需求.例如应用于金融电子票据影像、双录（录音/录像），医疗影像、政企电子文档和车联网场品存储、备份或归档.3）大数据分析场景：大数据计算存储分黑解决方案可整合传统数据孤岛，构建统一的企业大数据资源池，结合大比例EC、存储和计兑分离按需部署和扩容等企业级能力，实现大数据业务效率提升及TCO降低.例如应用于金融大数据分析、运营商日志留存大数据和政务大数据等。4）云/虚拟化场景：为云和虚拟化提供按需获取'弹性扩展的海量存储资源池,基于通用服务器大幅提升存储资源的部署、扩展和运维效率.例如应用于金融互联网柒道接入云、开发测试云，运营商BOM域业务云化、B2B云资源池、政务云等.5）关椎业务数据库场紧：通过分布式Active-Active双活、稳定低时延等企业级能力，保障O1.AP或O1.TP类关键业务数据库、数据仓库高效稳定运行。3.2云环境下分布式存储的应用场黑网络接入票群系统分布式系统文件系按网格计算存情盅拟化用户访问后身份认证访向控制APt接口、应用软件.Web服务等数据家务层内容分发数据压辐故据去冗+9黔据备份捌S容灾数据管理层存翻集中If理状态太控敢据存错后节点1节点2节点3节点.节点N图3云存储系统架构”用户访问层是基于云存储开发的应用程序的入口，授权用户可以通过标准的公共应用接口登录云存储系统，享受云存储服务.云存慵产品服务商不同，云存储提供的访问类型和访问手段也不同.数据服务层是利用云存储资源进行应用开发的关键部分，云存佛平台通过数据服务展为用户提供统一的协议和编程接口，进行应用程序的开发.应用接口层是云存储最灵活多变的部分。不同的云存储运营机构可以根据实际业务类型开发不同的应用服务接口，提供不同的应用服务.数据管理层是云存悻最为核心的部分，也是最豆杂的部分.数据管理层采用集群技术、分布式存储技术，实现多存储设备之间的协同工作，对外提供高可用性、可扩展性的服务，同时还负责数据加密、备份、容灾以及必要的计斐等任务.数据存储层是云存储最基础的部分，由不同类型的存储设备和网络设备组成.数据存储屋实现海景数据的统一管理、存储设备管理、状态监控等.存储层位于云存储的最下层，它是云存储中最基础的部分.存储设备的选择多种多样各种存储设备都可以用来构建这一展.云存储中的存储设备通常数飙众多且分布在多个不同位置，彼此之间通过互联网或者光纤通道等把各种网络连接在一起。分布在存储设备之上的是一个统一的存储硬件设备管理系统，通过这一层可以实现存催设备的逻辑虚拟化管理、多链路冗余管理，以及硬件设备的状态监控和故障维护。在行内分布式存储主要以分布式SAN为虚拟化资源池提供服务，以分布式文件为媒体/视版监控/HPC提供服务、以分布式对蕊为备份归档提供服务,以分布式数据库为大数据服务.3.2.1 为云平台底座提供基础存储资源云环境下，分布式存储系统能够实现计凭资源和存储资源的单独横向扩展，计第资源不足时直接扩容计算节点，存镭空间不足时只需扩容存储节点，极大地节省硬件资源降低成本.对于云平台中部署的轻量级企业关键应用程序，可选用中等性能的磁盘类型,满足性能要求不高但是要求具有丰富的企业级特性场景,例如普通数据库、应用VM,中间件VM等数据存储需求,通过云硬盘的形式挂载给虚拟机或裸金属服务器使用，满足企业用户应用数据的存储需求.分布式存储在云平台提供基础存储服务，通过弹性云硬盘的形式提供给应用虚拟机和裸金属使用，在应用对性能要求不高的情况下，通常在初期用于渠道类应用、各类外围应用、灰度发布应用、容器技术应用、京面以及开发测试环境，采用分布式存储做云平台底座存储设备，提供弹性扩展、存算分黑、存储类型可选、EC纠删可靠和高并发等便捷场景服务的作为结合点.为了应对互联网金耿带来的业务浪涌，除核心账务系统采用集中式高端全闪存储外，外围业务以及海最非结构化数据业务场景已经全面向分布式存储过渡.凭借分布式存储的弹性资源分配能力，金融行业的新业务开发和部署效率相比传统存储都有所提升和加速，突发资源获取周期从过去的天级缩短到小时级,资源池化后，存储效率得到显著提升,运维斐用也不断降低，整体TCO实现有效压降.银行的七大类业务系统（账务处理类、业务处理类、渠道服务类、服务支撑类、外联三方类、数据服务类、办公管理类），在与金融云平台和分布式存储架构功能特点的结合中，我们对各类系统的资源需求变动、业务迭代速度、数据一致性要求、并发要求进行分析，得出云平台中适用的业务系统类型,如表1所示，进而为选择和配置云平台中各区域分布式存储提供依据。表1云存储系统架构银行系统分类法源需求史动业务迭代数据一致性并发要求云平台适用性*务处理类低“慢>>海：海3低“业务处理类低“快。中«中3柔道it务类快-纸一较高一高3服务支撑类小慢一低低“高3外或三方类低3慢>海“低3数据置务类高3慢中“篇3中“办公管理类“惠“快“»高3.2.2为云平台提供分布式数据席存储资源在云计算平台中，传统数据库以OraCIe、DB2或者MySql的关系生数据库为主,但是当单衣数据地爆炸或者单个数据库无法承受高强度1/0时，集中式数据库是无法斛决性能和数据处理瓶颈问题的,原以应时应用层的高并发数据访问.业务核心数据库使用场景需要支持应用高好期的密集访问，要求碳盘具有持续稳定的高性能和低时延，通过选用超高性能的磁盘类型，可以实现超期性能与超高可琳性的集令，满足关系型数据库等数据密集型场景下低时延、高1/0性能左度的严苛性能要求。在基于MySQ1.的分布式数据库中,分表支持动态漂移,随着表的热度和大小进行动态的扩容和伸缩，保证资源分配最优化；而分布式存储节点可以无限水平扩展，从而提供可动态无限扩展的存储容量；性能随节点扩展而线性增长，满足云计算平台对容量和性能的需求，具备云服务所有的弹性、敏捷、按需和轻运维特性.因此，采用分布式存储优化后用于数据库的数据存储，提高性能的同时确保了数据的安全性.在金融及其他领域，