一、中间件在OLTP中的应用(论文文献综述)
段惠超[1](2020)在《混合负载下数据库的异步增量视图维护优化》文中研究指明随着数据规模和用户数量的增加,日趋多样化的业务需求和日益复杂的混合事务与分析负载(Hybrid Transaction/Analytical Processing,HTAP)对数据库系统的事务吞吐量和分析型查询延迟提出了更高的要求。目前并没有公认针对HTAP负载的最优解决方案,但是基于日志合并树(Log-Structured Merge-Tree,LSM-tree)构建的事务处理系统已经被证明了高效的事务处理能力(例如阿里巴巴的Ocean Base),因此在可扩展的事务处理系统上构建分析型查询能力来响应HTAP负载逐渐成为了研究的热点问题。物化视图通过预计算和缓存计算结果能有效降低查询时延,是分析大规模数据的重要手段。视图对外提供查询时,为了保持视图的内容与基表一致,由基表更新导致的视图更新必然会引入额外的开销。为了在可扩展的事务处理系统上高效地维护视图,如何在这种新型架构下设计视图的存储和维护流程、如何在保证视图查询收益下最小化事务处理引入的额外成本、如何优化系统核心资源的开销等都成为了亟待解决的问题。本文针对这些挑战,围绕可扩展事务处理系统的架构、事务处理过程、IO资源等角度设计了一系列的优化方法,并且从根本上降低了视图的维护代价。本文主要工作和贡献如下:(1)本文结合新型分布式LSM-tree架构特点提出了增量视图维护方案:数据规模的急剧膨胀促使纵向扩展(Scale Up)的传统单机数据库架构向横向扩展(Scale Out)的新型分布式数据架构转变。分布式LSM-tree架构是横向扩展的一种新型方案,能够提供可扩展的事务处理能力,但是对于这种新型架构,目前仍然缺少物化视图维护相关的研究工作。本文总结了分布式LSM-tree的架构特点和实现视图的设计要素,提出了一种将视图维护与事务处理分离的异步维护方法,填补了这一领域的空白。本文在保证一致性的基础上,面向不同的负载特征提出了具体的视图维护策略。针对多表连接视图的性能问题,本文设计并实现了基于多个两表连接的视图维护流程,从而能够根据基表更新直接定位到视图中需要相应进行修改的记录,有效降低了视图维护的代价和对事务处理的影响。(2)本文对高通量事务负载下的增量视图维护进行了优化:当前的视图更新方法通常将每个单独操作或单行日志作为计算的切入点,使得优化方式仅能着眼于单行操作或同一基表的若干行操作。高通量的事务负载下,视图维护对事务处理的影响被放大,视图维护性能需要进一步优化。本文从包含若干操作的整个事务的角度,组合多个基表操作共同生成视图的增量,大大降低了视图维护开销。事实上,在OLTP(Online Transaction Processing)负载中,一个事务往往包含多个表的执行逻辑,隐含了各个表中数据的相关性,并且这往往也是OLAP(Online Analytical Processing)负载同时关注的。本文剖析了事务之间可用于视图维护的逻辑信息,将事务中共同更新的基表组成了一个分片,通过组合这些基表的操作直接得到整个分片的增量。相比传统基于单行操作计算视图增量的方式,以事务为粒度的视图维护过程通过批量进行多表的增量计算,极大地改善了多表连接物化视图的效率。本文还进一步提出了两种优化方案:通过优化增量计算的表达式来减少计算开销;通过避免无效的基表访问来从根本上降低视图维护代价。(3)本文对视图维护的核心IO资源开销进行了优化:针对混合负载下事务与查询访问的数据经常重叠的特点,本文进一步着眼于优化事务处理、查询和视图维护总体的IO开销。当基表发生更新时,本文不对视图进行同步更新而是仅记录下维护视图的任务,这些任务通过复用后续事务和查询的IO来完成。本文设计并实现了一个支持共享IO的多表连接视图的维护方案。通过构造视图关系图来维护基表之间的连接关系,事务执行不仅为基表生成增量记录,还根据其连接表生成相关的维护任务。因此,后续事务或查询可以在不增加IO成本的情况下完成这些任务从而有效降低维护代价。另外,基于多版本实现的增量计算方式也保证了视图与基表在异步更新下的一致性。综上所述,本文深入研究了混合负载下的异步增量视图维护策略,在不同场景下设计实现并优化了视图的存储结构和维护方案。首先,针对目前被广泛使用的分布式LSM-tree架构数据库,本文首次提出并设计实现了高效的增量视图维护方法。然后,本文研究了将事务作为整体来加速视图增量计算的策略,并通过分析形式化的增量计算表达式,进一步进行了优化。最后,本文针对更普遍场景下视图维护时的IO消耗问题,将事务处理和分析查询的IO资源服务于视图维护过程,从根本上降低了视图维护的代价。大量的实验验证了本文方法的有效性。在未来,选择维护哪些视图来整体响应分析负载、如何结合机器学习策略指导异步视图维护任务的执行、以及在混合负载下,如何进行物化视图的推荐等都值得进一步的研究。
李少飞[2](2020)在《基于主机平台上分布式交易中间件的性能分析与调优》文中研究说明大型主机上的分布式交易中间件应用于银行、电信、金融等行业的核心交易系统中,负责调度系统资源,完成交易。交易中间件的性能对大型核心交易系统的稳定性极其重要。随着技术的发展,交易数据的量级不断增大,交易中间件的性能面临着严峻的考验。本文提出了一种通过系统分析交易中间件系统资源性能数据和系统性能指标数据的方式,发现交易中间件的性能问题,系统性地形成性能调优方案,实现对交易中间件性能调优。本文研究实现了一种基于主机平台上分布式交易中间件的性能分析与调优系统。本文的研究工作如下:(1)研究交易中间件性能指标和性能统计数据。交易中间件的性能统计数据中记录交易中间件的性能信息,描述交易中间件内部各个系统资源的使用及调度情况、当前状态和参数设置。分析系统需求,确定系统的设计目标。采用B/S开发模式,基于MVC思想,设计系统整体结构。划分系统功能模块,对系统性能分析模块、性能调优模块和调优验证模块进行设计。(2)研究实现基于主机平台上分布式交易中间件的性能分析与调优系统。实现Python接口分析处理交易中间件性能统计数据,制定方法处理不同数据模块。实现Java控制层接口,实现系统请求转发处理和性能数据结果集的分析处理。视图层实现展示性能指标数据视图、性能趋势变化视图和系统性能状态视图。最后实现系统的功能。(3)实验结果研究分析与性能调优测试。研究系统的内存、队列、任务、线程等资源的使用及调度情况,分析系统的地址空间CPU使用率、系统资源利用率等关键性能指标,研究MXT、DSALIMIT等系统参数设置情况及作用。最后确定交易中间件的性能问题,分析影响性能因素,提供具体性能调优方案,在主机z/OS390系统中,完成性能调优测试。验证性能调优结果,将CPU地址空间使用率,QRCPU分配比率,DSA利用率,EDSA利用率等与预期效果对比,证明性能调优方案的正确性与有效性。
黄小铭[3](2019)在《无共享的关系型内存数据库的数据分区优化方法研究》文中研究表明现代在线事务处理(Online Transaction Processing,OLTP)应用对于数据库可拓展性和事务ACID属性的要求,催生出了无共享的分布式内存数据库管理系统(Sharednothing Distributed In-memory DBMS)。此类DBMS由于使用了无共享架构将数据分布在多个分区,在完成事务时可能会从多个分区访问数据,从而产生分布式事务(Distributed Transaction)。分布式事务由于需要DBMS使用开销巨大的网络通信来进行跨分区协调处理,对此类DBMS性能有着巨大的影响。为了从减少分布式事务的角度来优化此类DBMS性能,学术界中提出了许多基于分区的解决方案。这些解决方案通过对此类DBMS中数据的共同访问关系(Co-accessed Relationship)建模成图并分析,将数据元组合理地划分到各个分区,给出新的数据分区方案,使得大部分具有共同访问关系的数据被放置在相同的分区,从而减少分布式事务的数量以提升此类DBMS的性能。除了减少分布式事务数量,由于此类DBMS及OLTP工作负载的固有特点,要使得新的分区方案对于此类DBMS性能有着更好的提升,该类解决方案及其产生的分区方案需要满足额外的要求。这些要求包括OLTP负载变化带来的对于解决方案时间消耗的要求,对于分区方案负载平衡的要求,以及共同访问关系中的社区结构(Community Structure)带来的对于解决方案分析数据量的要求和解决“C平衡社区问题”的要求。目前能为此类DBMS性能带来良好提升的解决方案之一Commgraph,使用了细粒度的图建模方式,通过对图进行社区发现(Community Detection),然后再将发现的社区放置到分区中,从而产生分区方案的方法,减少了大量的分布式事务,并满足了分区方案负载平衡的要求以及社区结构带来的要求。然而本文通过进一步的研究发现,Commgraph对于数据进行的过于细粒度的建模与分析会导致当DBMS中数据量较大时,其产生分区方案的时间过长,从而无法满足解决方案时间消耗的要求。此外本文提出,Commgraph的社区放置模块上存在“小社区分区占用”问题。由于原始的Commgraph在进行社区放置时,仅仅只考虑是否能将社区放置在当前分区中,而不考虑之前的分区是否也能装下该社区,导致较小的分区没有合理的被分配到分区中,并占用额外的分区,导致产生的分区方案中分区资源的浪费。本文主要针对Commgraph解决方案时间消耗过长的问题和其放置模块带来的小社区分区占用问题进行了研究,基于Commgraph解决方案进行了两项改进。其一是对Commgraph的社区放置模块进行了分析与改进,在不影响Commgraph优化效果的前提下减少了分区方案中使用分区的数量,节约了使用Commgraph进行分区优化后DBMS运行时的资源消耗。其二是提出了名为ACTDP的图压缩工具,通过点聚合的方法对共同访问关系图进行压缩,为Commgraph提供压缩后的关系图从而大幅减少其时间消耗,使得Commgraph能够快速的完成分区方案的生成,满足OLTP负载变化带来的对于解决方案时间消耗的要求。最后,本文对两项改进的效果进行了详细的测试和验证。通过对社区放置模块的测试,本文证明了对于Commgraph社区放置模块的改进比起原始的Commgraph社区放置模块,能在不降低Commgraph对于DBMS优化效果的同时,使得Commgraph的分区方案使用相同或者更少的分区数量。而通过对于ACTDP工具的测试,本文证明了使用ACTDP之后的Commgraph产生分区方案的耗时能大幅下降,并且数据量越多下降越明显。在数据库中有100万个元组的测试条件下其耗时相较于原Commgraph下降了约80%,同时使用该分区方案对DBMS进行优化时吞吐量仅下降了约15%。因此,本文提出的对Commgraph的两项改进能解决Commgraph的小社区分区占用问题和耗时过长的问题,对此类DBMS拥有大量数据时进行分区优化具有重大的意义。
苏乐[4](2011)在《事务中间件在高可用性数据库系统中的应用》文中研究表明数据库系统高可用性技术包括基于硬件部件冗余的服务器技术,基于软件冗余的备用数据库和复制数据库技术以及各种数据库集群技术。数据库系统高可用性技术不仅要解决意外停机故障,还要尽可能地减少计划停机时间。本文首先分析了系统高可用性理论,系统地论述了高可用性的基本概念、系统停机原因、系统恢复等方面。接着深入研究了系统高可用性关键技术:基于硬件的高可用性技术、数据库系统高可用性技术和事务高可用性技术。最后,针对某业务处理系统的高可用性需求,设计并实现了基于TUXCDO事务中间件的高可用性数据库系统。该系统是通过在数据库外协调事务的执行和采用预写式日志的方法实现的。该系统支持异构数据库,主节点数据库和备用节点数据库可以不同。发生节点或数据库故障时,系统自动切换到降级模式工作,系统性能并不会下降。系统在切换过程中,不会发生丢失数据的现象。系统恢复时,不需要系统停机,管理员只需做一些简单的工作,系统就可自动完成恢复。该高可用性数据库系统能提供一年停机时间少于五分钟的高可用性。它与能提供相同级别可用性的实时应用集群相比,具有价格低的优点。
朱雪玲[5](2007)在《基于消息队列的中间件在IPTV中的应用》文中认为IPTV作为电信网、互联网和广电网三网融合的切入点,在世界范围内迅速发展,并从试验阶段转向大规模商用阶段。中间件技术能够很好地解决IPTV发展过程中遇到的互联互通、业务拓展成本高、设备浪费等问题,所以国际电联IPTV焦点组将中间件和应用平台明确作为IPTV标准架构中的重要组成部分。本论文结合国际电联IPTV焦点组的相关资料,首先探讨了IPTV系统的功能结构和EPG系统的原理;然后深入分析了基于消息队列的中间件技术和IPTV系统中的中间件技术。针对IPTV系统的结构特点及EPG对元数据传送的要求,提出一种用基于消息队列的中间件来进行元数据传输的设计思想,该中间件具有很好的开放性和可扩展性。文中对整个中间件系统、中间件的接口和分系统的数据处理流程都进行了详细的设计,并基于中间件的设计思想和Java等技术为该中间件的编程实现提供了实现方案。最后,根据中间件系统的功能需求,设计了对该系统的测试方案。
徐春艳[6](2007)在《面向实时数据仓库的ETL研究》文中认为随着计算机技术和信息技术的飞速发展,电子信息数据在企业的日常运营中越来越重要,企业迫切需要高效、精确、及时地分析数据。传统数据仓库的数据加载周期较长,往往只能提供对历史数据的分析与查询,不能实时地反应企业商业信息变化。实时数据仓库作为传统数据仓库的扩展,有效地缩短了信息延时,为企业提供了更有价值的战术型决策支持。ETL过程是数据仓库实现的关键环节,要在实时数据仓库系统中,实现实时ETL变得尤为复杂、困难,因而研究实时数据仓库中ETL的实现策略对于实时数据仓库的建设有着极为重要的意义。本文在全面分析实时数据仓库ETL的研究现状和数据仓库技术的基础上,给出了实时数据仓库的体系结构,并且讨论了实时数据仓库的应用。然后针对实时ETL的新特点,重点分析了实时ETL的实现难点:变更数据捕获和汇总数据更新。针对这些问题,提出了基于数据库复制技术的变更数据捕获方案和基于ODS实时分区的汇总数据更新解决方案,并详细阐述了两方案的设计过程及实现。最后以图书发行行业作为实验背景,实现了所提出的实时数据仓库ETL解决方案,结果证明了方案的合理性与有效性。
龚卫华[7](2006)在《数据库集群系统的关键技术研究》文中研究表明目前大型DBMS在海量数据的OLTP商业应用中已成为制约整个信息系统性能和效率提升的瓶颈,传统的提高单机的硬件配置和优化数据库系统性能参数的方法也只能有限地提高系统性能。因此,基于多机并行处理的数据库集群成为人们关注的热点,它以高性能、高可用性和高可扩展性为目标,在高性能计算、海量数据的存储和处理、Web服务、电子商务等领域有着广泛的应用。围绕数据库集群系统的并行性能,主要从系统结构、全局事务的并发控制、负载平衡以及数据分布等方面解决了集群系统中的一些关键问题。为了将集群技术应用于数据库系统以实现大规模和高并行性能的数据库集群系统,在无共享的数据库集群基础上设计了一种通用的、具有高并行性能的中间件系统,提供单一系统映像结构,采用元数据管理、多线索机制、并行事务预处理等技术,实现了数据库集群的协作与并行处理,能满足对性能要求较高的OLTP商业应用,具有理想的性价比。该系统既保持了集群中局部数据库站点的自治性,又提高了数据库集群系统的并行性能,解决了大型DBMS的性能瓶颈。在并发控制方面,为了保证集群系统中全局事务的并发正确执行,采用基于谓词级的多级粒度冲突检测机制,并通过检测谓词冲突图中是否存在环的方法来避免冲突的全局事务可能会产生的全局死锁,不仅减小了死锁检测粒度而且还提高了全局事务处理的并发度,同时也保持了集群中局部数据库的自治性。此外,还改进了一种以事务提交图为中心的并发事务调度算法来保证全局事务的可串行化提交,实验比较结果表明该算法有效地提高了全局事务执行的并发度,增加了事务吞吐率和减少了响应时间。负载平衡是集群系统获得高并行处理性能和提高资源利用率的有效手段,集群中的负载平衡器根据同构或异构节点上的CPU、内存和磁盘I/O等计算资源在不同负载下的综合利用率来衡量节点的加权负载状态,所提出的基于阈值的动态负载平衡算法不仅考虑了资源的利用率,而且还考虑了负载类型对集群系统性能的影响。实验证实该策略不仅动态地保持了系统的负载平衡,而且还充分发挥了各节点的计算能力,提高了系统中各计算资源的利用率。数据分布平衡是影响数据库集群系统性能的重要因素,现存的一些数据划分方法把关系和数据都均匀地分布到多个处理节点上,而没有考虑异构节点间计算能力的差异,使得数据库集群的并行处理能力没有被充分地发挥,因此,提出了适合于同构及异构集群中数据分布的改进的Range划分方法,根据集群中同构或异构节点的计算能力将数据不均匀地分布各节点上,克服了传统的数据均匀划分的缺点。针对系统负载中发生的数据倾斜,所采用的联机数据迁移算法根据负载访问特点把过载节点上的热点数据迁移到轻负载的节点上以分担系统负载,其优点是不仅有效避免了数据执行倾斜,提高了事务吞吐率,也保持了集群系统的动态平衡。最后,综合分析和评价了同构及异构数据库集群系统的各种并行性能度量指标,TPC-C测试结果表明数据库集群系统在并行OLTP处理中具有良好的可扩展性、次线性的加速比、以及高性价比的并行处理服务,为满足电信、金融等领域大规模OLTP处理的需要打下坚实的基础。
李欢峰[8](2006)在《中间件技术在分布式事务处理中的研究和应用》文中研究指明随着Internet和计算机技术的迅猛发展,电子商务、联机事务处理、智能化服务、企业的全球化管理、应用集成、服务集成等新业务需求的提出,需要在异构、分布的环境中完成各类企业生产业务和管理业务数据的可靠传输与处理,为实现各类计算资源共享,需要中间件技术通过屏蔽和疏通各种复杂的底层技术细节,向用户展现出一个单一、简单的开发平台,使企业级的应用开发、部署与管理变得轻松和谐。 本平台引入了中间件和分布式事务处理模型,采用了组件化和一定的智能化处理,支持用户快速和动态地开发和部署所需的商业系统。本平台采用了面向事务处理的中间件技术以及自适应机制,同时提供了便于商业模型建立和处理的商业建模语言,最大程度上适应了商业系统开发的需要。 本文从系统的角度论述了事务处理技术的实现模型和框架级设计实现。课题的最终成果为:设计一个基于事务处理的分布式框架系统(包括系统体系结构,程序层次结构),并且实现该框架系统原型。本文的创新性主要体现为,通过引入工作单元集的概念来增大长事务处理内各个活动的”并发”度,从而缩短长事务处理的执行时间,极大提高该事务处理成功运行的可能性,而不是象普通的框架主要侧重于事务处理单元的执行顺序。
陈卓[9](2006)在《中间件在证券集中交易系统中的应用研究与实现》文中认为在我国加入WTO和金融市场对外丌放的背景下,国内证券公司必须改变传统的经营模式,提升自身的实力和规模,大幅提高管理水平和服务水平,因此需要摒弃原有以营业部为中心向股民提供交易和咨询服务的模式,改以依靠券商整体资源提供服务和管理,发挥券商的整体优势,树立券商的整体形象。因而建立一个全新体系构架的证券大集中系统,实现资金和经营的统一管理成为证券业的共识。 论文的课题是来源于江苏国投信泰证券的大集中项目。目前,分布式处理技术和Client/Server体系结构已经日益成熟,分布式多层体系结构成为构造证券集中交易系统的上佳选择。本文提出使用Tuxedo中间件来实现系统的业务管理、通讯管理和安全控制。本文首先介绍了联机事务处理系统的特点,中间件的概念和分类,Tuxedo中间件的组成结构和技术原理,讨论了Tuxedo的Server进程和Service函数,还讨论了系统安全策略、分布式多层体系结构的特性;然后,给出了JSPS集中交易系统的体系结构和中间件结构,给出了系统的层次结构;接着,结合系统需求,对JSPS集中交易系统进行建模,划分了系统的功能模块和子系统模块;在此基础上,讨论了系统中Tuxedo中间件的配置模式,对系统的中间应用服务器层进行了配置和部署,并分析和设计了系统的业务中间件、通讯中间件和安全中间件;最后,给出了JSPS集中交易系统的主要业务流程,并且给出了业务管理和系统安全的具体实现。
童臻,黄林鹏[10](2004)在《中间件在OLTP中的应用》文中研究表明OLTP系统是计算机应用的一个重要领域。该文全面分析了基于中间件TUXEDO的OLTP系统解决方案,介绍了这一方案的各个功能 模块以及相互之间的关系,提出了基于中间件TUXEDO的、对OLTP系统业务逻辑层的组成。
二、中间件在OLTP中的应用(论文开题报告)
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、中间件在OLTP中的应用(论文提纲范文)
(1)混合负载下数据库的异步增量视图维护优化(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 研究背景 |
1.1.1 混合负载及应用 |
1.1.2 传统系统的变迁 |
1.1.3 基于OLTP系统扩展的新型HTAP系统 |
1.1.4 基于OLTP系统增加视图支持 |
1.2 研究内容与挑战 |
1.2.1 研究内容 |
1.2.2 研究挑战 |
1.3 主要贡献 |
1.4 章节安排 |
第二章 背景知识与研究现状 |
2.1 视图维护 |
2.2 增量视图维护 |
2.2.1 增量视图维护的形式化 |
2.2.2 增量视图维护的计算方法 |
2.3 视图维护时机 |
2.3.1 同步增量视图维护 |
2.3.2 异步增量视图维护 |
2.4 视图维护优化 |
2.4.1 研究方法 |
2.4.2 增量视图维护的优化方法 |
2.5 LSM-Tree架构 |
2.5.1 存储 |
2.5.2 数据访问 |
2.5.3 二级索引维护与物化视图关系 |
2.6 本章小结 |
第三章 分布式LSM-Tree架构下的增量视图维护 |
3.1 引言 |
3.2 设计要素 |
3.2.1 同步增量视图维护设计缺陷 |
3.2.2 异步增量视图设计要素 |
3.3 基于LSM-Tree的异步视图维护设计 |
3.3.1 模式及表示 |
3.3.2 视图的存储 |
3.3.3 部分更新的异步维护流程 |
3.3.4 基于存储节点的异步维护流程 |
3.4 视图维护计算 |
3.4.1 事务中的视图维护 |
3.4.2 视图增量数据的维护 |
3.5 视图表的一致性查询 |
3.5.1 版本控制 |
3.5.2 视图增量数据的并发控制 |
3.6 基于存储节点的异步维护优化 |
3.6.1 精准更新 |
3.6.2 版本控制 |
3.7 实验 |
3.7.1 实验配置 |
3.7.2 视图查询对事务处理的影响 |
3.7.3 事务处理对视图查询的影响 |
3.8 讨论 |
3.9 本章小结 |
第四章 事务负载下基于分片更新的增量视图维护 |
4.1 引言 |
4.2 问题定义 |
4.2.1 视图增量计算 |
4.2.2 分片定义 |
4.2.3 分片增量计算 |
4.3 基于分片的异步视图维护架构 |
4.4 表达式优化 |
4.4.1 表达式化简 |
4.4.2 可优化条件 |
4.4.3 条件检测方法 |
4.5 表访问优化 |
4.5.1 可优化条件 |
4.5.2 可优化场景 |
4.6 实验与分析 |
4.6.1 实验配置 |
4.6.2 事务处理性能 |
4.6.3 视图查询性能 |
4.6.4 视图维护代价 |
4.6.5 视图存储代价 |
4.6.6 整体维护代价 |
4.7 本章小结 |
第五章 基于IO共享的异步视图维护优化 |
5.1 引言 |
5.2 问题定义 |
5.3 基于IO共享的异步视图维护架构 |
5.4 视图维护任务生成与匹配 |
5.4.1 任务管理 |
5.4.2 任务匹配 |
5.5 实验与分析 |
5.5.1 实验配置 |
5.5.2 事务处理性能 |
5.5.3 视图维护代价 |
5.5.4 查询性能 |
5.6 本章小结 |
第六章 总结与展望 |
6.1 本文总结 |
6.2 未来展望 |
参考文献 |
致谢 |
攻读博士学位期间发表的学术论文 |
(2)基于主机平台上分布式交易中间件的性能分析与调优(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究背景及意义 |
1.2 国内外研究现状及存在问题 |
1.2.1 国内外研究现状 |
1.2.2 存在问题 |
1.3 研究内容 |
1.4 论文结构 |
第二章 交易中间件相关技术研究 |
2.1 交易处理原理与事务管理 |
2.2 系统资源管理与CICS region |
2.3 交易中间件存储机制 |
2.4 系统实现关键技术 |
2.5 本章小结 |
第三章 系统需求分析与设计 |
3.1 交易中间件性能指标 |
3.2 交易中间件系统资源数据 |
3.2.1 性能统计数据来源 |
3.2.2 系统资源及作用 |
3.3 系统需求分析 |
3.4 系统设计目标 |
3.5 系统整体结构设计 |
3.6 系统功能模块设计 |
3.6.1 功能模块划分设计 |
3.6.2 性能分析模块设计 |
3.6.3 性能调优模块设计 |
3.6.4 调优验证模块设计 |
3.7 本章小结 |
第四章 系统实现 |
4.1 控制层接口实现 |
4.2 数据层Python接口实现 |
4.3 性能数据统计模块 |
4.4 性能调优模块 |
4.5 性能调优验证模块 |
4.6 视图层渲染实现 |
4.6.1 性能指标分析视图实现 |
4.6.2 性能趋势变化视图实现 |
4.6.3 系统性能状态视图实现 |
4.7 本章小结 |
第五章 系统性能分析与调优测试 |
5.1 实验环境 |
5.2 性能指标数据实验结果研究 |
5.2.1 系统交易处理结果分析 |
5.2.2 系统资源调度结果分析 |
5.2.3 系统资源Storage分析 |
5.3 性能趋势变化实验结果研究 |
5.3.1 地址空间CPU使用率 |
5.3.2 系统QR CPU使用率 |
5.3.3 系统活动任务使用率 |
5.4 关键性能参数与性能调优方案 |
5.4.1 关键性能参数 |
5.4.2 性能调优方案 |
5.5 调优测试与结果验证 |
5.6 研究成果对比 |
5.7 本章小结 |
第六章 研究总结与展望 |
6.1 主要工作总结 |
6.2 不足与展望 |
参考文献 |
致谢 |
(3)无共享的关系型内存数据库的数据分区优化方法研究(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 研究意义和目的 |
1.2 无共享的关系型DBMS背景简介 |
1.2.1 在线事务处理简介 |
1.2.2 无共享的分布式关系型内存DBMS简介 |
1.2.3 关系型数据模型以及分区技术简介 |
1.2.4 分布式事务处理技术及分布式事务对DBMS性能的影响 |
1.3 共同访问关系的图模型简介 |
1.4 对于分区优化方法的要求及相关研究 |
1.4.1 OLTP应用产生工作负载的变化带来的要求 |
1.4.2 对于分区方案负载平衡的要求 |
1.4.3 共同访问关系中存在的社区结构带来的要求 |
1.5 本文主要研究内容 |
1.6 论文的章节安排 |
1.7 本章小结 |
第二章 研究问题介绍 |
2.1 在线事务处理应用的数据共同访问关系图中的社区结构 |
2.1.1 自然图中社区结构的定义 |
2.1.2 共同访问关系图中社区结构的存在 |
2.1.3 社区结构给分区解决方案的优化效果所带来的影响 |
2.2 Commgraph解决方案介绍 |
2.3 Commgraph的优势与不足 |
2.3.1 Commgraph的优势 |
2.3.2 Commgraph的不足 |
2.4 本章小结 |
第三章 系统设计 |
3.1 Commgraph社区放置算法的优化设计 |
3.1.1 装箱问题的形式化定义 |
3.1.2 不同装箱算法的设计与比较 |
3.2 ACTDP工具的设计 |
3.2.1 ACTDP工具的设计目标 |
3.2.2 ACTDP工具压缩方法的设计 |
3.2.3 ACTDP工具的架构设计 |
3.3 本章小结 |
第四章 系统实现 |
4.1 社区放置算法的实现讨论 |
4.2 ACTDP实现方法 |
4.2.1 自适应点聚合模块 |
4.2.2 图转化模块 |
4.3 本章小结 |
第五章 实验结果与分析 |
5.1 测试环境 |
5.2 测试基准程序及数据集的选择 |
5.2.1 测试基准程序 |
5.2.2 测试数据集的来源和介绍 |
5.3 优化前Commgraph的相关对比测试及分析 |
5.3.1 优化前Commgraph的优化效果对比试验 |
5.3.2 优化前Commgraph解决方案运行时间测试 |
5.4 Commgraph社区放置算法优化设计的对比试验与分析 |
5.5 ACTDP的相关测试及分析 |
5.5.1 ACTDP减少Commgraph运行时间的测试 |
5.5.2 ACTDP对 Commgraph优化效果的影响测试 |
5.6 本章小结 |
全文总结 |
参考文献 |
致谢 |
攻读学位期间发表的学术论文 |
(4)事务中间件在高可用性数据库系统中的应用(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究背景与意义 |
1.2 本文的工作 |
1.3 论文安排 |
第二章 系统高可用性理论与技术 |
2.1 系统高可用性理论 |
2.2 高可用性技术 |
第三章 中间件技术及其在数据库中的应用 |
3.1 中间件技术 |
3.2 数据库中间件技术 |
3.3 基于TUXEDO的事务中间件 |
第四章 系统模型设计 |
4.1 系统需求分析 |
4.2 系统功能要求 |
4.3 系统设计思想 |
4.4 系统模型结构 |
4.5 系统设计 |
第五章 系统实现 |
5.1 应用的配置管理 |
5.2 服务器和客户端程序 |
5.3 主备节点的切换 |
5.4 系统测试 |
第六章 总结 |
参考文献 |
致谢 |
(5)基于消息队列的中间件在IPTV中的应用(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 论文的研究背景 |
1.2 中间件技术及其在 IPTV中应用的研究现状 |
1.3 论文结构 |
1.4 本论文的研究成果和研究意义 |
第二章 IPTV系统概述 |
2.1 IPTV系统 |
2.1.1 IPTV系统的功能结构 |
2.1.2 IPTV系统的业务分类 |
2.2 IPTV中的EPG(电子节目指南)系统 |
2.2.1 EPG系统 |
2.2.2 业务导航系统 |
2.3 本章小结 |
第三章 中间件技术的研究 |
3.1 中间件技术概述 |
3.1.1 中间件的定义与分类 |
3.1.2 中间件技术的优点 |
3.1.3 消息中间件的定义与分类 |
3.1.4 基于消息队列的消息中间件 |
3.2 中间件的实现技术概述 |
3.2.1 Java编程语言 |
3.2.2 可扩展性标志语言(XML) |
3.2.2.1 XML文件 |
3.2.2.2 XML文件的逻辑结构 |
3.2.2.3 XML文件的物理结构 |
3.2.3 文档对象模型(DOM) |
3.3 IPTV系统中的中间件 |
3.3.1 IPTV中间件的定义 |
3.3.2 IPTV中间件的分类 |
3.3.3 IPTV终端中间件的 API接口 |
3.3.4 IPTV系统中间件的架构和功能 |
3.4 本章小结 |
第四章 基于消息队列的中间件在 IPTV中的应用设计方案 |
4.1 基于消息队列的中间件的整体设计 |
4.2 中间件中消息队列的设计 |
4.2.1 EPG中传送的元数据 |
4.2.2 XML消息文件的设计 |
4.2.3 消息队列的设计 |
4.3 系统中间件中的EPG组件接口设计 |
4.3.1 元数据发送接口的设计 |
4.3.2 元数据接收接口的设计 |
4.3.3 其他相关接口和类的设计 |
4.4 发送模块的数据发送流程设计 |
4.5 接收模块的数据接收流程设计 |
4.6 本章小结 |
第五章 基于消息队列的中间件在 IPTV中的应用实现方案 |
5.1 开发工具的选择 |
5.2 XML消息文件的实现方式 |
5.3 IPTV系统中间件的 E P G组件中的接口实现方式 |
5.3.1 发送接口的实现 |
5.3.2 接收接口的实现 |
5.4 发送模块的程序实现方式 |
5.5 接收模块的程序实现方式 |
5.6 中间件的测试方案 |
5.6.1 测试环境 |
5.6.2 测试的主要内容 |
5.6.3 测试用例的设计 |
5.7 本章小结 |
总结与展望 |
参考文献 |
致谢 |
(6)面向实时数据仓库的ETL研究(论文提纲范文)
摘要 |
Abstract |
第一章 绪论 |
1.1 研究背景 |
1.2 国内外研究现状 |
1.3 本文主要研究工作 |
1.4 本文的组织 |
第二章 本文涉及相关知识 |
2.1 数据仓库技术 |
2.1.1 数据仓库定义 |
2.1.2 数据仓库的特点 |
2.1.3 数据仓库的体系结构 |
2.1.4 数据仓库建模 |
2.1.5 联机分析应用 |
2.2 实时数据仓库 |
2.2.1 实时数据仓库的定义 |
2.2.2 实时数据仓库的体系结构 |
2.2.3 实时数据仓库与传统数据仓库的比较 |
2.2.4 实时数据仓库的应用 |
2.3 实时数据仓库的ETL 过程 |
2.3.1 ETL 的定义 |
2.3.2 ETL 的功能模型 |
2.3.3 ETL 在数据仓库中的重要作用 |
2.3.4 实时数据仓库的ETL 新要求 |
2.3.5 实时ETL 实现的难点 |
2.4 本章小节 |
第三章 变更数据捕获解决方案的研究 |
3.1 变更数据捕获的定义 |
3.2 传统变更数据捕获解决方案 |
3.2.1 企业应用集成的定义 |
3.2.2 企业应用集成的类别 |
3.2.3 EAI 实现不同系统的数据交流与共享 |
3.2.4 应用EAI 的集成功能实现变更数据捕获 |
3.3 传统变更数据捕获解决方案存在的问题 |
3.4 基于数据库复制技术的变更数据捕获方案 |
3.4.1 数据库复制技术 |
3.4.2 数据复制技术的类别 |
3.4.3 数据复制技术特点及应用 |
3.4.4 基于数据库复制技术变更数据捕获过程 |
3.5 本章小节 |
第四章 汇总数据更新解决方案的研究 |
4.1 汇总数据更新的定义 |
4.2 传统汇总数据更新解决方案 |
4.2.1 物化视图的定义 |
4.2.2 物化视图的刷新 |
4.2.3 物化视图在汇总数据更新的应用 |
4.3 传统汇总数据更新解决方案存在的问题 |
4.4 基于ODS 实时分区的汇总数据更新解决方案 |
4.4.1 ODS 技术 |
4.4.2 ODS 与数据仓库的区别 |
4.4.3 ODS 在实时数据仓库中的作用 |
4.4.4 基于ODS 的实时分区设计 |
4.4.5 实时分区中汇总数据的更新过程 |
4.4.6 基于实时分区的汇总数据实时查询 |
4.5 本章小节 |
第五章 实时数据仓库ETL 过程的实现及应用 |
5.1 平台的选择 |
5.1.1 复制服务器的系统组成部分及其功能 |
5.1.2 数据复制服务器工作过程 |
5.1.3 数据在局域网和广域网上的传送 |
5.1.4 复制系统管理 |
5.2 实时数据仓库ETL 的项目背景 |
5.3 实时数据仓库的ETL 总体框架 |
5.4 实时ETL 模块的实现 |
5.5 变更数据捕获的实现过程 |
5.5.1 需要复制的数据及其复制方向的设计规划 |
5.5.2 安装复制服务器 |
5.5.3 配置复制服务器 |
5.5.4 加载复制定义和约定 |
5.5.5 创建复制路由 |
5.5.6 复制服务器上建立复制定义 |
5.5.7 数据主点在复制点订阅复制数据 |
5.5.8 引入复制技术后的效果 |
5.6 汇总数据更新的实现 |
5.6.1 实时的事实表建模 |
5.6.2 图书销售事实表设计 |
5.6.3 图书销售月聚合表设计 |
5.7 数据的前端展现 |
5.7.1 传统战略性OLAP 分析 |
5.7.2 准实时OLAP 分析 |
5.7.3 实时销售数据分析 |
5.8 本章小节 |
第六章 总结与展望 |
6.1 总结 |
6.2 展望 |
参考文献 |
致谢 |
在学期间的研究成果及发表的学术论文 |
(7)数据库集群系统的关键技术研究(论文提纲范文)
摘要 |
ABSTRACT |
1 绪论 |
1.1 课题的背景及意义 |
1.2 数据库集群系统的概述 |
1.2.1 数据库集群系统与其他系统的区别 |
1.2.2 数据库集群的并行OLTP 处理优势 |
1.3 数据库集群系统及其关键技术研究概况 |
1.3.1 事务的可串行化 |
1.3.2 负载均衡与资源管理 |
1.3.3 数据的分布及划分 |
1.4 本文的主要工作及组织结构 |
2 数据库集群系统的体系结构 |
2.1 引言 |
2.2 数据库集群系统的框架设计 |
2.3 集群中间件系统的技术特点 |
2.3.1 元数据管理 |
2.3.2 多线索机制 |
2.3.3 并行事务预处理技术 |
2.3.4 异构数据库集成 |
2.4 小结 |
3 数据库集群系统中的并发控制 |
3.1 引言 |
3.2 集群系统中的事务模型 |
3.3 多粒度的并发控制 |
3.3.1 谓词的概念及提取技术 |
3.3.2 基于谓词的冲突判断方法 |
3.3.3 谓词冲突图中的死锁检测 |
3.3.4 实验结论 |
3.4 并发事务调度策略 |
3.4.1 事务提交图分析 |
3.4.2 改进的并发事务调度算法 |
3.4.3 两种调度算法的性能比较 |
3.5 小结 |
4 集群系统的动态负载平衡 |
4.1 引言 |
4.2 动态负载平衡策略 |
4.3 动态负载平衡的性能评价 |
4.4 小结 |
5 数据库集群中的数据分布策略 |
5.1 引言 |
5.2 数据分布的原则和方法 |
5.3 数据分布平衡的策略 |
5.3.1 改进的全局数据分布方法 |
5.3.2 联机数据迁移算法 |
5.4 数据迁移开销分析 |
5.5 小结 |
6 集群系统中的OLTP 性能评价 |
6.1 引言 |
6.2 数据库集群的性能评价指标 |
6.3 OLTP 对集群的性能影响分析 |
6.4 OLTP 测试环境及性能评价 |
6.4.1 同构及异构集群下性能测试 |
6.4.2 系统开销分析 |
6.4.3 集群系统的综合性价比评价 |
6.5 小结 |
7 全文总结及展望 |
7.1 全文总结 |
7.2 研究展望 |
致谢 |
参考文献 |
附录攻读博士学位期间发表论文目录 |
(8)中间件技术在分布式事务处理中的研究和应用(论文提纲范文)
独创性声明 |
学位论文版权使用授权书 |
摘要 |
ABSTRACT |
目录 |
第一章 引言 |
1.1 课题的背景 |
1.2 课题的提出 |
1.3 论文的组织 |
第二章 中间件技术综述 |
2.1 中间件的概念 |
2.2 中间件的产生 |
2.3 中间件的分类 |
2.3.1 终端仿真/屏幕转换中间件 |
2.3.2 数据访问中间件 |
2.3.3 远程过程调用中间件 |
2.3.4 消息中间件 |
2.3.5 交易中间件 |
2.3.6 对象中间件 |
2.4 中间件的优点 |
2.5 中间件的发展趋势 |
第三章 分布式事务处理模型 |
3.1 事务的概念 |
3.1.1 原子性(Atomic) |
3.1.2 一致性(Consistent) |
3.1.3 隔离性(Isolation) |
3.1.4 持久性(Durable) |
3.2 分布式事务处理DTP模型 |
3.3 XA规范 |
3.4 两阶段提交协议 |
3.4.1 集中式2PC |
3.4.2 分布式2PC |
3.4.3 分层式2PC |
3.4.4 线性2PC |
3.5 基于Agent的扩展分布式事务处理模型 |
3.5.1 Agent基本概念 |
3.5.2 采用Agent技术实现分布式事务处理的优点 |
3.5.3 基于Agent的分布式事务模型 |
3.5.4 模型的ACID特性证明 |
3.5.3 扩展分布式事务处理模型的特点 |
第四章 分布式事务处理系统设计 |
4.1 系统体系结构 |
4.2 系统业务功能模块与系统设计要求 |
4.3 中间件平台设计方案 |
第五章 分布式事务处理系统中的关键技术 |
5.1 交易中间件在系统中的应用 |
5.1.1 CICS的构成 |
5.1.2 CICS的功能 |
5.1.3 CICS的资源 |
5.1.4 CICS的调度机制 |
5.1.5 CICS的通信接口 |
5.1.6 CICS中的XA资源配置 |
5.1.7 CICS的工作流实例 |
5.2 分布式事务中的完整性问题 |
5.2.1 一阶段提交 |
5.2.2 CICS在事务完整性中的应用 |
5.3 基于锁的协议 |
5.3.1 锁 |
5.3.2 锁的授予 |
5.3.3 两阶段封锁协议 |
5.4 基于时间戳的协议 |
5.4.1 时间戳 |
5.4.2 时间戳排序协议 |
5.4 死锁处理与预防 |
5.4.1 死锁处理 |
5.4.2 死锁预防 |
5.5 死锁检测与恢复 |
5.5.1 死锁检测 |
5.5.2 死锁恢复 |
第六章 总结与展望 |
6.1 测试 |
6.2 结论 |
6.3 展望 |
致谢 |
参考文献 |
(9)中间件在证券集中交易系统中的应用研究与实现(论文提纲范文)
第1章 绪论 |
1.1 引言 |
1.2 论文背景 |
1.3 国内证券交易系统现状 |
1.4 证券交易系统的新模式 |
1.5 集中交易系统采用的相关技术 |
1.6 本文主要内容和结构 |
第2章 JSPS集中交易系统关键技术研究 |
2.1 联机事务处理系统的特点 |
2.2 中间件的概念和分类 |
2.3 Tuxedo交易中间件 |
2.4 系统安全性 |
2.5 JSPS集中交易系统的层次结构和中间件结构 |
第3章 JSPS集中交易系统总体设计 |
3.1 系统总体需求和设计目标 |
3.2 系统建模 |
3.3 系统功能划分 |
第4章 JSPS集中交易系统中间件的设计 |
4.1 应用服务器层的配置和部署 |
4.2 系统业务中间件的组织 |
4.3 系统通讯中间件的组织 |
4.4 系统安全中间件的组织 |
第5章 JSPS集中交易系统的实现 |
5.1 系统业务流程 |
5.2 业务处理的实现 |
5.3 系统安全的实现 |
第6章 总结与展望 |
6.1 总结 |
6.2 展望 |
参考文献 |
致谢 |
(10)中间件在OLTP中的应用(论文提纲范文)
1 OLTP的传统解决方案 |
1.1 主机/终端应用体系 |
1.2 两层客户机/服务器体系结构 |
2 引入中间件的三层客户机/服务器体系 |
3 某银行解决方案 |
4 结束语 |
四、中间件在OLTP中的应用(论文参考文献)
- [1]混合负载下数据库的异步增量视图维护优化[D]. 段惠超. 华东师范大学, 2020(02)
- [2]基于主机平台上分布式交易中间件的性能分析与调优[D]. 李少飞. 北京邮电大学, 2020(05)
- [3]无共享的关系型内存数据库的数据分区优化方法研究[D]. 黄小铭. 上海交通大学, 2019(06)
- [4]事务中间件在高可用性数据库系统中的应用[D]. 苏乐. 复旦大学, 2011(08)
- [5]基于消息队列的中间件在IPTV中的应用[D]. 朱雪玲. 北京邮电大学, 2007(05)
- [6]面向实时数据仓库的ETL研究[D]. 徐春艳. 南京航空航天大学, 2007(01)
- [7]数据库集群系统的关键技术研究[D]. 龚卫华. 华中科技大学, 2006(03)
- [8]中间件技术在分布式事务处理中的研究和应用[D]. 李欢峰. 东北大学, 2006(11)
- [9]中间件在证券集中交易系统中的应用研究与实现[D]. 陈卓. 华东师范大学, 2006(04)
- [10]中间件在OLTP中的应用[J]. 童臻,黄林鹏. 计算机工程, 2004(S1)