利用Cache技术加快网络响应速度

为了加快网络对用户请求的响应速度，提出了层次代理缓存(层次Web Cache)的系统框架，最大限度地挖掘该层次Web Cache系统的功效，并给出了相关技术的解决方案。     

一种基于时钟自适应的改进缓存替换算法

缓存算法在存储系统、数据库、Web服务器等计算机领域有很广泛的应用,缓存命中率是衡量缓存算法优劣的指标之一,对经典的缓存页面替代算法LRU、CLOCK、ARC和CAR进行了比较和分析,提出了一种基于时钟自适应的改进缓存替换算法——ICAR,它能更精确地对读请求的“频率”特性进行管理.实验结果表明,在几种典型的概率分布(例如随机分布、泊松分布和正态分布)的读请求进入缓存的情况下,ICAR在大部分情况下都比CAR和LRU算法有更高的缓存命中率.但是当缓存命中率相当高(高于80％)或者比较低(低于30％)的情况下,ICAR算法并不能总是表现出更好的性能,值得进一步研究.     

流媒体代理缓存分析与设计

本文阐述了流媒体Web代理缓存技术机制,并对以代理方式进行媒体流投递方式进行分析及代理缓存的作用,同时列举了设计流媒体代理缓存系统的要求和代理缓存的部分评价参数指标。     

用户访问特征驱动的中间件语义缓存替换策略

Web应用中大量用户请求频繁与数据库交互会严重影响系统性能,中间件层缓存有助于减少请求与数据库的交互开销、提高服务器的响应速度。研究了在Web应用服务器中引入语义缓存机制,在查询缓存时利用语义信息进行匹配,然后动态追踪和分析用户访问时间性、访问内容量、业务关联等用户访问特征,在此基础上设计一种基于用户访问特征的语义缓存替换算法。原型实验表明其能够提高缓存命中率,并使服务器的响应时间和吞吐量也得到改善。     

Web Cache机群缓存系统设计与实现

设计并实现一个具有较高吞吐率和命中率的Web cache机群缓存系统.在机群缓存系统里引入了单一缓存映像机制和负载平衡机制,以请求为粒度计算负载,从网络带宽、内存容量、磁盘访问率和CPU利用率等方面研究了缓存节点的处理能力,同时给出缓存节点的负载量,并构造了一个负载平衡算法.用Polygraph作为测试工具分别测试了新设计的机群缓存系统和用CARP协议实现的机群缓存系统.实验结果表明,新设计的机群缓存系统具有较好的系统性能.     

一种流媒体代理缓存系统的研究与实现

在参考已有的流媒体代理缓存理论基础上,采用前缀缓存+补丁算法的缓存管理策略,参照流媒体服务器的工作原理,采用RTSP协议作为流传输协议,设计并实现了一种流媒体代理缓存系统.经实验测试该系统提高了系统的字节命中率,进一步减少对网络带宽资源的需求.     

Web智能代理的预取技术和缓存技术

针对同一个工人组中成员可能对Web有相似的兴趣点和访问习惯问题,研究了主要包括缓存和预取两个部分的智能代理技术,研究了代理缓存三种替换算法：LRU和LRU的两种变种,仿真试验表明,LRU算法的命中率极差,将LRU的两种变种相结合则是一种较好的方案,通过引入预测算法和门限算法,代理服务器可以预测最近将要访问到的页面,并存在客户际请求提出之前有选择地下载,因为单个客户访问某个页面的历史次数往往不够多,将预测算算放在代理服务器上比放在客户端的预测概率更准确,通过在代理服务器上实现缓存和预取技术,可减少用户访问Web的响应时间,还可减少实际访问Web服务器的总次数,并提出了一个为发展中国家中国家用户缩减Web访问代价的有效方法。     

一种基于内容分发请求的Web集群服务器研究

针对Web集群服务器请求内容的分布特点,提出了一种基于关联内容的请求分发(ACARD)算法.该算法首先以缓存大小为限制,采用FP tree方法挖掘用户的Web使用模式,并把它们所对应的文档映射到不同的后端服务器,然后由前端服务器根据请求的内容匹配相应的模式并进行转发.这种文档的自适应分布提高了集群系统的磁盘利用率和缓存命中率.实验表明,基于内核态的请求分发算法的性能远优于基于用户态的算法,而且在内核态下,ACARD相对加权最小连接算法的系统平均吞吐量可提高20 4%.     

基于分段流行度分布建模的代理缓存空间优化方法

缓存空间大小和命中率是影响代理缓存服务器建设成本和服务质量的重要因素,但两者相互制约,在代理缓存服务器设计时需要折衷考虑。根据均匀分段后的流媒体片段流行度分布,建立代理服务器缓存空间与命中率之间的关系模型,提出了一种基于均匀分段流行度分布建模的代理缓存空间优化方法,能在定价值函数的情况下计算出的最优代理缓存空间大小。实验结果表明,当给定的价值函数中缓存空间大小和命中率的权重相等时,按所提方法优化设计代理缓存空间存储占比比经验设定缓存存储占比为100%、75%、50%、25%和0%时的价值平均提高24%。     

并行文件系统客户端缓存对系统I/O性能的影响

对浪潮天梭并行文件系统(LCTS-PFS)客户端缓存性能进行了测试,提出了多客户端访问、带客户端缓存的并行文件系统排队模型.分析了不同缓存命中率、不同缓存空间大小和不同文件长度情况下,客户端缓存对I/O响应时间的影响.分析结果表明:I/O响应时间随缓存命中率提高而减少且在有/无缓存情况下的I/O响应时间曲线存在唯一交点,在此交点之前无缓存情况下I/O响应时间小于有缓存情况,而交点之后结果相反;缓存命中率不发生变化时,缓存空间越大I/O响应时间越长;相比无缓存情况下I/O响应时间,若客户端请求生成率固定,则访问文件越大,缓存对I/O响应时间提升越少;若请求生成率发生变化,则相同缓存命中率情况下,访问的文件越大缓存对I/O响应时间提升越多.性能测试和理论分析一致.     

The Configuration Strategies on Caching for Web Servers

The Web cluster has been a popular solution of network server system because of its scalability and cost effective ness. The cache configured in servers can result in increasing significantly performance, In this paper, we discuss the suitable configuration strategies for caching dynamic content by our experimental results. Considering the system itself can provide support for caching static Web page, such as computer memory cache and disk＇s own cache, we adopt a special pattern that only caches dynamic Web page in some experiments to enlarge cache space. The paper is introduced three different replacement algorithms in our cache proxy module to test the practical effects of caching dynamic pages under different conditions. The paper is chiefly analyzed the influences of generated time and accessed frequency on caching dynamic Web pages. The paper is also provided the detailed experiment results and main conclusions in the paper.     

一种新的Web缓冲替换算法

为了提高Web缓冲的命中率和字节命中率，研究了Web缓冲进行替换操作的依据，提出了一种新的基于站点角色的Web缓冲替换算法(SRB)，该算法除了考虑文档最近存在时间、文档大小、文档访问频率以及文档的价值外，还界定了站点在代理服务器上的角色，并在进行替换操作时对来自不同站点的文档赋予不同的角色值，基于轨迹驱动的模拟试验表明，SRB优于其他的主要算法。     

基于主动网络的自适应缓存技术研究

根据主动网络中的任何一个主动节点都可以用于放置缓存及其智能性等特征,提出一种基于主动网络的自适应网络缓存机制.即在自动构建层次拓扑的基础上,采用了缓存摘要技术进行通信协作,通过集中式管理缓存摘要的方法来减少协作通信量;并依照缓存服务器的负载情况进行缓存服务器之间的负载平衡.最后,使用trace-driven模拟方法,以Network Simulator仿真器作为模拟工具,模拟结果显示本文设计的系统与层式结构系统相比有较多优势.     

大规模流媒体服务间隔缓存策略的性能预测模型

静态分析模型能在负载固定的情况下预期不同因素对缓存算法性能的影响,为解决该模型在动态负载下预测精度不高的问题,结合实际用户访问行为研究,采用负载拟合的方法对此问题进行探讨,并提出了一种针对变动负载的间隔缓存类算法的动态性能模型。该模型可更准确估算系统实际性能,从而为用户控制等策略提供参考。实验结果表明,静态模型的缓存命中率预测结果比实际高70%以上,而该模型则能适应负载的变动,预测结果与实际结果差别在10%左右。     

大规模流媒体服务间隔缓存策略的性能预测模型

静态分析模型能在负载固定的情况下预期不同因素对缓存算法性能的影响,为解决该模型在动态负载下预测精度不高的问题,该文结合实际用户访问行为研究,采用负载拟合的方法对此问题进行了探讨,并提出了一种针对变动负载的间隔缓存类算法的动态性能模型。该模型可更准确估算系统实际性能,从而为用户控制等策略提供参考。实验结果表明,静态模型的缓存命中率预测结果比实际高70%以上,而该模型则能适应负载的变动,预测结果与实际结果差别在10%左右。     

基于两点流行度的流媒体缓存算法

针对流媒体自身内在流行度变化的特征，提出了一种新的基于两点流行度的缓存算法，根据片段所在的不同区域，分别采用不同的片段流行度计算标准对片段流行度进行估算，进而选择流行度高的片段进行缓存．利用实际用户访问数据，将该算法与等长分段的缓存算法和指数分段的缓存算法进行了比较，仿真结果证明该算法可以在获得与这些算法相近的请求延迟率的条件下，取得最高的字节命中率．     

应用控制的Web服务器磁盘缓冲方法

针对大数据负载时磁盘I／O阻塞造成的Web服务器性能下降的问题，提出了应用程序控制缓冲（ACC）方法．其核心是，缓冲跟踪模块根据应用程序的文件访问过程来跟踪内核中的文件缓冲状态，缓冲控制模块进行缓冲替换和预取，保持文件缓冲有足够的空闲空间．这样，服务器可在用户空间控制文件缓冲，从而准确判断文件是否在缓冲之中，并依此来调度请求，以提高处理器和磁盘的I／O并行度．同时，服务器可采用适应自身特点的缓冲和预读策略，以提高缓冲的命中率．作为示例，将ACC在Flash服务器中实现，实现中选用了“金字塔选择”缓冲算法．实验表明，在大数据负载下使用ACC的Flash服务器性能有很大的提高，即便在数据负载稍大于物理内存空间的情况下，服务器的吞吐率仍可提高约24．4％，而当数据负载超出物理内存2～3倍时，吞吐率可提高3～4倍。     

基于属性更新的语义缓存一致性维护算法

目前语义缓存一致性维护的更新策略主要是将更新操作转化成删除和添加操作,其增加了不必要的数据通信流量和数据存储,而且只能处理全属性的情况,故本文提出新的语义缓存一致性维护算法,通过分析语义缓存段与更新语句的条件谓词以及投影属性的关系,从而将更新粒度细化至被更新的属性。理论分析和仿真实验均表明该策略能够有效的减少数据存取和数据通信的开销,以及提高缓存命中率和减少查询响应时间。     

基于分段的适应性流媒体缓存管理算法

为提高流媒体代理服务器的缓存效率,从而提高整个流媒体服务系统的性能,提出一种基于用户访问模式的适应性媒体分段缓存策略。该策略充分考虑用户行为模式对具体影片访问特性的不同,采取有针对性的分段缓存管理策略,可显著提高代理缓存命中率。为避免由于分段策略所潜在引发的播放抖动问题,对相应的预取算法进行了理论分析。事件驱动试验结果表明:所提出的缓存算法命中率较之传统的定长分段算法及系统现有的间隔缓存策略均有显著的性能提高,系统稳定时缓存命中率分别高出后两者54%和31%。