|
|||||
|
|
| 分布式流处理系统的时间感知分组算法 | |
| 作者姓名： | 杨李杨 陈思远 张展 朱和一 左德承 |
| 作者单位： | 哈尔滨工业大学 计算机科学与技术学院, 哈尔滨 150001 |
| 摘 要： | 随着对实时数据流处理需求的增加,分布式流处理系统的发展也越来越受到关注。大量的倾斜的数据流以及复杂分布式系统的异构性对当前的分布式流处理系统的分组策略提出了挑战。目前已有的分布式流处理分组策略通常关注并行实例之间元组数量的均衡性,而忽视了系统异构性对分组策略造成的影响。该文提出了一种时间感知分组算法,通过对分布式流处理系统存在的网络异构性和处理能力异构性的分析,综合考虑流处理系统中各下游算子实例的处理时间以及上游算子与下游算子之间的通信时间,并根据键值的频率不同制定不同的路由策略,在较小的开销下使系统达到负载均衡。在Apache Flink分布式流处理系统上进行的实验结果表明：时间感知分组算法比已有的分组算法在系统吞吐量上提高了10%,在平均处理延迟上降低了33%。 |
| 关 键 词： | 流处理 分组算法 时间感知 |
| 本文献已被 CNKI 万方数据 等数据库收录！ | |
| 点击此处可从《清华大学学报(自然科学版)》浏览原始摘要信息 | |
| 点击此处可从《清华大学学报(自然科学版)》下载全文 | |