首页 | 本学科首页   官方微博 | 高级检索  
     检索      

基于HDFS的海量指纹数据云存储优化研究
引用本文:张宇翔,赵建民,朱信忠,徐慧英.基于HDFS的海量指纹数据云存储优化研究[J].浙江师范大学学报(自然科学版),2015(2):179-184.
作者姓名:张宇翔  赵建民  朱信忠  徐慧英
作者单位:浙江师范大学数理与信息工程学院
基金项目:国家自然科学基金资助项目(6127268)
摘    要:HDFS设计之初只考虑到如何更好地处理大文件,并没有针对海量小文件进行优化,因此,当使用HDFS管理海量指纹数据小文件时会出现Name Node内存负载过重、上传及查询性能过低等问题.采用Sequence File序列化技术进行小文件的合并,并且对于小文件合并、元数据存储、缓存策略等进行了针对性优化.实验证明,该优化方案可以有效地解决Name Node内存负载过重的问题,并且海量指纹数据小文件的上传和查询性能得到了提高.

关 键 词:HDFS  小文件  Sequence  File  文件合并  元数据存储  缓存策略
本文献已被 CNKI 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号