首页 | 本学科首页   官方微博 | 高级检索  
     检索      

分布式CNN中基于参数优先级的细粒度调度算法
引用本文:姜珊,程志超,曾荣飞,黄敏,王兴伟.分布式CNN中基于参数优先级的细粒度调度算法[J].广州大学学报(自然科学版),2022,21(1):18-26.
作者姓名:姜珊  程志超  曾荣飞  黄敏  王兴伟
作者单位:东北大学计算机科学与工程学院,辽宁 沈阳 110819,东北大学软件学院,辽宁 沈阳 110819,东北大学信息科学与工程学院,辽宁 沈阳 110819
基金项目:辽宁省兴辽英才计划资助项目;国家自然科学基金
摘    要:随着卷积神经网络模型日益复杂,训练数据类型更加丰富,数据量急速增长,单一机器已经无法满足模型训练的需求,分布式CNN成为新的解决方法.在参数服务器架构下,分布式CNN模型训练会产生大量的通信数据,可能会在每次迭代后产生突发流量,从而造成网络阻塞.在TensorFlow这种用图来表示计算的平台中,节点之间接收参数的顺序是...

关 键 词:卷积神经网络  计算图  参数传输  优先级

Fine grained scheduling algorithm based on parameter priority in distributed CNN
JIANG Shan,CHENG Zhi-chao,ZENG Rong-fei,HUANG Min,WANG Xing-wei.Fine grained scheduling algorithm based on parameter priority in distributed CNN[J].Journal og Guangzhou University:Natural Science Edition,2022,21(1):18-26.
Authors:JIANG Shan  CHENG Zhi-chao  ZENG Rong-fei  HUANG Min  WANG Xing-wei
Abstract:
Keywords:
本文献已被 万方数据 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号