02月
22
百度引入Ring Allreduce算法，大规模提升模型训练速度
百度硅谷人工智能实验室（SVAIL）近日宣布将Ring Allreduce算法引进深度学习领域，这让基于GPU训练的神经网络模型的训练速度显著提高。Ring Allreduce是高性能计算（HPC）领域内一个众所周知的算法，但在深度学习领域内的应用相对较少。原文链接
百度硅谷人工智能实验室（SVAIL）近日宣布将Ring Allreduce算法引进深度学习领域，这让基于GPU训练的神经网络模型的训练速度显著提高。Ring Allreduce是高性能计算（HPC）领域内一个众所周知的算法，但在深度学习领域内的应用相对较少。原文链接
