|
|
- 2018
深度神经网络训练中梯度不稳定现象研究综述DOI: 10.13328/j.cnki.jos.005561 Keywords: 深度神经网络 梯度不稳定现象 梯度衰减 梯度爆炸 Abstract: 深度神经网络作为机器学习领域的热门研究方向，在训练中容易出现梯度不稳定现象，是制约其发展的重要因素，控制和避免深度神经网络的梯度不稳定现象是深度神经网络的重要研究内容.分析了梯度不稳定现象的成因和影响，并综述了目前解决梯度不稳定现象的关键技术和主要方法.最后展望了梯度不稳定现象的未来研究方向
|
