bp算法固定学习率不收敛原因分析及对策
, PP. 22-25
Keywords: 人工神经网络,模型,bp算法,学习速率,发散
Abstract:
?人工神经网络bp模型是一种常用的建模方法,但仍存在很多问题.通过对bp算法的应用发现,当固定学习率η大于0~1内某一值,将导致网络算法不收敛.本文从数学理论上分析了这一现象产生的内在原因.最后提出两种有效对策:方法是第一次η取小值,随后取较大值,最后取小值;方法二是调整传递函数f(x).通过这两种方法,解决了固定学习率不收敛的问题,并对改进方法进行了实证检验.
Full-Text