Neural Networks：Momentum
浏览数：24 /
时间：2015年06月09日
一、目的
加快参数的收敛速度。
二、做法
另第t次的权重更新对第t+1次的权重更新造成影响。
从上式可看出，加入momentum后能够保持权重的更新方向，同时加快收敛。通常alpha的取值为[0.7, 0.95]
郑重声明：本站内容如果来自互联网及其他传播媒体，其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享，并不代表本站赞同其观点和对其真实性负责，也不构成任何其他建议。
