热门
最新
红包
立Flag
投票
同城
我的
发布
模型训练时loss变化问题:
1.train loss 下降⬇,val loss下降⬇,说明网络仍在学习;(继续训练)
2.train loss 下降⬇,val loss上升⬆,说明网络开始过拟合了;(停止,然后数据增强、正则)
3.train loss 不变,val loss不变,说明学习遇到瓶颈;(调小学习率或批量数目)
4.train loss 不变,val loss下降⬇,说明数据集100%有问题;( 检查数据集标注有没有问题)
5.train loss 上升⬆,val loss上升⬆,说明网络结构设计不当,训练超参数设置不当,数据集经过清洗等问题。
6.loss轻微震荡属于正常,在一定范围内,一般来说batch size越大,其确定的下降方向越准,引起的训练震荡越小。
原文链接:https://blog.csdn.net/qq_42823043/article/details/107609762
CSDN App 扫码分享
评论
点赞
打赏
- 复制链接
- 举报