热门

最新

红包

立Flag

投票

同城

我的

发布
qq_38255230
Chronic_
4 年前
trueqq_38255230

模型训练时loss变化问题:
1.train loss 下降⬇,val loss下降⬇,说明网络仍在学习;(继续训练)
2.train loss 下降⬇,val loss上升⬆,说明网络开始过拟合了;(停止,然后数据增强、正则)
3.train loss 不变,val loss不变,说明学习遇到瓶颈;(调小学习率或批量数目)
4.train loss 不变,val loss下降⬇,说明数据集100%有问题;( 检查数据集标注有没有问题)
5.train loss 上升⬆,val loss上升⬆,说明网络结构设计不当,训练超参数设置不当,数据集经过清洗等问题。
6.loss轻微震荡属于正常,在一定范围内,一般来说batch size越大,其确定的下降方向越准,引起的训练震荡越小。

原文链接:
https://blog.csdn.net/qq_42823043/article/details/107609762

CSDN App 扫码分享
分享
评论
点赞
打赏
  • 复制链接
  • 举报
下一条:
又是开发自己博客的一天呀~http://www.lll.plus欢迎大家访问的啦~
立即登录