热门
最新
红包
立Flag
投票
同城
我的
发布
祝友友们周一快乐!
CSDN App 扫码分享
3
11
打赏
- 复制链接
- 举报
下一条:
降噪自编码器 denoising autoencoder在神经网络模型训练阶段开始前,通过Auto-encoder对模型进行预训练可确定编码器W的初始参数值。然而,受模型复杂度、训练集数据量以及数据噪音等问题的影响,通过Auto-encoder得到的初始模型往往存在过拟合的风险。简单理解,在人类的感知过程中,某些模态的信息对结果的判断影响并不大。举个例子,一块圆形的饼干和一块方形的饼干,在认知中同属于饼干这一类,因此形状对我们判断是否是饼干没有太大作用,也就是噪声。如果不能将形状数据去除掉,可能会产生“圆饼干是饼干,方饼干就不是饼干”的问题(过拟合)。当采用无监督的方法分层预训练深度网络的权值时,为了学习到较鲁棒的特征,可以在网络的可视层(即数据的输入层)引入随机噪声,这种方法称为降噪自编码器(denoising autoencoder[DAE])。降噪自编码器:一个模型,能够从有噪音的原始数据作为输入,而能够恢复出真正的原始数据。这样的模型,更具有鲁棒性。降噪自编码器 denoising autoencoder - 陌鲸的文章 - 知乎https://zhuanlan.zhihu.com/p/467926176


