Datawhale X 李宏毅苹果书AI夏令营
在task2中我了解了线性模型的概念、优化方法、模型变形以及深度学习中的框架设计,下面谈谈我对文档的学习心得
关于对于线性模型的概念:线性模型通过输入特征x与权重w的线性组合,加上偏置项b来预测输出y。通过梯度下降法优化,反复调整w和b以最小化损失函数L最终找到最佳参数w*和b*
其次就是模型变形与激活函数,除了Hard Sigmoid,文档中还引入了ReLU作为激活函数,ReLU更适合深度学习模型,因其能够更好地处理复杂的函数关系。
深度模型:通过叠加多层ReLU,构建更深层次的模型,可以显著提高模型的表达能力和预测精度,但也可能引入过拟合问题。