卷积神经网络(CNN)
1.链式反向梯度传导
1.1 链式法则的计算
y=f(x),z=g(y)
1.2 神经网络中链式法则
顺序:从loss向输入传播
每层的导数()结果进行存储,用于下一层导数的计算
2.卷积层
2.1 卷积层
边界扩充:为确保卷积后特征图尺度一致
确定方法:卷积核的宽度2i+1,添加pad宽度为i
卷积层关键参数:常见宽度
2.2 卷积核
3.功能层
非线性激励层ReLU函数
池化层pooling layer max 数据降维,方便计算存储 池化过程中,每张图单独降维
归一化层:原因:特征数scale不一致,加速训练,提高精度
切分层:
merge
