卷积神经网络中,图像矩阵大小为5x5x1,卷积核大小为3x3,步长大小为1,请问做了多少次卷积操作?
答案:9次
思考权值共享的作用:
减少参数的数量;
能够找到该卷积核代表的局部特征。
常见的池化操作有哪些?
一般池化:最大池化,平均池化
重叠池化
空金字塔池化
微调的使用情况有哪些?
使用的数据集和预训练模型的数据集相似;
自己搭建或者使用卷积神经网络模型的正确率太低;
数据集相似,但是数据集数量太少;
计算资源太少。
支持向量机中常用的核函数有哪些?
线性核
多项式核
高斯核
拉普拉斯核
Sigmoid 核。
忘记门信号????zf,取100还是取-100时,重置 memory?
忘记门输入信号为-100时,memory会重置
当某一时刻参数点处于悬崖边上的时候,梯度会非常的大;如果乘以当前的学习率,会飞出这个误差曲面,那么我们应该采用什么样的方法来避免此种情况的出现?
损失函数的梯度在同一个点附近可能有着巨大的差别,
有时候非常大,有时候非常小。思考:这种现象发生的原因。
原文:https://www.cnblogs.com/shijingwen/p/13935409.html