在我们的前向传播和后向传播实现中使用的“缓存”是什么?
B.我们用它将在正向传播过程中计算的变量传递到相应的反向传播步骤。它包含了反向传播计算导数的有用值。
如图:
以下哪些是“超参数”?(选出所有正确项)
A.隐藏层规模n[l]【★
】
B.神经网络的层数L【★
】
C.激活向量a[l]
D.权重矩阵W[l]
E.学习率α【★
】
F.迭代次数【★
】
G.偏置向量b[l]
在前向传播期间,在层l的前向传播函数中,您需要知道层l中的激活函数(Sigmoid,tanh,ReLU等)是什么。在反向传播期间,相应的反向传播函数也需要知道第l层的激活函数是什么,因为梯度是根据它来计算的(正确)
在以下2层隐藏层的神经网络中,以下哪句话是正确的?
A.W[1] 的形状是 (4, 4)
B.b[1] 的形状是 (4, 1)
C.W[2] 的形状是 (3, 4)
D.b[2] 的形状是 (3, 1)
E.b[3] 的形状是 (1, 1)
F.W[3] 的形状是 (1, 3)
原文:https://www.cnblogs.com/spore/p/13027611.html