卷积神经网络

优化

池化 Pooling

max pooling
 理论上，最大池化操作的好处是减小输入大小，使得神经网络能够专注于最重要的元素。最大池化只取覆盖区域中的最大值，其它的值都丢弃。

TensorFlow 提供了 tf.nn.max_pool() 函数，用于对卷积层实现 最大池化 。

conv_layer = tf.nn.conv2d(input, weight, strides=[1, 2, 2, 1], padding=‘SAME‘)
conv_layer = tf.nn.bias_add(conv_layer, bias)
conv_layer = tf.nn.relu(conv_layer)
# Apply Max Pooling
conv_layer = tf.nn.max_pool(
    conv_layer,
    ksize=[1, 2, 2, 1],
    strides=[1, 2, 2, 1],
    padding=‘SAME‘)

mean pooling

1x1卷积 convolutions

Inception架构