总的来说，大部分情况下，设置这个 flag 可以让内置的 cuDNN 的 auto-tuner 自动寻找最适合当前配置的高效算法，来达到优化运行效率的问题。
一般来讲，应该遵循以下准则：
[转载]什么情况下应该设置 cudnn.benchmark = True？
原文：https://www.cnblogs.com/wzyuan/p/9461861.html
