系统编程
-
- 问题五:了解python生成器和迭代器吗
- 题目七: model.train() VS model.eval()
问题五:了解python生成器和迭代器吗
(1)迭代器
在这说「迭代器」的原因是「生成器」自动实现了「迭代器协议」,所谓协议,就是一种约定。为了更好的理解生成器,我们需要简单知道一下「迭代器协议」到底是个什么东西。其实只需要满足两个两个条件:1.实现 iter 方法;2.对象实现 next() 方法,要么返回迭代中的下一项,要么就是以 StopIteration 异常终止迭代。
(2)生成器
Python 使用生成器对「延迟操作」提供了支持,所谓「延迟操作」就是在需要它的时候才产生结果,而不是说立即产生结果。
生成器函数
「生成器函数」和普通的函数定义类似。区别在于普通函数使用 return 返回结果,生成器函数是用 yield 返回结果
题目七: model.train() VS model.eval()
(1)model.train()
启用 Batch Normalization 和 Dropout。
如果模型中有BN层(Batch Normalization)和Dropout,需要在训练时添加model.train()。model.train()是保证BN层能够用到每一批数据的均值和方差。对于Dropout,model.train()是随机取一部分网络连接来训练更新参数
(2)model.eval()
不启用 Batch Normalization 和 Dropout。
如果模型中有BN层(Batch Normalization)和Dropout,在测试时添加model.eval()。model.eval()是保证BN层能够用全部训练数据的均值和方差,即测试过程中要保证BN层的均值和方差不变。对于Dropout,model.eval()是利用到了所有网络连接,即不进行随机舍弃神经元