本篇内容主要讲解“怎么使用ReduceLROnPlateau”，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习“怎么使用ReduceLROnPlateau”吧!
ReduceLROnPlateau是Keras中默认包含的回调。神经网络的学习率决定了梯度的比例因子，因此过高的学习率会导致优化器超过最优值，而学习率过低则会导致训练时间过长。很难找到一个静态的、效果很好的、不变的学习率。
顾名思义，“降低高原学习率”就是在损失指标停止改善或达到稳定时降低学习率。一般学习率减少2到10倍，这有助于磨练参数的最佳值。
要使用ReduceLROnPlateau，必须首先创建回调对象。有四个参数很重要：
monitor，它用来监视指标
factor，它是新的学习率将被降低（乘以）的因子
persistence，回调激活之前等待的停滞epoch数
min_lr，它可以降低到的最小学习率。这可以防止不必要和不有益的减少。
from keras.callbacks import ReduceLROnPlateau reduce_lr = ReduceLROnPlateau(monitor='val_loss', factor=0.2, patience=5, min_lr=0.001) model.fit(X_train, Y_train, callbacks=[reduce_lr])
当使用model.fit时，可以指定回调参数。注意，这可以接受一个列表，因此可以安排多个回调。
LearningRateScheduler是ReduceLROnPlateau的另一种选择，它允许用户根据epoch来安排学习率。如果你知道(可能来自以前的研究或实验)网络的学习率在从epochs 1-10时应该是x, 在epochs 10-20是应该是y，LearningRateScheduler可以帮助实现这些变化。以上epoch的数字可以任意变化。
创建学习率调度器需要一个用户定义的函数，该函数将epoch和learning rate作为参数。返回对象应该是新的学习率。
from keras.callbacks import LearningRateScheduler def scheduler(epoch, lr): #定义回调schedule if lr < 0.001: return lr * 1.5 #如果lr太小,增加lr elif epoch < 5: return lr #前五个epoch，不改变lr elif epoch < 10: return lr * tf.math.exp(-0.1) #第五到第十个epoch，减少lr else: return lr * tf.math.exp(-0.05) #第10个epoch之后，减少量更少 callback = LearningRateScheduler(scheduler) #创建回调对象 model.fit(X_train, y_train, epochs=15, callbacks=[callback])
然后，将其转换为Keras回调后，就可以用于模型的训练。这些调度程序非常有用，允许对网络进行控制，但建议在第一次训练网络时使用ReduceLROnPlateau，因为它更具适应性。然后，可以进行可视化模型，看是否能提供关于如何构造一个适当的LR调度器的相关想法。
此外，你可以同时使用ReduceLROnPlateau和LearningRateScheduler，例如，使用调度程序硬编码一些学习速率（例如在前10个epoch不更改），同时利用自适应能力，在高原上降低学习率以提升性能。
EarlyStopping可以非常有助于防止在训练模型时产生额外的冗余运行。冗余运行会导致高昂的计算成本。当网络在给定的时间段内没有得到改善时，网络完成训练并停止使用计算资源。与ReduceLROnPlateau类似，EarlyStopping需要monitor。
from keras.callbacks import EarlyStopping callback = EarlyStopping(monitor='loss', patience=5) model.fit(X_train, y_train, epochs=15, callbacks=[callback])
TerminateOnNaN有助于防止在训练中产生梯度爆炸问题，因为输入NaN会导致网络的其他部分发生爆炸。如果不采用TerminateOnNaN，Keras并不阻止网络的训练。另外，nan会导致对计算能力的需求增加。为了防止这些情况发生，添加TerminateOnNaN是一个很好的安全检查。
rom keras.callbacks import TerminateOnNaN model.fit(X_train, y_train, epochs=15, callbacks = [TerminateOnNaN()])
由于许多原因，ModelCheckpoint可以以某种频率（也许每隔10个左右的epoch）保存模型的权重，因此它非常有用。
如果训练模型时突然中断，则不需要完全重新训练模型。
如果，比如说，在第30个epoch，模型开始显示出过拟合的迹象或其他问题，比如梯度爆炸，我们可以用最近保存的权重重新加载模型（比如在第25个epoch），并调整参数以避免该问题，而无需重新进行大部分训练。
能够提取某个epoch的权重并将其重新加载到另一个模型中有利于迁移学习。
在下面的场景中，ModelCheckpoint用于存储具有最佳性能的模型的权重。在每个epoch，如果模型比其他记录的epoch表现更好，则其权重存储在一个文件中（覆盖前一个的权重）。在训练结束时，我们使用model.load_weights进行加载.
from keras.callbacks import ModelCheckpoint callback = ModelCheckpoint( #创建回调 filepath='/filepath/checkpoint', #告诉回调要存储权重的filepath在哪 save_weights_only=True, #只保留权重(更有效)，而不是整个模型 monitor='val_acc', #度量 mode='max', #找出使度量最大化的模型权重 save_best_only=True #只保留最佳模型的权重(更有效)，而不是所有的权重 ) model.fit(X_train, y_train, epochs=15, callbacks=[callback]) model.load_weights(checkpoint_filepath) #将最佳权重装入模型中。
或者，如果需要基于频率的保存（每5个epoch保存一次），请将save_freq设置为5
编写自定义回调是Keras包含的最好的特性之一，它允许执行高度特定的操作。但是，请注意，构造它比使用默认回调要复杂得多。
我们的自定义回调将采用类的形式。类似于在PyTorch中构建神经网络，我们可以继承keras.callbacks.Callback回调，它是一个基类。
我们的类可以有许多函数，这些函数必须具有下面列出的给定名称以及这些函数将在何时运行。例如，将在每个epoch开始时运行on_epoch_begin函数。下面是Keras将从自定义回调中读取的所有函数，但是可以添加其他“helper”函数。
class CustomCallback(keras.callbacks.Callback): #继承keras的基类 def on_train_begin(self, logs=None): #日志是某些度量的字典，例如键可以是 ['loss', 'mean_absolute_error'] def on_train_end(self, logs=None): ... def on_epoch_begin(self, epoch, logs=None): ... def on_epoch_end(self, epoch, logs=None): ... def on_test_begin(self, logs=None): ... def on_test_end(self, logs=None): ... def on_predict_begin(self, logs=None): ... def on_predict_end(self, logs=None): ... def on_train_batch_begin(self, batch, logs=None): ... def on_train_batch_end(self, batch, logs=None): ... def on_test_batch_begin(self, batch, logs=None): ... def on_test_batch_end(self, batch, logs=None): ... def on_predict_batch_begin(self, batch, logs=None): ... def on_predict_batch_end(self, batch, logs=None): ...
根据函数的不同，你可以访问不同的变量。例如，在函数on_epoch_begin中，该函数既可以访问epoch编号，也可以访问当前度量、日志的字典。如果需要其他信息，比如学习率，可以使用keras.backend.get_value.
然后，可以像对待其他回调函数一样对待你自定义的回调函数。
model.fit(X_train, y_train, epochs=15, callbacks=[CustomCallback()])
到此，相信大家对“怎么使用ReduceLROnPlateau”有了更深的了解，不妨来实际操作一番吧！这里是亿速云网站，更多相关内容可以进入相关频道进行查询，关注我们，继续学习！
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
