SequentialLR

class torch.optim.lr_scheduler.SequentialLR(optimizer, schedulers, milestones, last_epoch=-1)

包含一个调度器列表，这些调度器将在优化过程中按顺序调用。

具体来说，将根据里程碑点调用调度器，这些里程碑点应提供每个调度器在给定 epoch 被调用的确切间隔。

参数

• optimizer (Optimizer) – 包装的优化器。

• schedulers (list) – 链式调度器列表。

• milestones (list) – 反映里程碑点的整数列表。

• last_epoch (int) – 上一个 epoch 的索引。默认为 -1。

示例

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.005     if epoch == 0
>>> # lr = 0.005     if epoch == 1
>>> # lr = 0.005     if epoch == 2
>>> # ...
>>> # lr = 0.05      if epoch == 20
>>> # lr = 0.045     if epoch == 21
>>> # lr = 0.0405    if epoch == 22
>>> scheduler1 = ConstantLR(optimizer, factor=0.1, total_iters=20)
>>> scheduler2 = ExponentialLR(optimizer, gamma=0.9)
>>> scheduler = SequentialLR(
...     optimizer,
...     schedulers=[scheduler1, scheduler2],
...     milestones=[20],
... )
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr()

返回当前调度器计算的最后一个学习率。

返回类型

list[float]

get_lr()

使用调度器的链式形式计算学习率。

返回类型

list[float]

load_state_dict(state_dict)

加载调度器的状态。

参数

state_dict (dict) – 调度器状态。应为调用 state_dict() 返回的对象。

recursive_undo(sched=None)

递归地撤销初始化调度器时执行的任何步骤。

state_dict()

以 dict 的形式返回调度器的状态。

它包含 self.__dict__ 中非优化器的每个变量的条目。包装的调度器状态也将被保存。

返回类型

dict[str, Any]

step()

执行一步。