SequentialLR

class torch.optim.lr_scheduler.SequentialLR(optimizer, schedulers, milestones, last_epoch=-1)

包含一个调度器列表，这些调度器将在优化过程中按顺序调用。

具体来说，调度器将根据里程碑点进行调用，这些里程碑点应提供每个调度器在给定 epoch 被调用时的确切间隔。

参数

• optimizer (Optimizer) – 包装的优化器。

• schedulers (list) – 链式调度器的列表。

• milestones (list) – 反映里程碑点的整数列表。

• last_epoch (int) – 最后一个 epoch 的索引。默认值：-1。

示例

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.005     if epoch == 0
>>> # lr = 0.005     if epoch == 1
>>> # lr = 0.005     if epoch == 2
>>> # ...
>>> # lr = 0.05      if epoch == 20
>>> # lr = 0.045     if epoch == 21
>>> # lr = 0.0405    if epoch == 22
>>> scheduler1 = ConstantLR(optimizer, factor=0.1, total_iters=20)
>>> scheduler2 = ExponentialLR(optimizer, gamma=0.9)
>>> scheduler = SequentialLR(
...     optimizer,
...     schedulers=[scheduler1, scheduler2],
...     milestones=[20],
... )
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr()

返回当前调度器计算的最后一个学习率。

返回类型

list[float]

get_lr()

使用调度器的链式形式计算学习率。

返回类型

list[float]

load_state_dict(state_dict)

加载调度器的状态。

参数

state_dict (dict) – 调度器状态。应该是一个从调用 state_dict() 返回的对象。

recursive_undo(sched=None)

递归地撤销通过初始化调度器执行的任何步骤。

state_dict()

返回调度器状态，作为一个 dict。

它包含 self.__dict__ 中每个非 optimizer 的变量的条目。包装的调度器状态也将被保存。

返回类型

dict[str, Any]

step()

执行一步。