评价此页
★ ★ ★ ★ ★

MultiStepLR#

class torch.optim.lr_scheduler.MultiStepLR(optimizer, milestones, gamma=0.1, last_epoch=-1)[source]#

当 epoch 数量达到 milestones 中的一个时,将每个参数组的学习率乘以 gamma 进行衰减。

请注意,这种衰减可能与此调度器之外的其他学习率变化同时发生。当 last_epoch=-1 时,将初始学习率设置为 lr。

参数
  • optimizer (Optimizer) – 包装的优化器。

  • milestones (list) – epoch 索引列表。必须是递增的。

  • gamma (float) – 学习率衰减的乘数因子。默认为 0.1。

  • last_epoch (int) – 上一个 epoch 的索引。默认为 -1。

示例

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.05     if epoch < 30
>>> # lr = 0.005    if 30 <= epoch < 80
>>> # lr = 0.0005   if epoch >= 80
>>> scheduler = MultiStepLR(optimizer, milestones=[30, 80], gamma=0.1)
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()
../_images/MultiStepLR.png
get_last_lr()[source]#

返回当前调度器计算的最后一个学习率。

返回类型

list[float]

get_lr()[source]#

计算每个参数组的学习率。

返回类型

list[float]

load_state_dict(state_dict)[source]#

加载调度器的状态。

参数

state_dict (dict) – 调度器状态。应为调用 state_dict() 返回的对象。

state_dict()[source]#

dict 的形式返回调度器的状态。

它包含 self.__dict__ 中除优化器之外的所有变量的条目。

返回类型

dict[str, Any]

step(epoch=None)[source]#

执行一步。