UpdateWeights

class torchrl.trainers.UpdateWeights(collector: DataCollectorBase, update_weights_interval: int)

这是一个收集器权重更新钩子类。

当收集器策略的权重位于与 Trainer 正在训练的策略权重不同的设备上时，必须使用此钩子。在这种情况下，这些权重必须定期在设备之间同步。如果设备匹配，则不会执行任何操作。

参数:

• collector (DataCollectorBase) – 需要同步策略权重的收集器。

• update_weights_interval (int) – 必须执行同步的间隔（按收集的批次数计算）。

示例

>>> update_weights = UpdateWeights(trainer.collector, T)
>>> trainer.register_op("post_steps", update_weights)

register(trainer: Trainer, name: str = 'update_weights')

在默认位置将钩子注册到 Trainer 中。

参数:

• trainer (Trainer) – 必须注册钩子的 Trainer。

• name (str) – 钩子的名称。

注意

要将钩子注册到默认位置以外的其他位置，请使用 register_op()。