LLMOnDevice

class torchrl.modules.llm.LLMOnDevice(*args, bundle_indices: list | None = None, **kwargs)

一个 vllm.LLM 的精简包装器，用于控制其放置设备。