torch.cuda.memory.set_per_process_memory_fraction#
- torch.cuda.memory.set_per_process_memory_fraction(fraction, device=None)[source]#
设置进程的内存分数。
该分数用于限制CUDA设备上的缓存分配器分配的内存。允许的值等于可见总内存乘以该分数。如果在进程中尝试分配超过允许值，将引发分配器中的内存不足错误。
- 参数
fraction (float) – 范围：0~1。允许的内存等于总内存 \* 分数。
device (torch.device 或 int, optional) – 选择的设备。如果为
None，则使用默认的 CUDA 设备。
注意
通常，总可用空闲内存小于总容量。