torch.cuda.memory.set_per_process_memory_fraction#
- torch.cuda.memory.set_per_process_memory_fraction(fraction, device=None)[来源]#
设置进程的内存分数。
该分数用于限制缓存分配器在 CUDA 设备上分配内存。允许的值等于总可见内存乘以分数。如果尝试在一个进程中分配超过允许值的值，将引发分配器中的内存不足错误。
- 参数
fraction (float) – 范围：0~1。允许的内存等于 total_memory * fraction。
device (torch.device 或 int, 可选) – 选择的设备。如果为
None，则使用默认的 CUDA 设备。
注意
总的来说，总可用空闲内存小于总容量。
