GdsFile

class torch.cuda.gds.GdsFile(filename, flags) [исходный код]

Обёртка для cuFile.

cuFile — это файловый интерфейс для API GPUDirect Storage (GDS).

Подробнее см. в документации по cuFile.

Параметры:

• filename (str) – Имя открываемого файла.
• flags (int) – Флаги, передаваемые в os.open при открытии файла. os.O_DIRECT будет добавлен автоматически.

Пример:

>>> src1 = torch.randn(1024, device="cuda")
>>> src2 = torch.randn(2, 1024, device="cuda")
>>> file = torch.cuda.gds.GdsFile(f, os.O_CREAT | os.O_RDWR)
>>> file.save_storage(src1.untyped_storage(), offset=0)
>>> file.save_storage(src2.untyped_storage(), offset=src1.nbytes)
>>> dest1 = torch.empty(1024, device="cuda")
>>> dest2 = torch.empty(2, 1024, device="cuda")
>>> file.load_storage(dest1.untyped_storage(), offset=0)
>>> file.load_storage(dest2.untyped_storage(), offset=src1.nbytes)
>>> torch.equal(src1, dest1)
True
>>> torch.equal(src2, dest2)
True

deregister_handle() [исходный код]

Отменяет регистрацию дескриптора файла в драйвере cuFile.

Это обёртка для cuFileHandleDeregister.

load_storage(storage, offset=0) [исходный код]

Загружает данные из файла в хранилище.

Это обёртка для cuFileRead. storage.nbytes() данных будут загружены из файла, начиная с offset, в хранилище.

Параметры:

• storage (Storage) – Хранилище для загрузки данных.
• offset (int, optional) – Смещение в файле, с которого начинается загрузка. (По умолчанию: 0)

register_handle() [исходный код]

Регистрирует дескриптор файла в драйвере cuFile.

Это обёртка для cuFileHandleRegister.

save_storage(storage, offset=0) [исходный код]

Сохраняет данные из хранилища в файл.

Это обёртка для cuFileWrite. Все байты хранилища будут записаны в файл, начиная с offset.

Параметры:

• storage (Storage) – Хранилище, из которого сохраняются данные.
• offset (int, optional) – Смещение в файле, с которого начинается сохранение. (По умолчанию: 0)