torch.cuda.comm.reduce_add

torch.cuda.comm.reduce_add(inputs, destination=None) [source]

Суммирует тензоры с нескольких GPU.

Все входные данные должны иметь одинаковые формы, типы и структуру расположения. Результирующий тензор будет иметь ту же форму, тип и структуру расположения.

Параметры:

• inputs (Iterable[Tensor]) – итерируемый объект тензоров для сложения.
• destination (int, optional) – устройство, на котором будет размещен результат (по умолчанию: текущее устройство).

Возвращает:

Тензор, содержащий поэлементную сумму всех входных данных, размещенный на destination устройстве.