Модуль: tf.tpu

Операции, связанные с устройствами Tensor Processing Units.

Модули

experimental модуль: Общедоступный API для пространства имён tf.tpu.experimental.

Классы

class CrossShardOptimizer: Оптимизатор, усредняющий градиенты по фрагментам TPU.

Функции

batch_parallel(...): Фрагментирует computation по размеру пакета для параллельного выполнения.

bfloat16_scope(...): Класс области видимости для переменных bfloat16, чтобы модель использовала пользовательский метод получения.

core(...): Возвращает имя устройства для ядра в реплицированной вычислительной задаче TPU.

cross_replica_sum(...): Суммирует входной тензор по репликам в соответствии с групповым назначением.

initialize_system(...): Инициализирует распределённую систему TPU для использования с TensorFlow.

outside_compilation(...): Строит часть вычисления вне текущей области видимости репликации TPU.

replicate(...): Строит оператор графа, который выполняет реплицированную вычислительную задачу TPU.

rewrite(...): Переписывает computation для выполнения на системе TPU.

shard(...): Фрагментирует computation для параллельного выполнения.

shutdown_system(...): Останавливает запущенную распределённую систему TPU.