tf.raw_ops.LoadTPUEmbeddingADAMParameters
Загружает параметры эмбеддингов ADAM.
tf.raw_ops.LoadTPUEmbeddingADAMParameters(
parameters,
momenta,
velocities,
num_shards,
shard_id,
table_id=-1,
table_name='',
config='',
name=None
)
Операция, загружающая параметры оптимизации в HBM для эмбеддингов. Ей должна предшествовать операция ConfigureTPUEmbeddingHost, которая задаёт правильную конфигурацию таблицы эмбеддингов. Например, эта операция используется для установки параметров, загруженных из контрольной точки, перед выполнением цикла обучения.
| Аргументы | |
|---|---|
parameters | A Tensor of type float32. Значение параметров, используемых в алгоритме оптимизации ADAM. |
momenta | A Tensor of type float32. Значение моментов, используемых в алгоритме оптимизации ADAM. |
velocities | A Tensor of type float32. Значение скоростей, используемых в алгоритме оптимизации ADAM. |
num_shards | An int. |
shard_id | An int. |
table_id | An optional int. По умолчанию — -1. |
table_name | An optional string. По умолчанию — "". |
config | An optional string. По умолчанию — "". |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
| Созданная операция. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/LoadTPUEmbeddingADAMParameters