tf.experimental.dtensor.enable_save_as_bf16
Позволяет сохранять и восстанавливать DVariables типа float32 как bfloat16.
tf.experimental.dtensor.enable_save_as_bf16(
variables: List[tf.Variable]
)
Метод затрагивает только часть DVariable внутри модели и оставляет нетронутыми переменные/тензоры, которые не являются DTensor.
| Аргументы | |
|---|---|
variables | Список tf.Variable, которые нужно включить для сохранения/восстановления в формате bfloat16. Воздействует только на переменные DTensor, так как они проходят через d_variables с логикой, специфичной для DTensor. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/experimental/dtensor/enable_save_as_bf16
