tf.profiler.experimental.client.trace

Отправляет запросы gRPC одному или нескольким серверам профилирования для выполнения профилирования по требованию.

tf.profiler.experimental.client.trace(
    service_addr, logdir, duration_ms, worker_list='',
    num_tracing_attempts=3, options=None
)

Этот метод заблокирует вызывающую нить до получения ответов от всех серверов или до истечения срока ожидания. Поддерживается профилирование как на одном, так и на нескольких хостах на CPU, GPU и TPU. Результаты профилирования будут сохранены каждым сервером в указанном каталоге журналов TensorBoard (т.е. каталоге, в котором вы сохраняете контрольные точки модели). Используйте плагин профилирования TensorBoard для просмотра результатов визуализации и анализа.

Пример использования (CPU/GPU):

# Start a profiler server before your model runs.
tf.profiler.experimental.server.start(6009)
# (Model code goes here).
# Send gRPC request to the profiler server to collect a trace of your model.
tf.profiler.experimental.client.trace('grpc://localhost:6009',
                                      '/nfs/tb_log', 2000)

Пример использования (несколько GPU):

# E.g. your worker IP addresses are 10.0.0.2, 10.0.0.3, 10.0.0.4, and you
# would like to schedule start of profiling 1 second from now, for a
# duration of 2 seconds.
options['delay_ms'] = 1000
tf.profiler.experimental.client.trace(
    'grpc://10.0.0.2:8466,grpc://10.0.0.3:8466,grpc://10.0.0.4:8466',
    'gs://your_tb_dir',
    2000,
    options=options)

Пример использования (TPU):

# Send gRPC request to a TPU worker to collect a trace of your model. A
# profiler service has been started in the TPU worker at port 8466.
# E.g. your TPU IP address is 10.0.0.2 and you want to profile for 2 seconds
# .
tf.profiler.experimental.client.trace('grpc://10.0.0.2:8466',
                                      'gs://your_tb_dir', 2000)

Пример использования (несколько TPU):

# Send gRPC request to a TPU pod to collect a trace of your model on
# multipleTPUs. A profiler service has been started in all the TPU workers
# at theport 8466.
# E.g. your TPU IP addresses are 10.0.0.2, 10.0.0.3, 10.0.0.4, and you want
# to profile for 2 seconds.
tf.profiler.experimental.client.trace('grpc://10.0.0.2:8466',
                                      'gs://your_tb_dir',
                                      2000, '10.0.0.2,10.0.0.3,10.0.0.4')

Запустите TensorBoard и укажите тот же logdir, который вы предоставили этому API.

# logdir can be gs://your_tb_dir as in the above examples.
$ tensorboard --logdir=/tmp/tb_log

Откройте свой браузер и перейдите к localhost:6006/#profile, чтобы просмотреть результаты профилирования.