tf.distribute.experimental.rpc.Client

Класс-клиент для вызова RPC на сервер.

Методы

call

Просмотреть исходный код

call(
    method_name: str,
    args: Optional[Sequence[core_tf_types.Tensor]] = None,
    output_specs=None,
    timeout_in_ms=0
)

Метод для выполнения вызовов RPC на удаленный сервер.

Этот вызов выполняет RPC на сервер, удаленно выполняя зарегистрированный метод method_name. Аргументы: method_name: Удаленно зарегистрированный метод для вызова args: Список аргументов для зарегистрированного метода. output_specs: Спецификации выходных данных для выходных данных метода. Например, если tf.function имеет вид: @tf.function(input_signature=[ tf.TensorSpec([], tf.int32), tf.TensorSpec([], tf.int32) ]) def multiply_fn(a, b): return tf.math.multiply(a, b) output_spec имеет вид: tf.TensorSpec((), tf.int32) Если у вас есть доступ к TF Function, спецификации выходных данных можно получить из tf.function, вызвав: output_specs = tf.nest.map_structure(tf.type_spec_from_value, tf_function.get_concrete_function().structured_outputs Если output_specs не указаны, в ответ будет возвращен уплощенный список тензоров. timeout_in_ms: Таймаут для этого вызова. Если 0, будет использован стандартный таймаут клиента.

create

Просмотреть исходный код

@staticmethod
create(
    rpc_layer, address, name='', timeout_in_ms=0
)

Создать клиент TF RPC для подключения к указанному адресу.

Пример использования:

# Have server already started.
import portpicker
@tf.function(input_signature=[
     tf.TensorSpec([], tf.int32),
     tf.TensorSpec([], tf.int32)])
def remote_fn(a, b):
  return tf.add(a, b)

port = portpicker.pick_unused_port()
address = "localhost:{}".format(port)
server = tf.distribute.experimental.rpc.Server.create("grpc", address)
server.register("addition", remote_fn)
server.start()

# Start client
client = tf.distribute.experimental.rpc.Client.create("grpc",
     address=address, name="test_client")

a = tf.constant(2, dtype=tf.int32)
b = tf.constant(3, dtype=tf.int32)

result = client.call(
   args=[a, b],
   method_name="addition",
   output_specs=tf.TensorSpec((), tf.int32))

if result.is_ok():
  result.get_value()

result = client.addition(a, b)

if result.is_ok():
  result.get_value()

value = client.addition_blocking(a, b)