tf.distribute.experimental.rpc.Server

Базовый класс сервера для приёма RPC-вызовов зарегистрированных tf.functions.

На сервере можно регистрировать функции, которые становятся доступными через RPC.

Методы

create

Посмотреть исходный код

@staticmethod
create(
    rpc_layer, address
)

Создаёт сервер TF RPC по указанному адресу.

>>> import portpicker
>>> @tf.function(input_signature=[
...      tf.TensorSpec([], tf.int32),
...      tf.TensorSpec([], tf.int32)])
... def remote_fn(a, b):
...   return tf.add(a, b)

port = portpicker.pick_unused_port()
address = "localhost:{}".format(port)
server = tf.distribute.experimental.rpc.Server.create("grpc", address)
server.register("addition", remote_fn)
server.start()

register

Посмотреть исходный код

register(
    method_name: str,
    func: Union[def_function.Function, tf_function.ConcreteFunction]
)

Метод для регистрации tf.function на сервере.

Зарегистрированные методы можно вызывать удалённо с клиентов.

start

Посмотреть исходный код

start()

Запускает RPC-сервер по указанному адресу.

После запуска сервер ожидает новые запросы от клиентов.