tf.distribute.experimental.rpc.Server

Базовый класс сервера для приема RPC-запросов для зарегистрированных tf.functions.

Функции могут быть зарегистрированы на сервере и экспонированы через RPC.

Методы

create

Посмотреть исходный код

@staticmethod
create(
    rpc_layer, address
)

Создать TF RPC-сервер по указанному адресу.

>>> import portpicker
>>> @tf.function(input_signature=[
...      tf.TensorSpec([], tf.int32),
...      tf.TensorSpec([], tf.int32)])
... def remote_fn(a, b):
...   return tf.add(a, b)

port = portpicker.pick_unused_port()
address = "localhost:{}".format(port)
server = tf.distribute.experimental.rpc.Server.create("grpc", address)
server.register("addition", remote_fn)
server.start()

register

Посмотреть исходный код

register(
    method_name: str,
    func: Union[def_function.Function, tf_function.ConcreteFunction]
)

Метод для регистрации tf.function на сервере.

Зарегистрированные методы могут вызываться удаленно из клиентов.

start

Посмотреть исходный код

start()

Запускает RPC-сервер по указанному адресу.

Сервер прослушивает новые запросы от клиента после запуска.