Обновление API инференции

Обновляет конечную точку инференции.

PUT _inference/<inference_id>/_update

PUT _inference/<task_type>/<inference_id>/_update

API обновления инференции позволяет обновить task_settings, секреты и/или num_allocations существующей конечной точки инференции.

Для использования API обновления можно изменить task_settings, секреты (в service_settings) или num_allocations, в зависимости от конкретного сервиса конечной точки и типа задачи, которые вы создали. Для просмотра обновляемых task_settings, имён полей секретов (специфичных для каждого сервиса) и сервисов, где num_allocations применимо (только для сервиса elasticsearch), обратитесь к следующему списку сервисов, доступных через inference API. Вы найдёте доступные типы задач рядом с каждым именем сервиса. Щёлкните по ссылкам для просмотра подробностей конфигурации сервиса:

Следующий пример демонстрирует, как обновить ключ API конечной точки инференции под названием my-inference-endpoint:

resp = client.inference.update(
    inference_id="my-inference-endpoint",
    inference_config={
        "service_settings": {
            "api_key": "<API_KEY>"
        }
    },
)
print(resp)

const response = await client.inference.put({
  task_type: "my-inference-endpoint",
  inference_id: "_update",
  inference_config: {
    service_settings: {
      api_key: "<API_KEY>",
    },
  },
});
console.log(response);

PUT _inference/my-inference-endpoint/_update
{
 "service_settings": {
   "api_key": "<API_KEY>"
 }
}