API очистки кэша развертывания обученной модели

POST _ml/trained_models/<deployment_id>/deployment/cache/_clear

Требуется привилегия кластера manage_ml. Эта привилегия включена в встроенную роль machine_learning_admin.

Развертывание обученной модели может иметь включенный кеш инференции. По мере обработки запросов на каждом выделенном узле ответы могут кэшироваться на этом узле. Вызов этого API очищает кеши без перезапуска развертывания.

Следующий пример очищает кэш для нового развертывания для обученной модели elastic__distilbert-base-uncased-finetuned-conll03-english:

resp = client.ml.clear_trained_model_deployment_cache(
    model_id="elastic__distilbert-base-uncased-finetuned-conll03-english",
)
print(resp)

response = client.ml.clear_trained_model_deployment_cache(
  model_id: 'elastic__distilbert-base-uncased-finetuned-conll03-english'
)
puts response

const response = await client.ml.clearTrainedModelDeploymentCache({
  model_id: "elastic__distilbert-base-uncased-finetuned-conll03-english",
});
console.log(response);

POST _ml/trained_models/elastic__distilbert-base-uncased-finetuned-conll03-english/deployment/cache/_clear

API возвращает следующие результаты:

{
   "cleared": true
}