› › ›

API получения информации о сервисе вывода

Получает информацию о конечной точке вывода.

Inference API позволяют использовать определенные сервисы, такие как встроенные модели машинного обучения (ELSER, E5), модели, загруженные через Eland, Cohere, OpenAI, Azure, Google AI Studio, Google Vertex AI, Anthropic, Watsonx.ai или Hugging Face. Для встроенных моделей и моделей, загруженных через Eland, Inference API предлагают альтернативный способ использования и управления обученными моделями. Однако, если вы не планируете использовать Inference API для использования этих моделей или хотите использовать модели, не относящиеся к NLP, используйте API моделей обученных с помощью машинного обучения.

Запрос

GET /_inference

GET /_inference/_all

GET /_inference/<inference_id>

GET /_inference/<task_type>/_all

GET /_inference/<task_type>/<inference_id>

Предварительные условия

Требуется monitor_inference привилегия кластера (встроенные inference_admin и inference_user роли предоставляют эту привилегию)

Описание

Вы можете получить информацию в одном запросе к API для:

одной конечной точки вывода, указав тип задачи и идентификатор вывода,
всех конечных точек вывода для определенного типа задачи, указав тип задачи и подстановочное выражение,
всех конечных точек вывода, используя подстановочное выражение.

Параметры пути

<inference_id>: (Необязательно, строка) Уникальный идентификатор конечной точки вывода.
<task_type>: (Необязательно, строка) Тип задачи вывода, выполняемой моделью.

Примеры

Следующий вызов API получает информацию о модели вывода my-elser-model, которая может выполнять задачи sparse_embedding.

resp = client.inference.get(
    task_type="sparse_embedding",
    inference_id="my-elser-model",
)
print(resp)

response = client.inference.get_model(
  task_type: 'sparse_embedding',
  inference_id: 'my-elser-model'
)
puts response

const response = await client.inference.get({
  task_type: "sparse_embedding",
  inference_id: "my-elser-model",
});
console.log(response);

GET _inference/sparse_embedding/my-elser-model

API возвращает следующий ответ:

{
  "inference_id": "my-elser-model",
  "task_type": "sparse_embedding",
  "service": "elasticsearch",
  "service_settings": {
    "num_allocations": 1,
    "num_threads": 1,
    "model_id": ".elser_model_2"
  },
  "chunking_settings": {
    "strategy": "sentence",
    "max_chunk_size": 250,
    "sentence_overlap": 1
  }
}

© 2023-2025 Elasticsearch
As of September 2024, Elasticsearch is available under a choice of three licenses: the Server Side Public License (SSPL), the Elastic License, or the AGPLv3 (OSI approved).
Elasticsearch and the Elasticsearch logo are trademarks of Elasticsearch B.V., registered in the U.S. and in other countries.
https://www.elastic.co/guide/en/elasticsearch/reference/8.17/get-inference-api.html