создать-точку-входа
Описание
Создаёт точку входа с использованием конфигурации точки входа, указанной в запросе. SageMaker использует точку входа для выделения ресурсов и развертывания моделей. Вы создаёте конфигурацию точки входа с помощью API CreateEndpointConfig.
Используйте этот API для развертывания моделей с помощью сервисов хостинга SageMaker.
Примечание
Вы не должны удалятьEndpointConfig, которая используется активной точкой входа, или во время выполнения операций UpdateEndpoint или CreateEndpoint над точкой входа. Для обновления точки входа необходимо создать новую EndpointConfig.Имя точки входа должно быть уникальным в данном регионе Amazon Web Services и в вашей учетной записи Amazon Web Services.
При получении запроса SageMaker создаёт точку входа, запускает ресурсы (компьютеры ML) и разворачивает модель(и) на них.
Примечание
При вызове CreateEndpoint SageMaker делает запрос в DynamoDB для проверки существования вашей конфигурации точки входа. При чтении данных из таблицы DynamoDB, поддерживающей `Eventually Consistent Reads https://docs.aws.amazon.com/amazondynamodb/latest/developerguide/HowItWorks.ReadConsistency.html`__, ответ может не отражать результаты недавно завершённой операции записи. Ответ может содержать устаревшие данные. Если зависимые сущности ещё отсутствуют в DynamoDB, это приведёт к ошибке валидации. Если повторить запрос на чтение через короткий промежуток времени, ответ должен вернуть самые свежие данные. Поэтому рекомендуется использовать логику повторных попыток для обработки этих возможных проблем. Мы также рекомендуем клиентам вызывать DescribeEndpointConfig перед вызовом CreateEndpoint, чтобы минимизировать потенциальное влияние несинхронного чтения DynamoDB.Когда SageMaker получает запрос, он устанавливает состояние точки входа в Creating. После создания точки входа, он устанавливает состояние в InService. SageMaker может затем обрабатывать входящие запросы на вычисления.
Для проверки состояния точки входа используйте API DescribeEndpoint.
Если какие-либо модели, размещённые в этой точке входа, получают данные модели из расположения Amazon S3, SageMaker использует Amazon Web Services Security Token Service для загрузки артефактов модели из предоставленного вами пути S3. Amazon Web Services STS активирован в вашей учётной записи Amazon Web Services по умолчанию. Если вы ранее деактивировали Amazon Web Services STS для региона, вам нужно его повторно активировать для данного региона. Более подробная информация доступна в разделе Активация и деактивация Amazon Web Services STS в регионе Amazon Web Services в руководстве пользователя Amazon Web Services Identity and Access Management.
Примечание
Для добавления политик IAM-роли для использования этой операции API перейдите в консоль IAM и выберите Роли в левой панели навигации. Найдите IAM-роль, которой вы хотите предоставить доступ для использования операций API CreateEndpoint и CreateEndpointConfig, и добавьте следующие политики в роль.- Вариант 1: Для полного доступа к SageMaker найдите и прикрепите политику
AmazonSageMakerFullAccess. - Вариант 2: Для предоставления ограниченного доступа к IAM-роли вручную вставьте следующие элементы Action в JSON-файл IAM-роли:
"Action": ["sagemaker:CreateEndpoint", "sagemaker:CreateEndpointConfig"]"Resource": ["arn:aws:sagemaker:region:account-id:endpoint/endpointName""arn:aws:sagemaker:region:account-id:endpoint-config/endpointConfigName"]Более подробную информацию см. в разделе Разрешения API SageMaker: справка по действиям, разрешениям и ресурсам.
См. также: Документация AWS API
Синтаксис
create-endpoint
--endpoint-name <value>
--endpoint-config-name <value>
[--deployment-config <value>]
[--tags <value>]
[--cli-input-json | --cli-input-yaml]
[--generate-cli-skeleton <value>]
[--debug]
[--endpoint-url <value>]
[--no-verify-ssl]
[--no-paginate]
[--output <value>]
[--query <value>]
[--profile <value>]
[--region <value>]
[--version <value>]
[--color <value>]
[--no-sign-request]
[--ca-bundle <value>]
[--cli-read-timeout <value>]
[--cli-connect-timeout <value>]
[--cli-binary-format <value>]
[--no-cli-pager]
[--cli-auto-prompt]
[--no-cli-auto-prompt]
Параметры
--endpoint-name (строка)
CreateEndpoint , но регистр сохраняется и должен совпадать в InvokeEndpoint .--endpoint-config-name (строка)
--deployment-config (структура)
Конфигурация развертывания для конечной точки, содержащая желаемую стратегию развертывания и конфигурации отката.
BlueGreenUpdatePolicy -> (структура)
Политика обновления для развертывания «синий/зеленый». Если эта политика обновления указана, SageMaker создает новый флот во время развертывания, сохраняя старый флот. SageMaker переключает трафик на новый флот в соответствии с указанной конфигурацией маршрутизации трафика. В конфигурации развертывания должна использоваться только одна политика обновления. Если политика обновления не указана, SageMaker по умолчанию использует стратегию развертывания «синий/зеленый» с одновременным переключением всего трафика.
TrafficRoutingConfiguration -> (структура)
Определяет стратегию маршрутизации трафика для переключения трафика со старого флота на новый флот во время развертывания конечной точки.
Type -> (строка)
Тип стратегии маршрутизации трафика.
-
ALL_AT_ONCE: Трафик конечной точки переключается на новый флот в один шаг. -
CANARY: Трафик конечной точки переключается на новый флот в два шага. Первый шаг — это пробный запуск (canary), который представляет собой небольшую часть трафика. Второй шаг — оставшаяся часть трафика. -
LINEAR: Трафик конечной точки переключается на новый флот в n шагов заданного размера.
WaitIntervalInSeconds -> (целое число)
CanarySize -> (структура)
Размер пакета для первого шага включения трафика на новый флот конечной точки. Value должен быть меньше или равен 50% от общего количества экземпляров варианта.
Type -> (строка)
Указывает тип емкости конечной точки.
-
INSTANCE_COUNT: Конечная точка активируется в зависимости от количества экземпляров. -
CAPACITY_PERCENT: Конечная точка активируется на основе указанного процента емкости.
Value -> (целое число)
LinearStepSize -> (структура)
Размер пакета для каждого шага включения трафика на новый флот конечной точки. Value должен составлять от 10 до 50% от общего количества экземпляров варианта.
Type -> (строка)
Указывает тип емкости конечной точки.
-
INSTANCE_COUNT: Конечная точка активируется в зависимости от количества экземпляров. -
CAPACITY_PERCENT: Конечная точка активируется на основе указанного процента емкости.
Value -> (целое число)
TerminationWaitInSeconds -> (целое число)
MaximumExecutionTimeoutInSeconds -> (целое число)
TerminationWaitInSeconds и WaitIntervalInSeconds .RollingUpdatePolicy -> (структура)
Указывает стратегию пошагового развертывания для обновления конечной точки SageMaker.
MaximumBatchSize -> (структура)
Размер пакета для каждого шага пошагового развертывания для выделения емкости и включения трафика на новый флот конечной точки и завершения емкости на старом флоте конечной точки. Значение должно быть от 5% до 50% от общего количества экземпляров варианта.
Type -> (строка)
Указывает тип емкости конечной точки.
-
INSTANCE_COUNT: Конечная точка активируется в зависимости от количества экземпляров. -
CAPACITY_PERCENT: Конечная точка активируется на основе указанного процента емкости.
Value -> (целое число)
WaitIntervalInSeconds -> (целое число)
MaximumExecutionTimeoutInSeconds -> (целое число)
RollbackMaximumBatchSize -> (структура)
Размер пакета для отката к старому флоту конечной точки. Каждый шаг пошагового развертывания для выделения емкости и включения трафика на старый флот конечной точки и завершения емкости на новом флоте конечной точки. Если этот параметр отсутствует, по умолчанию будет установлено значение 100% от общей емкости, что означает поднятие всей емкости старого флота сразу во время отката.
Type -> (строка)
Указывает тип емкости конечной точки.
-
INSTANCE_COUNT: Конечная точка активируется в зависимости от количества экземпляров. -
CAPACITY_PERCENT: Конечная точка активируется на основе указанного процента емкости.
Value -> (целое число)
AutoRollbackConfiguration -> (структура)
Конфигурация автоматического отката для обработки сбоев развертывания конечной точки и восстановления.
Alarms -> (список)
Список CloudWatch тревог в вашей учетной записи, настроенных для мониторинга метрик конечной точки. Если во время развертывания срабатывают какие-либо тревоги, SageMaker откатывает развертывание.
(структура)
Тревога Amazon CloudWatch, настроенная для мониторинга метрик конечной точки.
AlarmName -> (строка)
Синтаксис JSON:
{
"BlueGreenUpdatePolicy": {
"TrafficRoutingConfiguration": {
"Type": "ALL_AT_ONCE"|"CANARY"|"LINEAR",
"WaitIntervalInSeconds": integer,
"CanarySize": {
"Type": "INSTANCE_COUNT"|"CAPACITY_PERCENT",
"Value": integer
},
"LinearStepSize": {
"Type": "INSTANCE_COUNT"|"CAPACITY_PERCENT",
"Value": integer
}
},
"TerminationWaitInSeconds": integer,
"MaximumExecutionTimeoutInSeconds": integer
},
"RollingUpdatePolicy": {
"MaximumBatchSize": {
"Type": "INSTANCE_COUNT"|"CAPACITY_PERCENT",
"Value": integer
},
"WaitIntervalInSeconds": integer,
"MaximumExecutionTimeoutInSeconds": integer,
"RollbackMaximumBatchSize": {
"Type": "INSTANCE_COUNT"|"CAPACITY_PERCENT",
"Value": integer
}
},
"AutoRollbackConfiguration": {
"Alarms": [
{
"AlarmName": "string"
}
...
]
}
}
--tags (список)
Массив пар ключ-значение. Вы можете использовать метки для категоризации ресурсов Amazon Web Services различными способами, например, по назначению, владельцу или среде. Дополнительную информацию см. в разделе Метки ресурсов Amazon Web Services .
(структура)
Объект метки, состоящий из ключа и необязательного значения, используемый для управления метаданными для ресурсов SageMaker Amazon Web Services.
Вы можете добавлять метки к экземплярам блокнотов, заданиям обучения, заданиям настройки гиперпараметров, заданиям пакетного преобразования, моделям, заданиям маркировки, рабочим группам, конфигурациям конечных точек и конечным точкам. Дополнительную информацию о добавлении меток к ресурсам SageMaker см. в разделе AddTags .
Дополнительную информацию о добавлении метаданных к вашим ресурсам Amazon Web Services с помощью меток см. в разделе Метки ресурсов Amazon Web Services . Советы по наилучшим практикам управления ресурсами Amazon Web Services с помощью меток см. в разделе Лучшие практики меток: Реализация эффективной стратегии меток ресурсов Amazon Web Services .
Key -> (строка)
Value -> (строка)
Упрощенный синтаксис:
Key=string,Value=string ...
Синтаксис JSON:
[
{
"Key": "string",
"Value": "string"
}
...
]
--cli-input-json | --cli-input-yaml (строка) Считывает аргументы из предоставленной строки JSON. Строка JSON следует формату, предоставленному в --generate-cli-skeleton. Если на командной строке указаны другие аргументы, эти значения будут переопределять значения, предоставленные в JSON. Невозможно передавать произвольные двоичные значения с помощью значения, предоставленного в JSON, так как строка будет взята буквально. Это не может быть указано вместе с --cli-input-yaml.
--generate-cli-skeleton (строка) Выводит JSON-скелет в стандартный вывод, не отправляя запрос к API. Если предоставлено значение без значения или значение input, выводит пример JSON-ввода, который можно использовать в качестве аргумента для --cli-input-json. Аналогично, если предоставлено yaml-input, оно выведет пример YAML-ввода, который можно использовать с --cli-input-yaml. Если предоставлено значение output, оно проверит входные данные команды и вернет пример выходного JSON для этой команды. Сгенерированный JSON-скелет не является стабильным между версиями AWS CLI, и нет гарантий обратной совместимости в сгенерированном JSON-скелете.
Общие параметры
--debug (boolean)
Включить отладку логирования.
--endpoint-url (string)
Переопределить URL по умолчанию команды на указанный URL.
--no-verify-ssl (boolean)
По умолчанию AWS CLI использует SSL при взаимодействии с AWS-сервисами. Для каждого SSL-соединения AWS CLI будет проверять SSL-сертификаты. Этот параметр переопределяет поведение по умолчанию проверки SSL-сертификатов.
--no-paginate (boolean)
Отключить автоматическую постраничную навигацию. Если автоматическая постраничная навигация отключена, AWS CLI выполнит только один вызов для первой страницы результатов.
--output (string)
Стиль форматирования вывода команды.
- json
- text
- table
- yaml
- yaml-stream
--query (string)
Запрос JMESPath для фильтрации данных ответа.
--profile (string)
Использовать определенный профиль из файла учетных данных.
--region (string)
Регион для использования. Переопределяет настройки конфигурации/окружения.
--version (string)
Отобразить версию этого инструмента.
--color (string)
Включить/выключить вывод в цвете.
- on
- off
- auto
--no-sign-request (boolean)
Не подписывать запросы. Учетные данные не будут загружены, если этот параметр предоставлен.
--ca-bundle (string)
Файл с сертификатами CA для проверки SSL-сертификатов. Переопределяет настройки конфигурации/окружения.
--cli-read-timeout (int)
Максимальное время чтения сокета в секундах. Если значение установлено в 0, чтение сокета будет блокирующим и не будет иметь таймаута. Значение по умолчанию составляет 60 секунд.
--cli-connect-timeout (int)
Максимальное время подключения сокета в секундах. Если значение установлено в 0, подключение сокета будет блокирующим и не будет иметь таймаута. Значение по умолчанию составляет 60 секунд.
--cli-binary-format (string)
Стиль форматирования, используемый для двоичных блоков. Формат по умолчанию — base64. Формат base64 ожидает, что двоичные блоки будут предоставлены в виде строки, закодированной в base64. Формат raw-in-base64-out сохраняет совместимость с поведением AWS CLI V1, и двоичные значения должны передаваться буквально. При предоставлении содержимого из файла, которое соответствует двоичному блоку, fileb:// всегда будет рассматриваться как двоичный и будет использовать содержимое файла напрямую независимо от cli-binary-format настройки. При использовании file:// содержимое файла должно быть должным образом отформатировано для настроенного cli-binary-format.
- base64
- raw-in-base64-out
--no-cli-pager (boolean)
Отключить вывод пагинатора CLI.
--cli-auto-prompt (boolean)
Автоматически запрашивать параметры ввода CLI.
--no-cli-auto-prompt (boolean)
Отключить автоматическое запросы параметров ввода CLI.
Вывод
EndpointArn -> (string)
© Copyright 2025, Amazon Web Services. Created using Sphinx.