27.3.9.2 ml Namespace and Convenience Methods — MySQL 9.2

27.3.9.2 Пространство имён ml и удобные методы

API GenAI также предоставляет удобные методы, описанные в этом разделе в пространстве имён ml. Эти методы выступают в качестве обёртки для методов LLM; вместо вызова как методов экземпляра LLM, они принимают идентификатор модели в качестве одного из параметров, передаваемых им. ml.generate() и ml.rag() возвращают только текстовые части значений, возвращаемых их аналогами LLM.

ml.generate()

Этот метод является обёрткой для LLM.generate(). Он загружает модель, указанную параметром model_id, указанным в качестве одного из options, генерирует ответ на основе запроса с использованием этой модели и возвращает ответ. Если не указано иначе, используется значение по умолчанию model_id ("cohere.command").

Аргументы

prompt (String) (по умолчанию "cohere.command"): Желаемый запрос
options (Object) (по умолчанию {}): Опции, используемые для генерации; они следуют тем же правилам, что и опции, используемые с LLM.generate()

Тип возвращаемого значения

String: Текст ответа

Использование

//  Both invocations use "cohere.command" as the model_id

let response = ml.generate("What is Mysql?", {max_tokens: 10})

let response = ml.generate("What is Mysql?", {model_id: "cohere.command", max_tokens: 10})

ml.embed()

Этот метод является обёрткой для LLM.embed().

Аргументы

query (String): Текст естественного языка запроса
options (Object) (по умолчанию {}): Опции, используемые для генерации; они следуют тем же правилам, что и опции, используемые с LLM.embed(); значение по умолчанию model_id равно "all_minilm_l12_v2"

Тип возвращаемого значения

Float32Array (MySQL VECTOR): Векторное представление

Использование

//  These produce the same result

let embedding = ml.embed("What is Mysql?", {model_id: "all_minilm_l12_v2"})

let embedding = ml.embed("What is Mysql?", {})

ml.rag()

Это обёртка для LLM.rag().

Аргументы

query (String): Текст естественного языка запроса
options (Object) (по умолчанию {}): Опции, используемые для генерации; они следуют тем же правилам, что и опции, используемые с LLM.rag(); значение по умолчанию model_id равно "mistral-7b-instruct-v1"

Тип возвращаемого значения

String: Текст ответа

Использование

//  These produce the same result

let result = ml.rag("What is MySql?", {schema: ["vector_store"], n_citations: 1, model_options: {model_id: "mistral-7b-instruct-v1"}})

let result = ml.rag("What is MySql?", {schema: ["vector_store"], n_citations: 1})