Kotlin для разработки приложений на базе ИИ

Создайте простого агента всего в несколько строк

fun main() {
    runBlocking {
        val agent = AIAgent(
            // Use Anthropic, Google, OpenRouter, or any other provider
            executor = simpleOpenAIExecutor(System.getenv("OPENAI_API_KEY")),
            systemPrompt = "You are a helpful assistant. Answer user questions concisely.",
            llmModel = OpenAIModels.Chat.GPT4o
        )

        val result = agent.run("Hello! How can you help me?")
        println(result)
    }
}

Начать работу с Koog

Основные возможности

• Поддержка мультиплатформенной разработки. Мультиплатформенная поддержка позволяет создавать агентные приложения для JVM, JavaScript, WebAssembly, Android и iOS.

• Надёжность и отказоустойчивость. Благодаря встроенным повторам попыток Koog позволяет разработчикам обрабатывать сбои, например тайм-ауты или ошибки инструментов. Сохранение состояния агента даёт возможность восстанавливать его машину состояний целиком, а не только сообщения чата.

• Встроенные методы сжатия истории для длинных контекстов. Koog предлагает расширенные стратегии сжатия и управления длительными диалогами, не требующие дополнительной настройки.

• Интеграции, готовые к использованию в корпоративной среде. Koog интегрируется с популярными фреймворками для JVM, такими как Spring Boot и Ktor.

• Наблюдаемость с помощью экспортёров OpenTelemetry. Koog предлагает готовую интеграцию с популярными платформами наблюдаемости, такими как W&B Weave и Langfuse, для мониторинга и отладки приложений ИИ.

• Переключение между LLM и бесшовная адаптация истории. Koog позволяет в любой момент переключиться на другую LLM с новым набором инструментов, не теряя существующую историю диалога. Кроме того, можно переключаться между несколькими поставщиками LLM, включая OpenAI, Anthropic, Google и других. С помощью интеграции Koog с Ollama можно запускать агентов локально на локальных моделях.

• Интеграция с приложениями для JVM и Kotlin. Koog предоставляет идиоматический типобезопасный DSL, специально разработанный для JVM и разработчиков на Kotlin.

• Интеграция с протоколом контекста модели (MCP). Koog позволяет использовать инструменты MCP в агентах.

• Извлечение знаний и память. Благодаря эмбеддингам, ранжированному хранилищу документов и общей памяти агентов Koog сохраняет знания между диалогами.

• Поддержка потоковой передачи. Koog позволяет разработчикам обрабатывать ответы в реальном времени с помощью потоковой передачи и параллельных вызовов инструментов.

С чего начать

• Узнайте о возможностях Koog в разделе Обзор.

• Создайте своего первого агента Koog с помощью краткого руководства.

• Ознакомьтесь с последними обновлениями в заметках о выпусках Koog.

• Изучите примеры.

Подключение к ведущим поставщикам моделей

Используйте Kotlin для подключения к ведущим поставщикам моделей, таким как OpenAI, Anthropic, Google и другим:

• OpenAI — официальный Java SDK для API OpenAI. Он поддерживает ответы и чаты, изображения и аудио.

• Anthropic (Claude) — официальный Java SDK для Claude Messages API. В него входят модули интеграции с Vertex AI и Bedrock.

• Google AI (Gemini / Vertex AI) — официальный Java SDK с единым клиентом, который позволяет переключаться между Gemini API и Vertex AI.

• Azure OpenAI — официальный Java-клиент для Azure OpenAI Service. Он поддерживает создание завершений чата и эмбеддингов.

• AWS Bedrock — официальные SDK для вызова базовых моделей. В их число входят Kotlin SDK и Java SDK для Bedrock и Bedrock Runtime.

Создание конвейеров RAG и приложений на основе агентов

• Spring AI — абстракция для работы с несколькими поставщиками: запросы, чаты, эмбеддинги, инструменты, вызовы функций и векторные хранилища.

• LangChain4j — инструментарий для JVM с расширениями Kotlin для запросов, инструментов, конвейеров генерации с дополненной выборкой (RAG) и агентов.