Перейти к основному содержанию

Documentation Index

Fetch the complete documentation index at: https://botmux-mintlify-api-updates-1776816558.mintlify.app/llms.txt

Use this file to discover all available pages before exploring further.

BotMux может использовать LLM для принятия интеллектуальных решений по маршрутизации на основе содержания сообщений.

​
Как это работает

  1. Сообщение поступает боту
  2. Сначала проверяются маршруты на основе правил
  3. Если ни одно правило не совпало, LLM получает текст сообщения, информацию об отправителе и список всех ботов с их описаниями
  4. LLM возвращает решение по маршрутизации: {target_bot_id, target_chat_id, action, reason}

​
Поддерживаемые API

Подходит любой OpenAI-совместимый эндпоинт:
  • OpenAI
  • Ollama
  • LM Studio
  • Любой совместимый API

​
Настройка

Настройка через веб-интерфейс в разделе LLM Config:
ПолеОписание
API URLURL OpenAI-совместимого эндпоинта
API KeyКлюч аутентификации
ModelНазвание модели (например, gpt-4o, llama3)
System PromptПользовательский системный промпт для решений по маршрутизации
EnabledВключение/выключение

​
Описания ботов

Каждый бот может иметь описание, объясняющее его назначение. Эти описания отправляются LLM для принятия более точных решений по маршрутизации. Задайте описания через веб-интерфейс или API (/api/bots/description).

​
Обратная маршрутизация

Обратный путь Source-NAT автоматически работает для сообщений, маршрутизированных через LLM, так же как и для маршрутов на основе правил.