Manifest
Маршрутизатор LLM с открытым исходным кодом для OpenClaw, который оптимизирует маршрутизацию модели и позволяет сэкономить до 70 % затрат.
Обзор
Что такое Manifest?
Manifest — это маршрутизатор LLM (Large Language Model) с открытым исходным кодом, специально созданный для OpenClaw. Он оптимизирует расходы на ИИ, перехватывая запросы и направляя их к наиболее экономически эффективной модели в зависимости от сложности задачи, что потенциально экономит пользователям до 70 % на стоимости токенов. Система анализирует запросы локально менее чем за 2 мс, чтобы обеспечить минимальную задержку. Он отдает приоритет конфиденциальности, выполняя оценку запросов на компьютере пользователя и используя архитектуру слепого прокси для своей облачной версии. Кроме того, оно позволяет пользователям отслеживать расходы, устанавливать ограничения на использование и экспортировать данные с использованием стандарта OpenTelemetry.
Для чего используется Manifest?
Теги

Основные функции
- Интеллектуальная маршрутизация LLM на основе сложности запроса
- Анализ локальных запросов с задержкой <2 мс
- Отслеживание затрат и оповещения об ограничениях использования
- Архитектура слепого прокси, ориентированная на конфиденциальность
- Открытый исходный код и возможность самостоятельного размещения
- Стандартная поддержка OpenTelemetry
- Собственный плагин OpenClaw для простой установки.
Как использовать Manifest?
Пользователи могут начать работу с установки собственного плагина OpenClaw с помощью одной команды. После установки Manifest автоматически перехватывает запросы, анализирует их локально и направляет к наиболее подходящей модели. Затем пользователи могут использовать панель мониторинга для мониторинга расходов и установки оповещений о бюджете.
Альтернативные инструменты
Преимущества & Недостатки
Нет данных
Варианты использования
- Сокращение затрат на токены API для пользователей OpenClaw
- Обеспечение конфиденциальности данных путем локальной оценки запросов
- Предотвращение использования дорогостоящих моделей для простых задач поиска или текстовых задач.
- Мониторинг бюджетов ИИ в командах разработчиков
Отзывы пользователей
Пока нет отзывов
Будьте первым, кто оставит отзыв об этом инструменте!