Manifest
Router LLM open source per OpenClaw che ottimizza il routing del modello per risparmiare fino al 70% sui costi.
Panoramica
Cos'è Manifest?
Manifest è un router LLM (Large Language Model) open source creato appositamente per OpenClaw. Ottimizza le spese per l'intelligenza artificiale intercettando le query e indirizzandole al modello più conveniente in base alla complessità dell'attività, facendo risparmiare potenzialmente agli utenti fino al 70% sui costi dei token. Il sistema analizza le query localmente in meno di 2 ms per garantire una latenza minima. Dà priorità alla privacy eseguendo il punteggio delle query sul computer dell'utente e utilizzando un'architettura proxy cieco per la sua versione cloud. Inoltre, consente agli utenti di tenere traccia dei costi, impostare limiti di utilizzo ed esportare dati utilizzando lo standard OpenTelemetry.
A cosa serve Manifest?
Tag

Funzionalità Principali
- Routing LLM intelligente basato sulla complessità delle query
- Analisi delle query locali con latenza <2ms
- Monitoraggio dei costi e avvisi sui limiti di utilizzo
- Architettura proxy cieco incentrata sulla privacy
- Open Source e auto-ospitabile
- Supporto standard OpenTelemetry
- Plugin nativo OpenClaw per una facile installazione
Come usare Manifest?
Gli utenti possono iniziare installando il plug-in nativo OpenClaw tramite un singolo comando. Una volta installato, Manifest intercetta automaticamente le query, le analizza localmente e le indirizza al modello più appropriato. Gli utenti possono quindi utilizzare la dashboard per monitorare i costi e impostare avvisi sul budget.
Strumenti Alternativi
Pro & Contro
Nessun Dato
Casi d'Uso
- Riduzione dei costi dei token API per gli utenti OpenClaw
- Garantire la privacy dei dati assegnando un punteggio alle query a livello locale
- Prevenire l'utilizzo di modelli ad alto costo per semplici attività di ricerca o di testo
- Monitoraggio dei budget AI tra i team di sviluppo
Recensioni Utenti
Nessuna recensione ancora
Sii il primo a recensire questo strumento!