Manifest
Bộ định tuyến LLM mã nguồn mở dành cho OpenClaw giúp tối ưu hóa việc định tuyến mô hình để tiết kiệm tới 70% chi phí.
Tổng quan
Manifest là gì?
Manifest là bộ định tuyến LLM (Mô hình ngôn ngữ lớn) mã nguồn mở được xây dựng riêng cho OpenClaw. Nó tối ưu hóa chi tiêu AI bằng cách chặn các truy vấn và định tuyến chúng đến mô hình tiết kiệm chi phí nhất dựa trên mức độ phức tạp của nhiệm vụ, có khả năng tiết kiệm cho người dùng tới 70% chi phí mã thông báo. Hệ thống phân tích các truy vấn cục bộ trong thời gian chưa đầy 2 mili giây để đảm bảo độ trễ tối thiểu. Nó ưu tiên quyền riêng tư bằng cách thực hiện chấm điểm truy vấn trên máy của người dùng và sử dụng kiến trúc proxy mù cho phiên bản đám mây của nó. Ngoài ra, nó cho phép người dùng theo dõi chi phí, đặt giới hạn sử dụng và xuất dữ liệu bằng tiêu chuẩn OpenTelemetry.
Manifest được sử dụng để làm gì?
Thẻ

Tính Năng Hàng Đầu
- Định tuyến LLM thông minh dựa trên độ phức tạp của truy vấn
- Phân tích truy vấn cục bộ với độ trễ <2ms
- Theo dõi chi phí và cảnh báo giới hạn sử dụng
- Kiến trúc proxy mù tập trung vào quyền riêng tư
- Nguồn mở và tự lưu trữ
- Hỗ trợ tiêu chuẩn OpenTelemetry
- Plugin OpenClaw gốc để cài đặt dễ dàng
Cách sử dụng Manifest?
Người dùng có thể bắt đầu bằng cách cài đặt plugin OpenClaw gốc thông qua một lệnh duy nhất. Sau khi được cài đặt, Manifest sẽ tự động chặn các truy vấn, phân tích chúng cục bộ và chuyển chúng đến mô hình phù hợp nhất. Sau đó, người dùng có thể sử dụng trang tổng quan để theo dõi chi phí và đặt cảnh báo ngân sách.
Công Cụ Thay Thế
Ưu Điểm & Nhược Điểm
Không Có Dữ Liệu
Trường Hợp Sử Dụng
- Giảm chi phí mã thông báo API cho người dùng OpenClaw
- Đảm bảo quyền riêng tư dữ liệu bằng cách chấm điểm truy vấn cục bộ
- Ngăn chặn việc sử dụng các mô hình chi phí cao cho các tác vụ tìm kiếm hoặc văn bản đơn giản
- Giám sát ngân sách AI giữa các nhóm phát triển
Đánh Giá Người Dùng
Chưa có đánh giá
Hãy là người đầu tiên đánh giá công cụ này!