Manifest

अवलोकन

Manifest क्या है?

मेनिफेस्ट एक ओपन-सोर्स एलएलएम (लार्ज लैंग्वेज मॉडल) राउटर है जो विशेष रूप से ओपनक्लाव के लिए बनाया गया है। यह प्रश्नों को इंटरसेप्ट करके और कार्य की जटिलता के आधार पर उन्हें सबसे अधिक लागत प्रभावी मॉडल पर रूट करके एआई व्यय को अनुकूलित करता है, जिससे संभावित रूप से उपयोगकर्ताओं को टोकन लागत पर 70% तक की बचत होती है। न्यूनतम विलंबता सुनिश्चित करने के लिए सिस्टम 2ms से कम समय में स्थानीय रूप से प्रश्नों का विश्लेषण करता है। यह उपयोगकर्ता की मशीन पर क्वेरी स्कोरिंग करके और अपने क्लाउड संस्करण के लिए ब्लाइंड प्रॉक्सी आर्किटेक्चर का उपयोग करके गोपनीयता को प्राथमिकता देता है। इसके अतिरिक्त, यह उपयोगकर्ताओं को ओपनटेलीमेट्री मानक का उपयोग करके लागतों को ट्रैक करने, उपयोग सीमा निर्धारित करने और डेटा निर्यात करने की अनुमति देता है।