LiteLLM
LiteLLM একটি ওপেন-সোর্স লাইব্রেরির মাধ্যমে LLM সমাপ্তি এবং কল এমবেডিং সহজ করে।
স্কোর
60
ব্যবহারকারীর রেটিং
1.0
বিনামূল্যে/ট্রায়াল সহায়তা
সমর্থিত
শুরুর মূল্য
--
সর্বশেষ আপডেট
সেপ্ট 08, 2026
সংক্ষিপ্তসার
LiteLLM কী?
LiteLLM হল একটি এলএলএম গেটওয়ে (ওপেনএআই প্রক্সি) যা ওপেনএআই ফর্ম্যাট বজায় রেখে 100+ এলএলএম জুড়ে প্রমাণীকরণ, লোড ব্যালেন্সিং এবং খরচ ট্র্যাকিং পরিচালনা করার জন্য ডিজাইন করা হয়েছে। এটি OpenAI, Azure, Cohere, Anthropic, Replicate, এবং Google-এর মতো বিভিন্ন প্রদানকারী থেকে LLM API ব্যবহার করার প্রক্রিয়াকে সহজ করে। LiteLLM সমস্ত মডেলের জন্য লগিং এবং ত্রুটি ট্র্যাকিং সহ সমস্ত LLM API-এর জন্য ধারাবাহিক আউটপুট এবং ব্যতিক্রমগুলি অফার করে৷ এটি খরচ ট্র্যাকিং, ব্যাচ API, গার্ডেল, মডেল অ্যাক্সেস, বাজেট, LLM পর্যবেক্ষণযোগ্যতা, হার সীমিতকরণ, প্রম্পট ব্যবস্থাপনা, S3 লগিং এবং পাস-থ্রু এন্ডপয়েন্টের মতো বৈশিষ্ট্যগুলি সরবরাহ করে।
LiteLLM কী কাজে ব্যবহৃত হয়?
ট্যাগ
শীর্ষ বৈশিষ্ট্য
- 100+ LLM-এর জন্য LLM গেটওয়ে
- OpenAI- সামঞ্জস্যপূর্ণ API
- খরচ ট্র্যাকিং এবং বাজেট ব্যবস্থাপনা
- এলএলএম ফলব্যাকস
- লোড ব্যালেন্সিং
- হার সীমাবদ্ধতা
- প্রম্পট ম্যানেজমেন্ট
- লগিং এবং ত্রুটি ট্র্যাকিং
LiteLLM কীভাবে ব্যবহার করবেন?
ChatGPT ফরম্যাট - সমাপ্তি (মডেল, বার্তা) ব্যবহার করে LLM API-কে কল করে LiteLLM ব্যবহার করুন। এটি সমস্ত LLM API-এর জন্য সামঞ্জস্যপূর্ণ আউটপুট এবং ব্যতিক্রম প্রদান করে। আপনি LiteLLM ওপেন সোর্স স্থাপন করতে পারেন বা আরও বৈশিষ্ট্যের জন্য LiteLLM এন্টারপ্রাইজ ব্যবহার করে দেখতে পারেন।
বিকল্প টুল
কোন বিকল্প টুল পাওয়া যায়নি
সুবিধা & অসুবিধা
কোন ডেটা নেই
ব্যবহারের ক্ষেত্রে
- ডেভেলপারদের একাধিক LLM-এ অ্যাক্সেস দেওয়া
- বিভিন্ন এলএলএম প্রদানকারী জুড়ে ব্যয় পরিচালনা করা
- নির্ভরযোগ্যতার জন্য এলএলএম ফলব্যাক বাস্তবায়ন করা
- একটি প্রতিষ্ঠান জুড়ে এলএলএম এপিআই অ্যাক্সেস মানককরণ
LiteLLM মূল্য
বিনামূল্যে পরিকল্পনাসাবস্ক্রিপশন পরিকল্পনা
কোন বিশদ মূল্য তথ্য উপলব্ধ নেই
ব্যবহারকারীর পর্যালোচনা
1.0
৫ এর মধ্যে
1.0
এখনও কোন পর্যালোচনা নেই
এই টুলের প্রথম পর্যালোচনাকারী হন!