מה היצע הפתרונות העדכני של LiteLLM ושלנו?
לאחרונה היו מספר עדכונים ב- LiteLLM ובשיטת התימחור של מוצר ה- Enterprise, ולאור שאלות שנשאלנו בנושא, אנו מרכזים במאמר הבא את כל המידע הרלוונטי.
המוצר LiteLLM זמין ב- 2 מהדורות :
- מהדורה חינמית – עם סט מסויים של יכולות.
- מהדורת Enerprise בתשלום – עם כל היכולות של המהדורה החינמית, ובנוסף יכולות נוספות.
שתיהן self-hosted.
LiteLLM Enterprise
מחיר LiteLLM Enterprise נקבע לפי מספר פרמטרים:
- SGR או "Succesful Gateway Requests": כמות requests שעברו בהצלחה דרך LiteLLM, במהלך שנה.
הכוונה לסך כל ה- requests מכל הסביבות וכל השרתים, כולל כל הכלים והשירותים שצורכים AI ויעברו דרך ה- LiteLLM gateway.
היצרן מגיע מספר "מדרגות" , כאשר הראשונה (ההתחלתית) היא עד 15 מליון בקשות כאלו בשנה.
שיטת תמחור זו מאפשרת רישוי ללא תלות בכמות היוזרים, השרתים והסביבות שתפרסו (הואיל וזה מוצר self-hosted וניתן לפרוס אותו במספר רב של דרכים, כתלות בצרכים הספציפים של כל ארגון בנוגע לשליטה, אבטחת מידע, ביצועים, רגולציות ושיקולי sovereign ועוד).
במידה וכבר מותקן לכם המוצר, ניתן להסתכל בדשבורד על הכמות שצרכתם עד כה. כדאי גם להסתכל בחתך של 30 יום אחרונים – זה יכול לעזור לאמוד כמות שנתית.
ניתן גם להיעזר בנו כדי לתכנן כמות שימוש לאור גדילה מתוכננת (הפרטים שלנו בהמשך). - סוג התמיכה: Standard (9 שעות ביום, ימים שני עד שישי שעון החוף המערבי ארה"ב) – או 24×7 עם SLA מלא.
- האם רוצים את כל יכולות ה- Autorouter כולל אלה שניתן לקסטם (Autorouter Enterprise).
במידה וכן יש תשלום נוסף (יכולות אלה הן תוסף בתשלום נפרד).
לקבלת מחירים והצעת מחיר רשמית ניתן לפנות אלינו: litellm@almtoolbox.com או טלפונית: 072-240-5222 .
אנו הנציגים הרשמיים של היצרן בישראל ובמדינות נוספות, ומספקים פתרונות מקצה לקצה סביב LiteLLM,
כולל תכנון פריסה, תמיכה מקומית עם DevOps hands-on, אפשרות לשירות מנוהל, התקנות, קינפוג, אופטימיזציה של שימוש במודלים, הקשחת מערכת (hardening), אינטרציה לכלים משלימים, הדרכות ועוד.
לקבלת הרשימה המלאה שלנו של יכולות LiteLLM שנמצאות במהדורת Enterprise בלבד – ניתן לפנות אלינו גם כן.
