אנו מייצגים רשמית את LiteLLM כפתרון AI Gateway למפתחים
אני שמח לעדכן שאנו מייצגים כעת באופן רשמי את LiteLLM בישראל (ובמדינות נוספות),
ומציעים תמיכה, רישוי Enterprise , יעוץ משלנו (עם צוות מקומי) , אפשרות לשירות מנוהל ועוד.
LiteLLM מתווסף לפורטפוליו הפתרונות שלנו סביב AI, ה-DevOps וה-DevSecOps שלנו.
מה זה LiteLLM ?
LiteLLM הוא כלי קוד-פתוח פופולרי, שמהווה Gateway (שער כניסה) מרכזי למגוון גדול (מעל 100) של מודלי AI
(כולל Claude, OpenAI, Bedrock, Gemini ועוד רבים).
בעזרתו ניתן לאפשר למפתחים בחברה לעבוד עם כל המודלים בעזרת פורמט אחיד ומוכר (של OpenAI)
ובצורה נוחה מאוד המאפשרות שימוש במודלים רבים,
בלי להינעל לשימוש במודל ספציפי.
בנוסף, LiteLLM מאפשר ניהול מרכזי
ולראות מי משתמש במודלים, כיצד, כמה צרכו ועוד.
בסיס המוצר הוא חינמי.
מעל המהדורה החינמית ישנה מהדורת Enterprise,
המציעה סט יכולות המתאים לארגונים, כגון:
- גישה מאובטחת בעזרת SSO, SCIM
- ניהול משתמשים וקבוצות
- לוגים ו- auditing
- גישה דרך JWT (JSON Web Token)
- ניהול סודות והחלפת מפתחות
- תמיכה מסודרת כולל SLA
אנו מציעים גם תמיכת hands-on למוצר עם צוות ישראלי
(מבוססת ידע שלנו בשימוש במוצר) –
וכוללת גם ידע ב- DevOps , אבטחת קוד ונסיון בחיבור למגוון כלים ומודלים.לפרטים נוספים על המוצר אפשר לפנות אלי וכן אל הצוות שלנו בכתובת litellm@almtoolbox.com
בין החברות המשתמשות ב- LiteLLM:
Netflix, Orange, Lemonade ועוד, כולל חברות בישראל
(וכן משתמשי-קצה רבים ברחבי העולם – לפרוייקט מעל 40,000 כוכבים ב- GitHub)
בנוסף, אנו (ALM-Toolbox) יכולים לסייע לכם בשירותים מקצועיים ותמיכה, כולל:
- תמיכה מקומית במוצר – כולל ידע ב- DevOps וחיבור למגוון כלים ומודלים.
- אינטגרציה של LiteLLM עם תהליכי הפיתוח ותהליכי ה-DevOps / CI/CD שלכם
- חיבור LiteLLM לכלי ניהול גרסאות נפוצים כגון git, GitLab, GitHub, Bitbucket, Azure DevOps ועוד
- סיוע בהתקנת המוצר בהיבטי תשתית ו- DevOps , כולל בסביבות סגורות, On-premise או ענן פרטי כגון AWS / GCP / Azure
- התאמת הפתרון לצרכי החברה שלכם
- הקשחת הסביבה (DevSecOps / AppSec hardening)
צרו קשר לפרטים נוספים, לקבלת רשיון התנסות ב- Enterprise למחירים והצעות מחיר:
litellm@almtoolbox.com או בטלפון: 072-240-5222
הסבר מעמיק (19 דקות) על LiteLLM:
סקירה על המוצר (8 דקות באנגלית + כתוביות בעברית):
קישורים רלוונטיים:
- We Officially Represent LiteLLM as AI Gateway Solution
- איך LiteLLM עוזר למשתמשי git / GitLab לשלוט על השימוש ב- AI
- מידע טכני באתר היצרן
