הכנו הסבר קולי קצר (5 דקות בעברית) 🎧 מדוע חשוב לנהל ולפקח על תקציבי AI בזמן אמת, ואיך LiteLLM עושה את זה בצורה חכמה. בהסבר סקירה קצרה על יכולות LiteLLM סביב נושא התקציבים ברזולוציה של משתמשים ומודלים, עד רמת המשתמש הבודד והמודל הספציפי (כולל שילוב של שניהם). הסקירה אינה טכנית מדי 🙂 להאזנה: לפרטים נוספים, פנו אלינו: litellm@almtoolbox.com או טלפונית: […]
Read more »כל הפוסטים בקטגוריה ‘LiteLLM’
מה חדש ב- LiteLLM ? ריכוז עדכונים אחרונים
אני שמחה לעדכן שיצאה אתמול מהדורה חדשה למוצר (1.96),וכן יצאו מספר מהדורות בשבועות האחרונים (1.95 ו- 1.94) . בשבועות האחרונים יצא לנו לעזור ללקוחות רבים בתכנון פריסה של המוצר,בהדרכות על המוצר, בקינפוג המוצר מול מערכות ארגוניותלצורך חסכון כספי בטוקנים ושיפור האבטחה והפרטיות סביב AI,הקשחת הסביבה של המוצר, תכנון High Availability ועוד! אנו נשמח לעזור במוצר […]
Read more »מה זה Auto Router ב‑LiteLLM ואיך הוא חוסך זמן וכסף?
את המאמר הבא כתבתי לאור עדכונים ב- LiteLLM (אותם אנו מייצגים באופן רשמי),ולאור שאלות שנשאלנו בנושא זה לאחרונה ע"י מספר לקוחות אותן אנו מלווים בהטמעה של המערכת. Auto Router של LiteLLM הוא מנגנון ניתוב (routing) חכם בתוך ה‑AI Gateway , המחליט אוטומטית לאיזה מודל LLM להפנות כל בקשה, לפי סוג המשימה, המורכבות והמודלים הזמינים, במקום […]
Read more »חדש: סיוע שלנו בחיבור בין SonarQube ל- AI גם בסביבות Self-hosted וברשתות מנותקות מהאינטרנט
אנו שמחים להודיע שהתחלנו להציע שירות ייחודי העוזר לחבר בין SonarQube ל- AI גם בסביבות Self-hosted וברשתות מנותקות (air-gapped / offline), ובפרט לצורך תיקוני באגים באופן מהיר. למעשה ממהדורה 2026.2 של SonarQube Enterprise ניתן להריץ יכולת "AI CodeFix" המציעה תיקון מעשי שאפשר לבדוק, לערוך וליישם בקוד באופן מהיר,וזאת גם בסביבות self-hosted / on-prem, כולל רשתות […]
Read more »5 דרכים להוזיל את עלויות השימוש ב-Claude Code באמצעות LiteLLM
אחת היכולות השימושיות ביותר ב- LiteLLM היא סיוע בחסכון כספי בשימוש בכלי AI ומודלים – ביניהם כמובן Claude Code .
במאמר כאן נסביר כיצד להשיג זאת.
LiteLLM Open Source vs Enterprise Editions
לאור שאלות רבות ששואלים אותנו סביב ההבדלים בין מהדורות המוצר LiteLLM,הכנו רשימה מפורטת ומסודרת (גם לפי נושאים), המכילה את יכולות המוצר הקיימות רק במהדורת Enterprise (המהדורה המסחרית בתשלום).יש כמעט 60 יכולות כאלו הזמינות רק במהדורה בתשלום. הרשימה סוקרת את הנושאים הבאים: לרשימה הוספנו גם פילטרים של Excel לנוחיות השימוש, עם אפשרות מיון וחיפוש בטקסט. להורדת […]
Read more »הדגמת שימוש ב- LiteLLM והדגמת הדשבורד של המוצר
במאמר זה נדגים שימוש ב- LiteLLM כפי שאנו עושים בחברה שלנו לצרכי פיתוחים פנימיים שלנו, וכן נדגים כמה מסכים מהדשבורד הניהולי של המוצר.יתכן ובהמשך גם נוציא וידאו שמדגים את הנושא. ניתן להקליק על כל תמונה וכך להגדיל אותה. במסך זה רואים models ו- endpoints. כאן ניתן לראות את כל המודלים שהוספנו שיעבדו דרך LiteLLM, וכן […]
Read more »כיצד לשלב את LiteLLM עם תהליכי העבודה של git, GitHub ו-GitLab?
LiteLLM הוא דרך מעשית להוסיף יכולות בינה מלאכותית (AI) לאוטומציה מבוססת Git מבלי להינעל על ספק מודל יחיד. עבור צוותים המשתמשים ב-GitHub או ב-GitLab, הוא יכול לשמש כגשר AI מאוחד לצורך סקירת קוד, סיוע ב-commit, ניתוח בקשות מיזוג ואוטומציות מונחות CI. זה הופך אותו לשימושי במיוחד כאשר…
Read more »LiteLLM AI Gateway: מעקב עלויות, Guardrails, תקציבים ועוד לניהול 100+ מודלי LLM
במאמר זה אנו צוללים לעומק ומסבירים את היכולות המרכזיות של ה-LiteLLM AI Gateway: מעקב עלויות (Cost Tracking), Batches API, Guardrails, גישה למודלים, תקציבים, LLM Observability, הגבלת קצב (Rate Limiting), ניהול Prompts, רישום (Logging) ל-S3 ונקודות קצה עוברות (Pass-Through Endpoints) – ומדוע צוותי DevOps / Platform / Architecture מייחסים להן חשיבות. כפי שהודענו לאחרונה, אנו (ALM […]
Read more »אנו מייצגים רשמית את LiteLLM כפתרון AI Gateway למפתחים
אנו שמחים להכריז שכחלק מפתרונות ה-AI, ה-DevOps וה-DevSecOps שלנו,אנו מציעים כעת גם את פתרון ה- AI Gateway של LiteLLM
Read more »
