« לעמוד הראשי

כל הפוסטים בתגית ‘LiteLLM’

כיצד לשלב את LiteLLM עם תהליכי העבודה של git, GitHub ו-GitLab?

LiteLLM הוא דרך מעשית להוסיף יכולות בינה מלאכותית (AI) לאוטומציה מבוססת Git מבלי להינעל על ספק מודל יחיד. עבור צוותים המשתמשים ב-GitHub או ב-GitLab, הוא יכול לשמש כגשר AI מאוחד לצורך סקירת קוד, סיוע ב-commit, ניתוח בקשות מיזוג ואוטומציות מונחות CI. זה הופך אותו לשימושי במיוחד כאשר…

Read more »

LiteLLM AI Gateway: מעקב עלויות, Guardrails, תקציבים ועוד לניהול 100+ מודלי LLM

litellm-diagram

במאמר זה אנו צוללים לעומק ומסבירים את היכולות המרכזיות של ה-LiteLLM AI Gateway: מעקב עלויות (Cost Tracking), Batches API, Guardrails, גישה למודלים, תקציבים, LLM Observability, הגבלת קצב (Rate Limiting), ניהול Prompts, רישום (Logging) ל-S3 ונקודות קצה עוברות (Pass-Through Endpoints) – ומדוע צוותי DevOps / Platform / Architecture מייחסים להן חשיבות. כפי שהודענו לאחרונה, אנו (ALM […]

Read more »