מה חדש ב־LiteLLM 1.96 ו־ 1.95? שיפורים ב־Auto Router, תמיכה במודלים חדשים, שיפורים ב- MCP , שיפורים ב- UI ובאבטחה, ועוד
Read more »כל הפוסטים בקטגוריה ‘AI Gateway’
מה זה Auto Router ב‑LiteLLM ואיך הוא חוסך זמן וכסף?
את המאמר הבא כתבתי לאור עדכונים ב- LiteLLM (אותם אנו מייצגים באופן רשמי),ולאור שאלות שנשאלנו בנושא זה לאחרונה ע"י מספר לקוחות אותן אנו מלווים בהטמעה של המערכת. Auto Router של LiteLLM הוא מנגנון ניתוב (routing) חכם בתוך ה‑AI Gateway , המחליט אוטומטית לאיזה מודל LLM להפנות כל בקשה, לפי סוג המשימה, המורכבות והמודלים הזמינים, במקום […]
Read more »
