מה חדש ב־LiteLLM 1.97 ו־1.98.0? עדכונים קריטיים למשתמשי AI Gateway
Read more »כל הפוסטים בתגית ‘auto router’
מה זה Auto Router ב‑LiteLLM ואיך הוא חוסך זמן וכסף?
את המאמר הבא כתבתי לאור עדכונים ב- LiteLLM (אותם אנו מייצגים באופן רשמי),ולאור שאלות שנשאלנו בנושא זה לאחרונה ע"י מספר לקוחות אותן אנו מלווים בהטמעה של המערכת. Auto Router של LiteLLM הוא מנגנון ניתוב (routing) חכם בתוך ה‑AI Gateway , המחליט אוטומטית לאיזה מודל LLM להפנות כל בקשה, לפי סוג המשימה, המורכבות והמודלים הזמינים, במקום […]
Read more »
