S potěšením vás informuji, že nyní oficiálně zastupujeme LiteLLM,
a nabízíme předplatné licencí Enterprise, naše vlastní konzultace a podporu (s lokálním týmem), možnosti spravovaných služeb a další.
LiteLLM se připojuje k našemu portfoliu řešení v oblasti AI, DevOps a DevSecOps.
Co je LiteLLM?
LiteLLM je populární open-source nástroj, který slouží jako centrální Gateway (vstupní brána) k široké škále (více než 100) AI modelů
(vĎetně Claude, OpenAI, Bedrock, Gemini a mnoha další).
S jeho pomocí mohou vývojáři ve firmě pracovat se všemi modely pomocí jednotného a známého formátu (od OpenAI)
a vysoce pohodlným způsobem, který umožňuje používat více modelů,
aniž by byli vázáni na jeden konkrétní model.
LiteLLM navíc umožňuje centrální správu
a přehled o tom, kdo modely používá, jakým způsobem, kolik spotřebovali a další.
Základní produkt je zdarma.
Nad rámec bezplatné verze je k dispozici edice Enterprise,
která nabízí sadu funkcí vhodných pro organizace, jako jsou:
- ZabezpečEný přístup pomocí SSO, SCIM
- Správa uživatelů a skupin
- Protokoly a auditování
- Přístup přes JWT
- Správa tajných klíčů a rotace klíčů
- Strukturovaná podpora vĎetně SLA
Nabízíme také praktické konzultace a podporu pro LiteLLM poskytovanou naším týmem pro DevOps a AI
(na základě našich zkušeností s používáním produktu), která zahrnuje odborné znalosti v oblasti DevOps a DevSecOps, zabezpečEní kódu a zkušenosti s připojením k celé řadě nástrojů a modelů AI.
Pro více informací o produktu můžete kontaktovat mě nebo náš tím na adrese litellm@almtoolbox.com
Mezi společnosti, které používají LiteLLM, patří:
Netflix, Orange, Lemonade a další (stejně jako mnoho koncových uživatelů po celém světe – projekt má na GitHubu více než 40 000 hvězditěnek)
Kromě toho vám my (ALM-Toolbox) můžeme pomoci s profesionálními služebami a podporou, vĎetně:
- Lokální podpora pro produkt – vĎetně znalostí DevOps a připojení k řadě nástrojů a modelů.
- Integrace LiteLLM do vašich vývojových procesů a DevOps / CI/CD workflow
- Připojení LiteLLM k populárním nástrojům pro správu verzí, jako jsou git, GitLab, GitHub, Bitbucket, Azure DevOps a další
- Pomoc s instalací produktu z hlediska infrastruktury a DevOps, vĎetně izolovaných prostředí (air-gapped), On-premise nebo privátních cloudů jako AWS / GCP / Azure
- Přizpůsobení řešení potřebám vaší společnosti
- ZabezpečEní a otužEní řešení (Hardening / DevSecOps / AppSec)
Pro více podrobností, zkušební verzi nebo cenovou nabídku nás kontaktujte na:
litellm@almtoolbox.com nebo telefonicky: 866-503-1471 (USA / Kanada) nebo +31 85 064 4633
Podívejte se na naše podrobné vysvě tlení LiteLLM (8 minut):
Relevantní odkazy:
- Technické informace na webu výrobce
