Ulepszenie lub całkowite przemyślenie strategii testowania
Wzmocnienie guardrails: lepszy UI, prostsza architektura, łatwiejsze tworzenie własnych guardrails oraz guardrails po stronie odpowiedzi, stosowane zanim wynik trafi do klienta
Napisanie dostosowanego Code of Conduct
Pluginy – przynajmniej dla guardrails
Wsparcie dla OpenTelemetry (OTel)
Pełne wsparcie cyklu życia OpenAI /conversations
Pełne wsparcie cyklu życia OpenAI /responses
Wejście /messages kompatybilne z Anthropic oraz /messages/count_tokens
Zarządzanie budżetem z limitami per user_path i/lub klucz API
Edytowalny cennik modeli dla dokładnego śledzenia kosztów i budżetowania
Widoczność prompt cache pokazująca, jaka część każdego promptu została zcache’owana przez providera
Widoczność w UI użycia prompt cachingu i lokalnego cache’u
Naprawione wykresy failoveru w dashboardzie

Roadmap do wersji 0.3.0

Wzmocnienie i rozszerzenie funkcji MCP proxy
Poprawa ogólnej jakości i prostoty konfiguracji oraz UI
Przemyślenie i przebudowa pass-through API
Wsparcie natywnego API Gemini oraz tłumaczenie wywołań natywnego API Gemini na inne dialekty
Poprawa trafności domyślnych cen
- uruchomienie AI kuratora / agenta monitorującego ceny na stronach providerów
Poprawa wydajności UI i widoku Audit Logs
Ulepszenie funkcji odporności na awarie (jawny błąd + failover w przypadkach takich jak vLLM zatrzymany w trakcie streamingu itp.)
Ułatwienie migracji z LiteLLM do GoModel
- Konwerter config.yaml gomodel migrate litellm i przewodnik migracji
- Import wirtualnych kluczy, zespołów, użytkowników, budżetów i rate limitów z bazy danych LiteLLM
- Przeniesienie wydatków z LiteLLM
Lepsze wsparcie endpointów i modalności związanych z /audio
Lepsze wsparcie generowania wideo (przechowywanie artefaktów i więcej)
Natywny passthrough dla wszystkich providerów, wykraczający poza obecne pokrycie w wersji beta
Failover dla endpointów obrazów, aby generowanie i edycja obrazów mogły przełączać się między providerami tak jak czat
Streaming generowania obrazów (przekazywanie częściowych obrazów przez SSE na /v1/images/*)
Wzmocnienie pluginów
Sterowanie właściwościami modeli bardziej przez atrybuty z pliku models.json niż przez nazwy modeli
- Bloki <think> / <thinking> zamiast osobnego pola w odpowiedzi
- Obsługiwane endpointy per model
Personalizacja dashboardu (więcej wykresów, więcej prezentowanych danych, wykresy kaskadowe)
Przebudowa workflow z lepszym UI/UX i bardziej elastyczną architekturą

Funkcje komercyjne (wersja Pro/Enterprise)

Inteligentny routing (GoModel Pro, beta)
Kompresja okna kontekstu (GoModel Pro)
Single sign-on OIDC (GoModel Pro)
Pule proxy wychodzących z health checkami i failoverem (GoModel Pro, beta; proxy_url per provider jest dostępny w core)
Tryb klastra
Integracja z LDAP
Kontrola dostępu oparta na rolach (RBAC) dla dashboardu i Admin API
Integracje z menedżerami sekretów (Vault, AWS Secrets Manager/KMS, Azure Key Vault, GCP Secret Manager) w GoModel Pro; referencje do sekretów z env i file są dostępne w core
Eksport/streaming logu audytowego do object storage i data lake’ów
Listy dozwolonych adresów IP / CIDR
Kanał LTS z podpisanymi artefaktami, SBOM i wcześniejszym powiadamianiem o CVE
SAML 2.0 + synchronizacja katalogu SCIM