Verbesserung bzw. Neukonzeption der Teststrategie
Härtung der Guardrails: bessere UI, einfachere Architektur, einfachere benutzerdefinierte Guardrails sowie Response-seitige Guardrails, die angewendet werden, bevor die Ausgabe den Client erreicht
Ausarbeitung des angepassten Code of Conduct
Plugins – mindestens für Guardrails
Unterstützung für OpenTelemetry (OTel)
Vollständige Unterstützung des OpenAI-/conversations-Lebenszyklus
Vollständige Unterstützung des OpenAI-/responses-Lebenszyklus
Anthropic-kompatibler /messages-Eingang und /messages/count_tokens
Budgetverwaltung mit Limits pro user_path und/oder API-Key
Bearbeitbare Modellpreise für genaue Kostenerfassung und Budgetierung
Sichtbarkeit des Prompt-Cachings: Anzeige, welcher Anteil jedes Prompts vom Provider gecacht wurde
UI-Sichtbarkeit für Prompt-Caching und die Nutzung des lokalen Cache
Korrigierte Failover-Diagramme im Dashboard

Roadmap zu 0.3.0

Härtung und Erweiterung der MCP-Proxy-Features
Verbesserung der Gesamtqualität und Einfachheit von Konfiguration und UI
Überdenken und Überarbeiten der Passthrough-API
Unterstützung der nativen Gemini-API und Übersetzung nativer Gemini-API-Aufrufe in andere Dialekte
Verbesserungen bei der Korrektheit der Standardpreise
- Einrichtung eines KI-Kurators bzw. -Agenten, der die Preise auf den Websites der Provider überwacht
Verbesserung der Performance der UI und der Audit-Log-Ansicht
Verbesserung der Ausfallsicherheits-Features (expliziter Fehler + Failover für Fälle wie ein vLLM, das mitten im Streaming stoppt usw.)
Erleichterung der Migration von LiteLLM zu GoModel
- Konverter gomodel migrate litellm für config.yaml und Migrationsleitfaden
- Import von virtuellen Keys, Teams, Benutzern, Budgets und Rate-Limits aus der LiteLLM-Datenbank
- Übernahme der LiteLLM-Ausgaben
Bessere Unterstützung für /audio-bezogene Endpunkte und Modalitäten
Bessere Unterstützung für Videogenerierung (Speichern von Artefakten und mehr)
Provider-nativer Passthrough für alle Provider, über die aktuelle Beta-Abdeckung hinaus
Failover für die Bild-Endpunkte, damit Bildgenerierung und -bearbeitung wie bei Chat auf andere Provider ausweichen können
Streaming-Bildgenerierung (SSE-Weiterleitung von Teilbildern auf /v1/images/*)
Härtung der Plugins
Modelleigenschaften stärker über Attribute der Datei models.json als über Modellnamen steuern
- <think>- / <thinking>-Blöcke statt eines separaten Felds in der Response
- Unterstützte Endpunkte pro Modell
Anpassbares Dashboard (mehr Diagramme, mehr sichtbare Daten, Wasserfalldiagramme)
Überarbeitung der Workflows mit besserer UI/UX und flexiblerem Design

Kommerzielle Features (Pro-/Enterprise-Version)

Intelligentes Routing (GoModel Pro, Beta)
Komprimierung des Kontextfensters (GoModel Pro)
OIDC-Single-Sign-On (GoModel Pro)
Egress-Proxy-Pools mit Health Checks und Failover (GoModel Pro, Beta; proxy_url pro Provider ist im Core enthalten)
Cluster-Modus
LDAP-Integration
Rollenbasierte Zugriffskontrolle (RBAC) für Dashboard und Admin API
Integrationen von Secret-Managern (Vault, AWS Secrets Manager/KMS, Azure Key Vault, GCP Secret Manager) in GoModel Pro; Secret-Referenzen mit env und file sind im Core enthalten
Export/Streaming von Audit-Logs in Object Storage und Data Lakes
IP-/CIDR-Allowlists
LTS-Kanal mit signierten Artefakten, SBOM und Vorabbenachrichtigung zu CVEs
SAML 2.0 + SCIM-Verzeichnissynchronisation