Skip to main content
Bedrock Mantle to kompatybilny z OpenAI endpoint inferencji Amazon Bedrock. GoModel wywołuje bezpośrednio jego Responses API, więc modele obsługujące tylko Responses nie są tłumaczone na Chat Completions ani Bedrock Converse.
To osobny typ providera niż Amazon Bedrock Runtime. Używaj bedrock-mantle dla kompatybilnych z OpenAI modeli Mantle, a bedrock dla modeli Bedrock Runtime Converse. Możesz skonfigurować oba jednocześnie.

Wymagania wstępne

Włącz modele na swoim koncie AWS i wybierz obsługiwany region AWS. Możesz uwierzytelniać się kluczem API Amazon Bedrock albo standardowym łańcuchem danych uwierzytelniających AWS.

Konfiguracja

Przy SigV4 GoModel używa łańcucha danych uwierzytelniających AWS SDK, w tym AWS_PROFILE, IAM Identity Center oraz ról kontenera lub instancji. Na produkcji preferuj dane uwierzytelniające workloadu zamiast długoterminowych kluczy dostępu. AWS_BEARER_TOKEN_BEDROCK jest również akceptowany jako zapasowy token bearer. Ustaw razem z nim BEDROCK_MANTLE_BASE_URL, aby wykrywanie providerów mogło włączyć Mantle. Base URL może być regionem AWS albo pełnym endpointem. Zalecaną formą jest region:
W konfiguracji z kluczem API lub w YAML, gdy base URL jest pominięty, GoModel używa BEDROCK_MANTLE_REGION, potem AWS_REGION, potem AWS_DEFAULT_REGION, a na końcu us-east-1. Mając tylko dane uwierzytelniające IAM, ustaw BEDROCK_MANTLE_BASE_URL, aby wykrywanie providerów włączyło Mantle. Możesz też skonfigurować providera w config.yaml:

Wywołanie GPT-5.6

Streaming używa tego samego endpointu gatewaya z "stream": true. previous_response_id, narzędzia, ustawienia reasoningu i nieznane pola rozszerzeń są przekazywane do Mantle bez tłumaczenia requestu na format czatu.

Dostępność GPT-5.6

Te modele obsługują Responses API, a nie Chat Completions, Converse ani Invoke. GoModel automatycznie wysyła je do /openai/v1/responses – ścieżki specyficznej dla modelu, której wymaga AWS. Inne modele Mantle używają odpowiednio /v1/responses lub /v1/chat/completions.

Wybór ścieżki endpointu

BEDROCK_MANTLE_API_MODE określa, której ścieżki kompatybilnej z OpenAI używa GoModel: Katalog modeli zawsze używa /v1/models. Użyj nadpisania, gdy AWS doda model, zanim zostanie zaktualizowana automatyczna lista ścieżek w GoModel. W YAML ustaw tę samą opcję przez api_mode:

Wiele providerów Mantle

Dla osobnych regionów lub kont użyj zmiennych środowiskowych z sufiksem:
To rejestruje bedrock-mantle-east i bedrock-mantle-west.

Rozwiązywanie problemów

  • GPT-5.6 zwraca 404 lub odrzuca request – użyj typu providera bedrock-mantle. Provider Bedrock Runtime używa Converse, którego GPT-5.6 nie obsługuje.
  • 403 / brak dostępu – włącz dostęp do modelu i sprawdź, czy klucz API lub principal IAM może wywoływać inferencję Bedrock Mantle w tym regionie.
  • Provider nie jest wykrywany przy AWS_BEARER_TOKEN_BEDROCK lub roli IAM – ustaw BEDROCK_MANTLE_BASE_URL, aby włączyć providera bez klucza.
  • Nowo wydany model używa złej trasy – ustaw BEDROCK_MANTLE_API_MODE=openai lub standard dla tej instancji providera.

Źródła

Ostatnia modyfikacja 24 października 2026