To osobny typ providera niż Amazon Bedrock Runtime.
Używaj
bedrock-mantle dla kompatybilnych z OpenAI modeli Mantle, a bedrock dla
modeli Bedrock Runtime Converse. Możesz skonfigurować oba jednocześnie.Wymagania wstępne
Włącz modele na swoim koncie AWS i wybierz obsługiwany region AWS. Możesz uwierzytelniać się kluczem API Amazon Bedrock albo standardowym łańcuchem danych uwierzytelniających AWS.Konfiguracja
- Klucz API Bedrock
- Dane uwierzytelniające AWS (SigV4)
AWS_PROFILE, IAM Identity Center oraz ról kontenera lub instancji. Na
produkcji preferuj dane uwierzytelniające workloadu zamiast długoterminowych kluczy dostępu.
AWS_BEARER_TOKEN_BEDROCK jest również akceptowany jako zapasowy token bearer. Ustaw
razem z nim BEDROCK_MANTLE_BASE_URL, aby wykrywanie providerów mogło włączyć Mantle.
Base URL może być regionem AWS albo pełnym endpointem. Zalecaną formą jest
region:
BEDROCK_MANTLE_REGION, potem AWS_REGION, potem AWS_DEFAULT_REGION, a
na końcu us-east-1. Mając tylko dane uwierzytelniające IAM, ustaw
BEDROCK_MANTLE_BASE_URL, aby wykrywanie providerów włączyło Mantle.
Możesz też skonfigurować providera w config.yaml:
Wywołanie GPT-5.6
"stream": true.
previous_response_id, narzędzia, ustawienia reasoningu i nieznane pola rozszerzeń
są przekazywane do Mantle bez tłumaczenia requestu na format czatu.
Dostępność GPT-5.6
Te modele obsługują Responses API, a nie Chat Completions, Converse ani
Invoke. GoModel automatycznie wysyła je do
/openai/v1/responses – ścieżki
specyficznej dla modelu, której wymaga AWS. Inne modele Mantle używają odpowiednio
/v1/responses lub /v1/chat/completions.
Wybór ścieżki endpointu
BEDROCK_MANTLE_API_MODE określa, której ścieżki kompatybilnej z OpenAI używa GoModel:
Katalog modeli zawsze używa
/v1/models. Użyj nadpisania, gdy AWS doda
model, zanim zostanie zaktualizowana automatyczna lista ścieżek w GoModel.
W YAML ustaw tę samą opcję przez api_mode:
Wiele providerów Mantle
Dla osobnych regionów lub kont użyj zmiennych środowiskowych z sufiksem:bedrock-mantle-east i bedrock-mantle-west.
Rozwiązywanie problemów
- GPT-5.6 zwraca
404lub odrzuca request – użyj typu providerabedrock-mantle. Provider Bedrock Runtime używa Converse, którego GPT-5.6 nie obsługuje. 403/ brak dostępu – włącz dostęp do modelu i sprawdź, czy klucz API lub principal IAM może wywoływać inferencję Bedrock Mantle w tym regionie.- Provider nie jest wykrywany przy
AWS_BEARER_TOKEN_BEDROCKlub roli IAM – ustawBEDROCK_MANTLE_BASE_URL, aby włączyć providera bez klucza. - Nowo wydany model używa złej trasy – ustaw
BEDROCK_MANTLE_API_MODE=openailubstandarddla tej instancji providera.