state(要评估的文本或记录)和一组带类型的问题,答案是针对每个问题
经过校准的概率。Kev 是一系列实现了相同 API 的小型开放权重模型,
因此一个 jev 提供商类型即可同时覆盖两者。
问题共有三种类型:
GoModel 通过两种方式提供
jev 模型:
- OpenAI 的 Decisions API,位于
POST /v1/decisions, 它可以提出同样的三类问题(predicate对应noul)。GoModel 会将请求转换为 System One 格式, 再将答案转换回来,因此为gpt-6-luna编写的 OpenAI SDK 和客户端无需修改即可使用 Jev 和 Kev。 - System One 本身,位于
POST /v1/systemone,以原生方式转发而不做转换,供 TypeSafe SDK 使用; 仅配置openrouter提供商时也可使用。位于/p/jev/...的透传 可以访问其他所有上游路由。
jev 模型,聊天、/responses 和 /v1/embeddings 会返回 invalid_request_error,
并提示使用这两个决策端点。
配置
对于托管 API,只需设置密钥即可完成全部配置:默认基础 URL 为
https://api.typesafe.ai,即 TypeSafe SDK 所使用的源地址;末尾的 /v1
会被接受并去除,因此两种写法指向同一台服务器。要让托管 API 与本地 Kev 并行运行,请以带后缀的名称
注册第二个提供商:JEV_KEV_BASE_URL=... 会创建提供商 jev-kev,可通过 /p/jev-kev/... 访问。
在 config.yaml 中可以使用任意名称,例如 kev: {type: jev, base_url: ...},日志、用量和模型前缀
中显示的就是该名称。验证
kev-latest 作为模型;它也会响应 jev-latest。同样的请求也可以发送到
/p/jev/v1/systemone,但该透传路由会跳过虚拟模型和护栏;请参阅原生端点。
通过 Decisions API 提出同样的问题,可使用 OpenAI SDK 或 curl:
使用 TypeSafe SDK
SDK 会发送POST {base_url}/v1/systemone,因此请将其指向网关本身,并使用您的 GoModel 密钥进行认证:
TYPESAFE_BASE_URL=http://localhost:8080 和 TYPESAFE_API_KEY=change-me 也同样可行。
存在多个 System One 提供商时,请用其提供商限定模型名称(kev/kev-latest),或使用
虚拟模型。SDK 的模型列表功能期望 TypeSafe 的格式,而网关的 /v1/models
采用 OpenAI 的格式;请在 /p/jev/v1/models 列出上游模型。
System One API
POST /v1/systemone 是一个网关端点,而不是原始代理:它会应用虚拟模型、针对 state 的护栏、响应缓存、
故障转移、审计和用量统计,并以原生方式转发请求而不做转换。Kev 的 /v1/systemone/permute 和
/v1/systemone/separate 也以同样的方式工作。完整行为请参阅 System One API,
其中也包括同样以原生方式提供 Jev 的 OpenRouter。
其他所有上游路由都可以通过透传访问,但不经过虚拟模型、护栏或缓存:
上游错误会保留其状态码,提供商的响应体会包含在网关错误消息中:格式错误的问题会返回 TypeSafe 的
422,
并指出有问题的字段;429 或 529 表示需要退避后重试。
模型、访问控制与成本
GET /v1/models 会列出上游报告的内容,如 jev/jev-latest 等。TypeSafe 会列出其别名(jev-latest、
jev-preview);Kev 服务器会列出其检查点(kev-latest)及其响应的别名。jev-1.13.0 这类带版本号的 ID,
无论是否被列出,model 字段都会接受。这些模型被归类为没有生成模式的工具类模型:它们响应 /v1/decisions
和 /v1/systemone,而不响应聊天请求。基础 URL 为 TypeSafe 托管 API 的提供商会为其模型报告 vision 能力;
其他任何基础 URL 都会被视为 Kev 服务器,其模型报告 vision: false,GoModel 会拒绝向其发送图像请求。
每个 System One 请求都会指定其模型,因此 /v1/systemone 和透传接口都会像其他请求一样,
对其应用调用方的模型允许列表。
jev-1.13.0 这样的固定版本无需声明即可使用;关于未列出名称的路由方式,请参阅
模型。
响应中的 usage.input_tokens 和 usage.output_tokens 会被记录,因此 System One 调用会以实际响应的模型
(jev-1.13.0 或 Kev 检查点)出现在 Usage API 和控制台中。Jev 按输入 Token 计价,且不在上游模型目录中;
请在提供商上声明其定价以便为这些记录计算成本,或者在定价覆盖编辑器中进行设置: