HTTP_PROXY、HTTPS_PROXY 和 NO_PROXY 变量。这可以满足所有流量都必须经过企业出站代理的场景。
当只有部分提供商需要代理,或者不同提供商需要不同的代理时,请在提供商上设置 proxy_url。例如:访问在您所在地区被屏蔽的提供商、为某个提供商的允许列表提供固定的出站 IP,或者在其余流量保持直连的同时检查单个提供商的流量。
配置
仅通过环境变量配置的提供商,与其他所有提供商设置一样,使用提供商前缀和可选的实例后缀:config.yaml 中配置:
支持的代理
主机名始终在代理上解析,因此
socks5:// 和 socks5h:// 的行为完全相同。URL 由方案、主机、可选端口(默认为 80、443 或 1080)和可选凭据组成:带有路径、查询参数或片段的 URL 会在启动时和控制台中被拒绝。
规则
- 提供商的
proxy_url适用于该提供商发送的所有流量:模型发现、推理、流式传输、文件和批处理。 - 设置了
proxy_url的提供商会忽略HTTP_PROXY、HTTPS_PROXY和NO_PROXY。未设置的提供商保持进程级的行为。 - 无效的
proxy_url属于配置错误:启动时会跳过该提供商并记录一条指明其名称的日志,控制台也会拒绝保存。 - 代理凭据永远不会被记录到日志中。Admin API 和提供商状态显示的 URL 中,密码会被替换为
xxxxx。 - 连接按提供商进行池化,因此每个提供商都保持自己到其代理的 keep-alive 连接。
验证
提供商状态端点会报告每个提供商经过掩码处理的代理:带健康检查的代理池、代理之间的自动故障转移,以及一次覆盖多个提供商的分配规则,是 GoModel Pro 功能。