模型接入
调用地址、鉴权、模型列表、Messages、流式响应与 Token 计数。
接入前检查
确认软件许可有效、模型价表可用,至少有一个已启用且可用的账号 Token。调用来源应符合自己配置的模型接口 IP 白名单。
网关提供 Anthropic Messages 协议。OpenAI、Responses 或 Gemini 格式需由调用方的前置网关转换。
地址与鉴权
以下示例在 Bash 中执行,全部使用虚构材料。将 GATEWAY_URL 换成自己的站点,不包含末尾 /v1;Key 换成软件授权码或已保存的自定义 Key。
export GATEWAY_URL='https://gateway.example.com'
export GATEWAY_KEY='replace-with-your-gateway-key'支持 Anthropic 常用的 x-api-key 请求头。客户端如果自动追加 /v1/messages,基础地址填写网关源站;如果要求完整接口地址,则填写对应完整路径,避免重复 /v1。
查询模型
curl --fail-with-body "$GATEWAY_URL/v1/models" \
-H "x-api-key: $GATEWAY_KEY"使用返回的确切模型 ID。列表只包含网关已启用且可计价的模型;账号本身是否拥有模型权限,仍取决于实际账号。
普通 Messages 请求
先将下面的 MODEL_ID 替换为模型列表中的一个 ID。
curl --fail-with-body "$GATEWAY_URL/v1/messages" \
-H "x-api-key: $GATEWAY_KEY" \
-H 'anthropic-version: 2023-06-01' \
-H 'content-type: application/json' \
-d '{
"model": "MODEL_ID",
"max_tokens": 256,
"messages": [{"role": "user", "content": "请用一句话介绍自己。"}]
}'model、messages 和 max_tokens 是必要字段。普通 API 客户端须符合所选风控组的准入设置,参见 分组与风控。
流式请求
同一接口增加 "stream": true,客户端按 SSE 逐段读取。curl -N 关闭本地输出缓冲。
curl -N --fail-with-body "$GATEWAY_URL/v1/messages" \
-H "x-api-key: $GATEWAY_KEY" \
-H 'anthropic-version: 2023-06-01' \
-H 'content-type: application/json' \
-d '{
"model": "MODEL_ID",
"max_tokens": 256,
"stream": true,
"messages": [{"role": "user", "content": "请用一句话介绍自己。"}]
}'流开始后仍可能发生错误,客户端需要同时处理流内错误事件。用户取消时应关闭连接;连接中断、结果不明时,先查日志再决定是否重发。
Token 计数
curl --fail-with-body "$GATEWAY_URL/v1/messages/count_tokens" \
-H "x-api-key: $GATEWAY_KEY" \
-H 'anthropic-version: 2023-06-01' \
-H 'content-type: application/json' \
-d '{
"model": "MODEL_ID",
"messages": [{"role": "user", "content": "你好"}]
}'计数与实际生成是两个请求。Count Tokens 使用自己的限速规则,不要把计数次数当作生成用量。
指定分组
MODEL_ID → default
MODEL_ID|[default] → default
MODEL_ID|[production] → production一次只能选一个组。不存在的组会报错;自定义组没有可用 Token 时,不会自动借用其他组。发送到上游前会移除分组后缀。
Claude Code
在 Claude Code 的环境配置中将 API 地址指向自己的网关,并使用网关调用 Key。所选模型 ID 和风控组需要与网关中的配置一致。
客户端不同版本的配置方式可能不同;优先沿用该客户端支持的自定义 API 地址和鉴权设置,不把 OAuth 账号材料填入客户端网关 Key。