部署
LLM 网关
LLM 网关 这一页讲的,就是 LLM 网关 这件事在 Claude Code 里到底怎么用。
页面信息
这页不是官方原文,而是顺着官方文档结构做的中文解释版。命令、参数、配置名这些硬东西尽量保留,解释部分则尽量讲成人能照着做的话。
如果你碰到特别敏感的配置、权限或企业环境差异,最好顺手点上面的“查看原始文档”再核一遍。
这一页先讲明白
LLM 网关适合需要统一认证、审计、限流、计费的团队。
不是人人都需要,但大团队很常见。
你可以把网关理解成总闸口。所有请求都先过它,再统一分发、记账、限速。
对多团队共用和合规管控特别有用。
如果只有一两个人自己用,先别急着上网关。
一旦多团队共用、需要统一审计,网关价值就会很明显。
Documentation Index
这里不是让你背"Documentation Index"这个词,而是让你看它真干活时怎么使。
这里还牵扯作用域,意思就是这条规则到底管当前项目、你个人,还是只管这一趟会话。
Gateway requirements
这里不是让你背"Gateway requirements"这个词,而是让你看它真干活时怎么使。
Configuration
这一段主要是在把"Configuration"讲实,不是只摆个标题给你看。
Model selection
看到这里,就把"Model selection"当成一件真要上手的活来看。
这里还牵扯作用域,意思就是这条规则到底管当前项目、你个人,还是只管这一趟会话。
LiteLLM configuration
看到这里,就把"LiteLLM configuration"当成一件真要上手的活来看。
看这段时要特别盯工具和权限边界,别为了省事一把全开。
Prerequisites
这一块主要是在说"Prerequisites"真到手上该怎么用,哪里最容易踩坑。
Basic LiteLLM setup
这一段是在把 Claude Code: 配起来、配稳当。你主要盯住在哪儿改、怎么写、改完怎么看它真生效。
这里还牵扯作用域,意思就是这条规则到底管当前项目、你个人,还是只管这一趟会话。
Basic LiteLLM setup 1
光知道意思还不够,这里得把规矩落进配置里,下面这块照着填。
# Set in environment
export ANTHROPIC_AUTH_TOKEN=sk-litellm-static-key
# Or in Claude Code settings
{
"env": {
"ANTHROPIC_AUTH_TOKEN": "sk-litellm-static-key"
}
} Basic LiteLLM setup 2
真到动手的时候了,下面这条直接敲一遍,看它回什么。
#!/bin/bash
# ~/bin/get-litellm-key.sh
# Example: Fetch key from vault
vault kv get -field=api_key secret/litellm/claude-code
# Example: Generate JWT token
jwt encode \
--secret="${JWT_SECRET}" \
--exp="+1h" \
'{"user":"'${USER}'","team":"engineering"}' Basic LiteLLM setup 3
光知道意思还不够,这里得把规矩落进配置里,下面这块照着填。
{
"apiKeyHelper": "~/bin/get-litellm-key.sh"
} Basic LiteLLM setup 4
下面这块是这一段最值钱的原文样板,先对着看一眼。
# Refresh every hour (3600000 ms)
export CLAUDE_CODE_API_KEY_HELPER_TTL_MS=3600000 Basic LiteLLM setup 5
下面这块是这一段最值钱的原文样板,先对着看一眼。
export ANTHROPIC_BASE_URL=https://litellm-server:4000 Basic LiteLLM setup 6
下面这块是这一段最值钱的原文样板,先对着看一眼。
export ANTHROPIC_BASE_URL=https://litellm-server:4000/anthropic Additional resources
这一段主要是在把"Additional resources"讲实,不是只摆个标题给你看。
照着做一遍
这页属于“LLM 网关”这类活,最稳的办法还是一小步一小步来。
下面这三步不一定华丽,但通常最不容易绕晕。
第 1 步:先起步
如果只有一两个人自己用,先别急着上网关。
第 2 步:边做边看
一旦多团队共用、需要统一审计,网关价值就会很明显。
一眼看懂这一页
这页的作用,就是把原本偏专业的话题,拆成能直接照着走的明白话。
LLM 网关
|
v
LLM 网关 这一页讲的,就是 LLM 网关 这件事在 Claude Code 里到底怎么用。
|
v
照着步骤去做 文末提醒
这站会按官方 docs 的导航和内容变化继续重生成,原站加页、删页、改页时,这里会跟着更新。
人话解释会尽量顺着原页往下讲,但命令、参数名、配置名这些硬东西还是保留原样,免得你抄过去跑不起来。