For AI agents: the complete documentation index is available at https://aioproxy.dev/zh/llms.txt, the full documentation bundle is available at https://aioproxy.dev/zh/llms-full.txt, and this page is available as Markdown at https://aioproxy.dev/zh/index.md.
  • 简体中文
  • 开源 · 本地优先的模型网关

    所有模型,​所有客户端,一个端点。

    AIO Proxy 位于你的工具与模型提供商之间。继续使用现有的 SDK 和编程 Agent,接入 API Key 或你已经订阅的服务,一个本地二进制即可获得智能路由、自动故障转移与完整请求链路。

    $brew install aio-proxy/tap/aio-proxy
    • Claude Code
      anthropic
    • Codex
      openai-response
    • Cursor
      openai-compatible
    • Gemini SDK
      gemini
    AIO Proxypassthrough
    • Anthropic
    • ChatGPT Pro
    • GitHub Copilot
    • OpenRouter
    • Google Gemini
    种入站 API 协议
    7
    个内置订阅插件
    10
    同协议透传开销
    <1 ms
    行客户端代码需要修改
    0

    协议

    客户端说什么语言,都不用改。

    OpenAI、Anthropic、Gemini 客户端访问同一个端点。上游协议一致时字节流直接透传;协议不同时,AIO Proxy 自动转换消息、工具调用、推理内容与流式输出。

    客户端协议

    anthropicopenai-response

    跨协议转换

    经由 AI SDK 模型消息映射,工具调用、思考内容、多模态输入与 SSE 分片双向转换。

    上游协议

    另支持:Embeddings、Realtime(WebRTC / WebSocket)、图像与音频

    路由与故障转移

    流量自己找路,失败自己恢复。

    只需请求一个模型名。AIO Proxy 找出所有提供该模型的 Provider,高优先级层先试,同层内按权重分摊流量,失败就自动切到下一个,直到成功。

    POST /v1/messagesmodel:claude-sonnet-4-6
    1. 1
      claude-team
      优先级 100 · weight 3
    2. 2
      anthropic-key
      优先级 100 · weight 1
    3. 3
      openrouter
      优先级 0 · weight 1
      待命
    按模型匹配
    一个模型别名映射到多个上游。
    优先级分层
    高优先级先试,低优先级兜底。
    权重分流
    同一层级内按权重分摊流量。
    会话亲和
    长对话固定在同一个 Provider。
    ~/.aio-proxy/config.jsonc
    {
      "providers": {
        "claude-team": {
          "kind": "oauth",
          "plugin": "@aio-proxy/plugin-claude-code",
          "capability": "claude",
          "priority": 100, "weight": 3
        },
        "anthropic-key": {
          "kind": "api", "protocol": "anthropic",
          "baseURL": "https://api.anthropic.com/v1",
          "apiKey": "{{env.ANTHROPIC_API_KEY}}",
          "models": ["claude-sonnet-4-6"],
          "priority": 100, "weight": 1
        },
        "openrouter": {
          "kind": "oauth",
          "plugin": "@aio-proxy/plugin-openrouter",
          "capability": "openrouter"
        }
      }
    }

    Provider

    把已有的订阅,变成标准 API。

    通过 OAuth 登录一次,就能把 ChatGPT、Claude、Copilot 等订阅变成标准 API 端点,供本机所有工具共享。

    Agent 与客户端

    一条命令接好你的编程 Agent。

    aiop agent 自动识别已安装的 Agent,注入 Provider 配置并签发专属本地令牌,无需在各种配置文件之间复制 Base URL。

    原生支持 Codex、Grok Build、OpenCode、Pi 与 OMP
    会话迁移附带回滚日志
    移除时不动你的个人偏好

    其他工具——Claude Code、Cursor、Cline、Cherry Studio 或你自己的 SDK 代码——只需改一个 Base URL。

    $ aiop agent configure codex
    ✓ Detected Codex CLI 0.42 · profile ~/.codex
    ✓ Injected provider "aio-proxy" into config.toml
    ✓ Issued local agent token (rotates automatically)
    ✓ Migrated 38 sessions · rollback journal saved
    $ aiop agent list
    codex connected opencode connected
    grok connected pi not installed

    可观测性

    每个请求去了哪、花了多少,一目了然。

    内置 Dashboard 记录每一次请求与每一次 Provider 尝试:状态、延迟、Token 与费用,需要时展开完整链路。

    请求数
    12,480+18%
    成功率
    99.7%+0.4%
    Token
    48.2M+22%
    费用
    $31.06−9%
    模型Provider状态延迟Token费用
    claude-sonnet-4-6claude-team2001.8 s14.2k$0.071
    gpt-5chatgpt-pro2002.4 s9.8k$0.000
    claude-sonnet-4-6anthropic-key2000.9 s3.1k$0.016
    gemini-2.5-progoogle2001.2 s6.4k$0.021
    gpt-5-miniopenrouter5020.3 s——
    链路 · claude-sonnet-4-6
    inbound · anthropic
    route · 3 candidates
    claude-team · 429
    anthropic-key · stream
    first token
    将链路导出到任意 OpenTelemetry 后端

    快速开始

    一分钟内跑起来。

    1. 1

      安装

      单个二进制,支持 Homebrew、Bun 或 curl。

      $ brew install aio-proxy/tap/aio-proxy
    2. 2

      运行

      启动 API 服务并打开 Dashboard。

      $ aiop run --open
    3. 3

      接入客户端

      替换 Base URL,模型名保持不变。

      $ export OPENAI_BASE_URL=http://127.0.0.1:9317/v1

    别再手动切换 Key、端点和 SDK 了。

    免费开源,运行在你自己的机器上。