Skip to content

注册模型与管理 API Key ​

模型网关 - 模型管理页

平台统一管理大模型调用——「模型管理」定义模型与上游凭证,「API Key 管理」控制预算、限流、归属。

本页讲两个任务:注册一个新模型 和 管理 API Key。

注册一个新模型 ​

当你需要让智能体能调用某个新模型(如刚开通的 qwen-max、新接入的私有部署模型)时。

前提条件 ​

  • 拥有「模型管理」的编辑权限
  • 已拿到上游供应商所需的凭据;Azure OpenAI 还需要资源地址和 API 版本,AWS Bedrock 需要区域与 AWS 访问凭据

操作步骤 ​

  1. 单击顶部工具栏的运营控制台进入运营控制台,在左侧菜单单击模型管理。

  2. 单击右上角新建模型按钮。

  3. 在基本信息区域填写:

    • 模型:模型名称,作为智能体选择模型的标识(如 qwen-max)。编辑时不可改。仅支持英文字母、数字和 . _ - : /,不支持中文与空格;首尾空格会被自动去掉。
    • 模型类型:选择模型的用途——对话(智能体对话与内容生成,默认)、向量(生成文本向量,供知识库检索使用)、重排序(知识库检索结果重排序,仅部分供应商提供)。不可用的用途会随供应商自动禁用。
  4. 在模型服务区域依次配置供应商、模型和连接信息:

    • 单击供应商输入框打开选择器。可在常用供应商中直接选择,也可按海外主流、国产、本地/自建、自定义兼容端点、高级分类浏览,或搜索「百炼」「DashScope」「Kimi」等名称与别名。
    • 单击卡片只会暂存选择,确认使用此供应商后才回填表单。切换供应商会清空旧供应商的连接字段和上游模型,请重新填写新供应商要求的凭据。
    • 常用供应商依次为:阿里云百炼(通义千问)、DeepSeek、OpenAI、Anthropic、火山方舟(豆包)、智谱 GLM、硅基流动、Google Gemini、Moonshot(Kimi)、MiniMax、Azure OpenAI、AWS Bedrock。OpenAI/Anthropic 兼容端点、Ollama、vLLM、LM Studio 和高级自定义入口仍可分类选择。
    • 上游模型:填写供应商提供的真实模型 ID。对话模型可从常用模型建议中选择,也可直接输入模型 ID;列表不代表供应商的全部可用模型。Azure OpenAI 填写 deployment name。
    • API Key / API 地址:按供应商要求填写。智谱 GLM、硅基流动等供应商会回填默认 API 地址,可按实际接入地址修改;自定义兼容端点必须填写 API 地址。
    • Azure OpenAI:填写 API Key、资源地址和 API 版本。
    • AWS Bedrock:填写 AWS 区域、Access Key ID、Secret Access Key;使用临时凭据时再填写 Session Token,不需要通用 API Key。
    • 自定义(高级):从受支持列表中选择供应商标识,再填写对应连接参数。

    新建模型

    选择模型供应商

  5. 如需填写,在高级选项中设置上下文长度(模型支持的最大上下文 token 数,填写后可加快首次响应)。

  6. 可直接单击测试连接检查当前草稿,或单击创建保存。保存后平台会自动做一次实际调用检查;检查失败不会撤销已保存的模型,页面会以警告说明原因。

模型名称只能用英文字母、数字和 . _ - : /

模型名称会贯穿整条调用链路,因此只接受上面这组字符(1–128 个),中文、全角字符和空格都会被拒绝。输入不合法时,输入框下方会立即提示,无法保存。

已经用中文名称创建过的模型不会自动改名:需要新建一个英文名模型(上游配置照抄),在智能体定义里把模型切换到新模型并重新部署,确认对话正常后再删除旧模型。

测试模型连接 ​

保存模型后,在列表对应行单击测试连接;新建或编辑模型的弹窗中也可以直接测试,无需先保存。弹窗按当前填写的配置测试(未保存的修改同样生效),因此需要填好上游模型和该供应商要求的凭据。编辑时不会读取已保存的密钥,草稿测试前需重新输入本次要验证的凭据。测试后如果继续修改供应商、模型、用途或连接参数,旧结果会失效,需要重新测试。

测试使用的接口由模型类型决定:选「向量」调向量接口,选「对话」或「重排序」调对话接口。模型类型只以界面选择为准,不按模型名称判断。

  • 对话模型:验证对话接口是否可用。
  • 向量模型:真实调用向量接口并校验返回内容。测试通过时显示向量维度和耗时;接口不兼容、凭证无效或模型不可用时显示失败原因,便于在创建知识库前发现问题。

多上游模型

同一个 model_name 配置了多个上游时,测试验证的是该模型的调用链路,不代表对某一条指定上游的精确验证。

预期结果 ​

  • 模型管理表格出现新行,显示模型名称、模型类型、上游模型和供应商;旧版本创建的模型未记录类型,类型列显示"—",编辑保存后即可补上
  • 该 model_name 可在智能体定义的模型配置中选择

多上游负载均衡(高级) ​

要让 gpt-4o 这个模型在多个上游(如 openai 官方 + azure 备用)之间负载均衡:

  1. 注册第一条:model_name=gpt-4o,上游 gpt-4o,填 openai 的 key
  2. 再注册第二条:model_name=gpt-4o(同名),上游 gpt-4o,填 azure 的 key
  3. 系统自动在两条间做负载均衡与故障转移

两条 deployment 的 model_name 必须逐字符一致(同样只能用英文字母、数字和 . _ - : /)。

注册视觉(图片识别)模型 ​

智能体识别用户上传的图片(如发票、报销单、证件)时,需要一个多模态模型(能同时 理解文字与图片的模型)。注册方式与普通对话模型相同:

  1. 按上文步骤创建模型,模型类型选「对话」。
  2. model_name 填模型名称(如 deepseek-v4-flash-vision-exp),上游模型填供应商 提供的多模态模型 ID,api_key / api_base 照常填写。
  3. 智能体定义的模型配置中选择该模型即可。

TIP

识别图片前请确认已注册视觉模型;未配置时智能体的图片识别功能会提示暂时无法完成, 对话等其他能力不受影响。

补充模型价格 ​

模型管理表格会展示每个模型的输入价格和输出价格两列(单位 USD / 1M tokens):

  • 上游模型 ID 能被系统内置价格表识别的(如 gpt-4o、deepseek-chat),价格自动显示
  • 自定义名称(如火山引擎 Ark 部署的 deepseek-v4-flash-260425)系统查不到,对应单元格显示红色「未配置」标签,此时模型调用成本在用量分析页会记为 0

补充价格的步骤:

  1. 找到「未配置」的行,单击编辑价格。
  2. 填写输入价格和输出价格(USD / 1M tokens,6 位小数精度,可只填一项)。
  3. 单击确认。

补充价格后立即生效——新的调用会按补充后的价格计算成本。历史调用记录不会回填,保持原值(如果之前是 0 就仍是 0)。

编辑时不改凭据的约定 ​

编辑模型时,API Key、AWS 访问凭据等敏感字段留空表示保持原值,已保存的凭据不会回显。普通连接字段留空会按当前表单保存;切换供应商后,需要重新填写新供应商要求的凭据。

管理 API Key ​

API Key 管理页

API Key 是系统签发的虚拟密钥,不是上游供应商的原始 Key。Key 在创建智能体实例时由系统自动签发(每实例最多 10 个),本页只做监控与管理。

前提条件 ​

  • 拥有「API Key 管理」权限

查看某 Agent 用了多少 Token ​

  1. 在运营控制台左侧菜单,单击API Key 管理。

  2. 顶部三个统计卡片:总数 / 正常 / 已封禁。

  3. 在关键字搜索框输入 Agent 名,回车。

  4. 表格按 Agent 名过滤,看对应行的已花费列(¥ 计价,4 位小数)。

给某 Agent 设预算上限 ​

  1. 找到该 Agent 的 Key 行,单击编辑。

  2. 填写:

    • max_budget:最大预算(美元,2 位小数,如 10.00)
    • budget_duration:预算周期(如 1mo = 1 个月,到期自动重置)
    • rpm_limit:每分钟请求数上限(如 60)
    • tpm_limit:每分钟 Token 数上限(如 100000)
    • duration:Key 过期时间(可选)
  3. 单击保存。

预期结果 ​

  • 该 Key 的「预算」列显示 $10.00 / 1mo
  • 超出预算或限流时,调用会被系统拒绝(返回 429)

临时禁用某 Key ​

当某 Key 疑似泄露或需要临时停用时:

  1. 找到该 Key 行,单击封禁(带确认弹窗)。
  2. 状态变为「已封禁」,调用会被拒绝,但 Key 保留可恢复。

恢复:单击解禁,状态回到「正常」。

永久删除 Key ​

不可恢复

吊销会永久删除 Key,不可恢复。建议优先用「封禁」(可恢复)。

  1. 找到该 Key 行,单击吊销(带确认弹窗)。
  2. 二次确认后,Key 永久删除。

Key 作用域 ​

每个 Key 同时有两个归属:

  • 实例归属(metadata.instance_id):Key 属于哪个智能体实例
  • 用户组归属(team_id):Key 属于哪个用户组(default = 平台默认)

按用户组筛选时,选某个组只会列出 team_id = 该组 ID 的 Key。

后续步骤 ​

基于内网部署的企业级 AI 智能体平台