跳转到主要内容
使用自己的模型需要 Enterprise 方案。联系销售团队,咨询如何将其加入你的合同。只有当你的合同包含该功能时,AI model 部分才会显示在你的 dashboard 中。
默认情况下,Mintlify 会选择为 assistant 和 agent 提供支持的模型。要使用你自己的提供商账户运行特定模型,请提供 API 密钥并选择模型。随后,Mintlify 会通过你的提供商执行推理。 一份配置即可覆盖一个项目上的所有 AI 产品:assistant、agent 和自动化。 使用自己的模型仅作用于单个项目,而不是整个组织。如果你的组织有多个项目,请分别配置每一个。未配置的项目会使用 Mintlify 的默认模型。

支持的提供商

  • OpenRouter
  • Anthropic
  • OpenAI
  • Amazon Bedrock
无论使用哪个受支持的提供商,assistant、agent 和自动化都会使用你的密钥和你的模型。 每个提供商都支持一组固定的模型。模型菜单只会列出你所选提供商可用的模型。对于 Amazon Bedrock,可用模型取决于你选择的区域。

配置你的模型

编辑者和管理员可以配置模型。
  1. 选择要配置的项目。
  2. 前往 dashboard 中的 API 密钥页面。
  3. 在 AI model 部分,启用 Bring your own model。
  4. 选择一个提供商。如果选择 Amazon Bedrock,还需选择一个 Region。
  5. 选择一个 Assistant model。
  6. 可选:选择一个 Agent model,让 agent 和自动化使用不同的模型。如果留空,它们会使用 assistant 的模型。
  7. 输入你的提供商 API 密钥。
  8. 点击 Save。
Mintlify 会加密存储你的密钥,保存后不会再显示。

积分如何计算

在已启用 Bring your own model 的项目上,AI 用量不会消耗 Mintlify 的积分。你的提供商会直接向你收取推理费用,这些费用不会出现在你的 Mintlify 用量中。请在提供商处设置相应的支出限额。 积分汇集在组织级别。同一组织中的其他项目仍会按标准费率从这一共享余额中扣除 AI 用量。

终端用户标识符

Mintlify 在每次向 OpenAI、Anthropic 和 OpenRouter 发送请求时,都会附带终端用户的哈希标识符。如果你的提供商的安全系统检测到滥用流量,提供商可以只封禁该用户,而不是封禁你的整个 API 密钥。 该标识符是根据你的项目以及用户的 IP 地址、会话或 Mintlify 账户生成的 HMAC 哈希。它不包含原始 IP 地址、电子邮件或其他个人信息。同一用户在不同请求中获得相同的标识符,因此你可以在提供商的控制台中关联被标记的活动。

轮换或删除密钥

在同一项目上,Mintlify 会为同一提供商的不同模型复用你已保存的密钥。只有在轮换密钥、切换提供商或配置其他项目时,才需要重新输入密钥。 要轮换密钥,请在 API key 字段中输入新密钥,然后点击 Save。 要停止使用自己的模型,请禁用 Bring your own model。Mintlify 会删除为该项目存储的配置和密钥,其 AI 产品将恢复使用 Mintlify 的默认模型。该项目的 AI 用量随后会按标准费率消耗积分。其他项目会保留各自的配置。