Skip to main content

远程端点

远程端点可让您通过 AI Gateway 控件将外部或自托管模型服务器连接到 SecureAI。 当您的组织运行自己的模型基础架构并且仍然需要集中式安全治理时,这非常有用。

在哪里配置

转至 管理 → AI 网关 → 远程端点。

注册选项

  • 快速安装:生成单命令安装流程的引导向导。
  • 手动注册:
    • 粘贴 JSON
    • 手动输入字段

连接模式

  • 反向连接:建议大多数部署使用;出站连接,没有打开的入站端口。
  • Cloudflare Tunnel:使用隧道令牌和主机名的零信任连接。

日常运营

对于每个端点,管理员可以:
  • 运行健康检查
  • 运行验证 mTLS
  • 检查端点详细信息(区域、指纹、型号、上次检查)
  • 退役时删除端点

建议的入职流程

  1. 从快速安装开始。
  2. 选择连接模式。
  3. 选择需要的型号。
  4. 完成注册。
  5. 运行运行状况检查并验证 mTLS。
  6. 5 到 10 分钟后确认端点保持健康。

故障排除清单

  • 端点无法访问:验证连接模式和主机名值。
  • TLS 通过但不健康:检查远程网关/模型服务状态。
  • 未连接:确认远程服务正在运行且注册有效。

最佳实践

  • 首选反向连接,除非您的架构需要隧道模式。
  • 保持组织/团队明确的端点所有权。
  • 策略或密钥更改后重新检查端点运行状况。