Skip to main content

云服务提供商集成

Careti 支持主要的云服务提供商，如 AWS Bedrock 和 Google 的 Cloud Vertex；您团队当前使用的任何一家都是合适的，无需更换提供商来利用 Careti 的功能。

本文档假设您的组织将使用基于云的前沿模型。云推理提供商提供尖端功能和选择最适合您需求的模型的灵活性。

某些场景可能需要使用本地模型，包括处理高度敏感数据、需要一致低延迟响应的应用程序，或遵守严格的数据主权要求。如果您的团队需要使用本地模型，请参阅使用 Careti 运行本地模型。

AWS Bedrock 设置指南​

IAM 安全最佳实践（适用于管理员）​

使用 API 密钥设置 AWS Bedrock​

使用传统 IAM（AWS 凭证）设置 AWS Bedrock​

使用 CLI 配置文件设置 AWS Bedrock​

VPC 端点设置​

为了保护团队的数据，Careti 支持 VPC（虚拟私有云）端点，它在您的数据和 AWS Bedrock 之间创建私有连接。AWS VPC 通过消除对公共 IP 地址、网络网关或复杂防火墙规则的需求来增强安全性——本质上为数据创建了一条完全绕过公共互联网的私有高速公路。通过将流量保持在 AWS 的私有网络内，团队在访问 AWS Bedrock 或自定义 API 等服务时还可以从更低的延迟和更可预测的性能中受益。对于处理机密信息或在医疗保健或金融等高度监管行业中运营的人员，VPC 在云服务的可访问性和私有基础设施的安全性之间提供了完美的平衡。

  1. 参考 AWS 指南创建 VPC 端点。此文档指定先决条件并描述用于创建 VPC 端点的语法。
  2. 按照在 AWS 控制台中创建 VPC 端点的指示进行操作。下图涉及上面链接的 AWS 指南的第 4 步和第 5 步。
VPC 控制台
  1. 记录您的 VPC 端点的 IP 地址，打开 Careti 的设置菜单，并从 API 提供商下拉菜单中选择 AWS Bedrock。
  2. 勾选 使用自定义 VPC 端点 复选框并输入您的 VPC 端点的 IP 地址
VPC 设置菜单