AWS Bedrock
AWS Bedrock 是亚马逊云科技的托管基础模型服务,把 Anthropic Claude、Meta Llama、Mistral、Cohere、Stability、Amazon Nova 等模型统一在一个 AWS 入口。TT API 作为 AWS Advanced Partner,所有调用直接走 Bedrock 官方接口、不存中转副本。本文讲清楚 Bedrock 是什么、TT API 暴露了哪些模型、为什么这条路径对你重要。
一、AWS Bedrock 是什么
一句话定义
Bedrock 是 AWS 的全托管基础模型服务(Foundation Models as a Service)——通过统一的 API 调用多家厂商的大模型,模型权重 / 推理 / 安全 / 计费全部由 AWS 托管。
它解决了什么问题
直接对接 Anthropic、Meta、Mistral 等厂商,你需要:
- 分别申请企业账户、过 KYC
- 维护多套 API Key、多份 SLA、多个限速策略
- 自建合规审计链路(数据存储 / 处理位置 / 隐私协议)
Bedrock 把这些复杂度统一收口到 AWS:
- 一个 AWS 账户 —— 全部模型一套 IAM 控制
- 一份合规 —— AWS 兜底 SOC 2 / HIPAA / GDPR 等
- 一条审计链路 —— CloudTrail 统一日志,不在多家厂商之间拼
二、可用模型矩阵
通过 Bedrock 直连的模型按厂商分组(持续更新):
| 厂商 | 模型 | 适用场景 |
|---|---|---|
| Anthropic | Claude Opus 4 / Sonnet 4 / Haiku 4 / 3.5 全系列 | 长上下文、推理、代码、Agent |
| Meta | Llama 3.1 / 3.2 / 3.3 系列(含 405B) | 开源生态、本地微调备选 |
| Mistral | Mistral Large / Codestral / Pixtral | 欧洲合规、代码、多模态 |
| Cohere | Command R / Command R+ | 检索增强(RAG)、企业摘要 |
| Amazon | Titan Text / Titan Embeddings / Nova | 嵌入向量、轻量推理 |
| Stability | Stable Diffusion 系列 | 图像生成 |
说明: 同一模型在 Bedrock 上和厂商原生 API 上的行为完全一致——版本号、token 计数、API 参数、输出格式都按官方文档对齐。
三、为什么"走 Bedrock"对你重要
1. 模型来源可追溯
Bedrock 的模型权重由厂商直接交付到 AWS,不经任何第三方分发。你调一个 Claude Opus 4,得到的就是 Anthropic 训练的那一份;调 Llama 3.1,得到的就是 Meta 发布的那一份。
2. 不存在"上游网关加价"
不少第三方网关从模型厂商或一级代理拿 token,加 5–30% 的"渠道费"再卖给你。我们走 Bedrock 直连,和 AWS 官方价格挂钩,没有中间商赚差价。
3. 数据落地清晰
Bedrock 调用的输入和输出留在 AWS 网络内,不会进入未授权的第三方环境。哪个 region 处理、是否进训练(默认不)、加密策略,全部按 AWS 标准合约执行。
4. 模型上新更快
Anthropic / Meta 发新模型,通常几天内同步上 Bedrock。我们对接 Bedrock 后,新模型在你的控制台同步可见,不需要等我们再补集成。
常见疑问
和直连 Anthropic / Meta 官方 API 相比,差什么?
功能一致。Bedrock 模型版本号、参数、行为和厂商官方完全对齐。差别在你不用维护多家厂商账户、不用处理多套合规材料,一个 AWS 账户、一份账单、一套 IAM 就能用全部模型。
Bedrock 上的 Claude 和 api.anthropic.com 上的 Claude 是同一个吗?
是。同模型版本号 = 同模型权重。Anthropic 把模型发布到 Bedrock 和自家 API 时使用的就是同一份权重文件,可以从 Anthropic 官方文档查证。
会不会比官方 API 慢?
不会。Bedrock 在 AWS 内调 Anthropic / Meta 等的 inference endpoint 走的是 AWS 内网,延迟通常比公网更稳。我们的网关节点和 Bedrock 同 region 部署,端到端表现和官方公网 API 持平甚至更优。
模型上新延迟多久?
厂商发布到 Bedrock 通常是同步或几天内。Bedrock 上线后,我们一般当天或次日在控制台开放给所有用户。具体新模型 ETA 可以在控制台「公告」栏查看。