Replicate

Replicate 采用按推理期间消耗的 GPU 时间按秒计费的模式。您只需为实际使用的计算时间付费——模型未运行时不产生任何费用，无闲置成本。价格因 GPU 类型（A40、A100、H100 等）而异，并随模型复杂度变化。许多开源模型每次运行仅需几分之一美分，使探索和实验成本极为低廉。

Replicate 托管跨所有主要 AI 类别的数千个模型。图像生成：Flux、SDXL、Stable Diffusion 3、ControlNet。语言模型：Llama 3、Mistral、Mixtral、CodeLlama。音频：Whisper（转录）、MusicGen、AudioCraft、Bark（TTS）。视频：Stable Video Diffusion、AnimateDiff。视觉理解：BLIP-2、LLaVA。超分辨率：Real-ESRGAN。您也可以使用 Cog 部署自定义模型。

您可以使用 Cog（Replicate 的开源工具）部署自定义模型。Cog 让您在简单的配置文件中定义模型的输入、输出和依赖项，将 Python 代码和模型权重打包成标准化 Docker 容器。构建完成后，一条命令即可将容器推送到 Replicate，您的模型便获得专属 API 端点，享有自动 GPU 弹性伸缩、版本管理以及与平台公共模型相同的开发者体验。

适合。Replicate 支持生产级工作负载。对于波动性或间歇性流量，默认的无服务器推理会自动处理弹性伸缩。对于需要持续低延迟的应用，Replicate 提供专属部署模式——将选定模型始终保持在预留 GPU 上，确保随时响应、无冷启动延迟。您可以根据流量模式和 SLA 要求配置最小和最大副本数。

Replicate 以速度和简便性换取了部分成本效率。在自有云基础设施（AWS、GCP、Azure）上大规模运行模型通常在高流量下更便宜，但需要大量 DevOps 投入——GPU 配置、Docker 管理、自动扩缩容设置、监控等。Replicate 代为处理这一切。对于原型开发、早期产品或没有专职 ML 基础设施工程师的团队，Replicate 可大幅缩短上线时间。常见策略是：用 Replicate 快速验证，规模化后迁移至自托管。