RunPod

software price :Paid
company legal name :RunPod

概述

RunPod 是专为人工智能/ML 工作负载设计的云计算平台,为开发、训练和扩展人工智能模型提供 GPU 驱动的基础设施。它为运行 GPU 密集型任务提供了灵活、经济高效的解决方案。

快速概览卡

💰起价:$0.17/小时(社区云 RTX 3080)

⚡ 核心功能: GPU 云计算和无服务器人工智能基础设施

👥 最适合:人工智能开发人员、研究人员和运行 ML 工作负载的公司

⭐ 主要优势:具有成本效益的 GPU 访问与全球分布

核心功能

  1. GPU 云计算:访问分布在全球 30 多个地区的从 RTX 3080 到 H100 的各种 GPU
  2. 无服务器基础设施:自动扩展功能,冷启动时间小于 250 毫秒,作业队列高效
  3. 网络存储解决方案:高速 NVMe 固态硬盘存储,网络吞吐量高达 100Gbps
  4. 集装箱支持:部署任何 Docker 容器,支持公共和私有镜像库
  5. 全球分布:全球 30 多个地区,出入口零收费
  6. 实时分析:全面监控和分析端点性能和使用情况

优点和缺点

优点

  • 成本效益:与主要云提供商相比,价格明显更低
  • 图形处理器种类:从消费级到企业级的丰富 GPU 选择
  • 灵活性:支持按需和定点实例
  • 全球影响力:在全球 30 多个地区提供高速连接
  • 零额外费用:数据传输(入口/出口)不收取额外费用

缺点

  • 学习曲线:定制部署需要 Docker 知识
  • 视窗限制:目前不支持 Windows 工作负载
  • 存储限制:存储与 有潜在数据丢失风险的服务器
  • 有限退款政策:不提供退款或试用积分
  • 账户限额:新账户的初始支出限额

使用案例

  1. 人工智能模型训练:在高端 GPU 上执行长达 7 天的长期训练任务
  2. ML 推论:可自动扩展的推理端点
  3. 研究项目:为学术研究提供具有成本效益的 GPU 访问
  4. 开发环境:人工智能应用的快速原型和开发
  5. 生产部署:适用于生产工作负载的企业级基础设施

定价结构

云计算选项

安全云

  • 企业级基础设施
    • 位于 T3/T4 数据中心
    • 高可靠性和冗余性
    • 增强的安全功能
    • 高级支持

流行的 GPU 选项:

图形处理器模型规格价格/小时
H100 PCIe80GB vram,188GB 内存$3.29
A100 PCIe80GB vram,83GB 内存$1.69
L40S48GB vram,62GB 内存$1.19
RTX 409024GB vram,27GB 内存$0.69

社区云

  • 经济实惠的选择
    • 点对点 GPU 计算
    • 通过审查的供应商
    • 降低价格
    • 基本支持

流行的 GPU 选项:

图形处理器模型规格价格/小时
H100 PCIe80GB vram,188GB 内存$2.69
A100 PCIe80GB vram,83GB 内存$1.19
RTX 309024GB vram,24GB 内存$0.22
RTX 308010GB vram,15GB 内存$0.17

存储定价

  • 存储舱:
    • 运行舱:$0.10/GB/月
    • 闲置舱:$0.20/GB/月
  • 网络存储:
    • 1TB 以下:$0.07/GB/月
    • 超过 1TB:$0.05/GB/月

使用建议

  1. 小型项目和测试

    • 推荐:配备 RTX 3090/4090 的社区云
    • 最适合开发、测试和小规模推理
    • 经济实惠,性能卓越
  2. 生产工作量

    • 推荐:使用 A100/H100 的安全云
    • 最适合大规模训练和高通量推理
    • 企业级可靠性和支持
  3. 研究与学术

    • 推荐:社区云与 A100
    • 最适合研究项目和学术工作
    • 性能与成本的平衡
  4. 推理服务

    • 推荐:使用 L40/A100 的无服务器
    • 最适合可扩展的应用程序接口端点
    • 自动扩展,按使用付费

常见问题

如果资金用完了怎么办?

当资金不足以再运行 10 分钟时,Pod 会自动停止。容器磁盘数据会丢失,但卷数据会保留。

我的数据受保护吗?

是的,RunPod 采用多租户隔离。安全云可增强敏感工作负载的安全性。

我可以运行自己的 Docker 守护进程吗?

不,RunPod 会为您管理 Docker。通过模板支持自定义容器。

按需实例和现货实例有什么区别?

按需实例提供专用、不间断的资源,但成本较高;而定点实例价格较低,但只需提前 5 秒钟通知即可中断。

Zachary Chang
Zachary Chang

RunPod 评论

4.0