RunPod
software price ：Paid
company legal name ：RunPod
概述
RunPod 是專為 AI/ML 工作負載所設計的雲端運算平台，可為 AI 模型的開發、訓練和擴充提供 GPU Powered 的基礎架構。它為執行 GPU 密集型任務提供靈活且具成本效益的解決方案。
快速概覽卡
💰起：$0.17/小時 (社區雲 RTX 3080)
⚡ 核心功能： GPU 雲端運算與無伺服器 AI 基礎架構
👥 最適合：AI 開發人員、研究人員和執行 ML 工作負載的公司
⭐ 主要優勢：具成本效益的 GPU 存取與全球分佈
核心功能
- GPU 雲端運算:可使用從 RTX 3080 到 H100 的多種 GPU，分佈於全球 30 多個地區
- 無伺服器基礎架構:自動擴充功能，冷啟動時間小於 250 毫秒，並提供高效的作業佇列功能
- 網路儲存解決方案:高速 NVMe SSD 儲存設備，網路吞吐量高達 100Gbps
- 貨櫃支援:部署任何 Docker 容器，支援公共和私有影像儲存庫
- 全球分銷:全球超過 30 個地區，進出零費用
- 即時分析:全面監控與分析端點效能與使用情況
優點與缺點
優點
- 成本效益:與主要雲端供應商相比，價格顯著較低
- GPU 種類:從消費級到企業級的廣泛 GPU 選擇
- 彈性:支援隨選與即時實體
- 全球覆蓋:全球 30+ 個地區提供高速連線
- 零額外成本:資料傳輸（入口/出口）不收取額外費用
弊端：
- 學習曲線:需要 Docker 知識以進行自訂部署
- 視窗限制:目前不支援 Windows 工作負載
- 儲存限制:儲存與 算 有潛在資料遺失風險的伺服器
- 有限退款政策:不提供退款或試用點數
- 帳戶限額:新帳戶的初始消費限額
使用案例
- AI 模型訓練:在高階 GPU 上執行長達 7 天的長時間訓練任務
- ML 推論:具備自動調整功能的可擴充推理端點
- 研究項目:學術研究中具有成本效益的 GPU 存取
- 開發環境:AI 應用程式的快速原型製作與開發
- 生產部署:適用於生產工作負載的企業級基礎架構
定價結構
雲端運算選項
安全雲端
- 企業級基礎架構
- 位於 T3/T4 資料中心
- 高可靠性與備援
- 增強的安全功能
- 高級支援
熱門 GPU 選項：
| GPU 機型 | 規格 | 價格/小時 |
|---|---|---|
| H100 PCIe | 80GB vram、188GB 記憶體 | $3.29 |
| A100 PCIe | 80GB vram、83GB 記憶體 | $1.69 |
| L40S | 48GB vram、62GB 記憶體 | $1.19 |
| RTX 4090 | 24GB vram、27GB 記憶體 | $0.69 |
社區雲端
- 經濟實惠的選擇
- 點對點 GPU 運算
- 通過審核的提供商
- 更低的價格
- 基本支援
熱門 GPU 選項：
| GPU 機型 | 規格 | 價格/小時 |
|---|---|---|
| H100 PCIe | 80GB vram、188GB 記憶體 | $2.69 |
| A100 PCIe | 80GB vram、83GB 記憶體 | $1.19 |
| RTX 3090 | 24GB vram、24GB 記憶體 | $0.22 |
| RTX 3080 | 10GB vram、15GB 記憶體 | $0.17 |
儲存價格
- Pod 儲存空間:
- Running Pods：$0.10/GB/月
- 閒置 Pods：$0.20/GB/月
- 網路儲存:
- 1TB 以下：$0.07/GB/月
- 超過 1 TB：$0.05/GB/月
使用建議
小型專案與測試
- 建議使用：社群雲搭配 RTX 3090/4090
- 最適合：開發、測試和小規模推理
- 經濟實惠且效能優異的選擇
生產工作量
- 推薦使用：使用 A100/H100 的安全雲端
- 最適合：大規模訓練和高通量推理
- 企業級的可靠性與支援
研究與學術
- 推薦：使用 A100 的社群雲
- 最適合研究專案和學術工作
- 效能與成本的平衡
推理服務
- 建議使用：使用 L40/A100 的無伺服器
- 最適合：可擴充的 API 端點
- 按使用量付費的自動調整功能
常見問題
如果我的資金用完了，該怎麼辦？
Pod 會在資金不足以繼續運行 10 分鐘時自動停止。容器磁碟資料會遺失，但卷冊資料會保留。
我的資料是否受到其他客戶的保護？
是的，RunPod 使用多租戶隔離。安全雲端為敏感的工作負載提供強化的安全性。
我可以執行自己的 Docker daemon 嗎？
不，RunPod 會為您管理 Docker。透過範本支援自訂容器。
On-Demand Instances 與 Spot Instances 有何差異？
On-Demand Instances 以較高的成本提供專屬、不中斷的資源，而 Spot Instances 則提供較低的價格，但只需提前 5 秒通知即可中斷。
