想跑 AI 模型,第一步就被劝退:一张 RTX 4090 的单卡工作站整机 $5,500 起,A100/H100 级别的服务器直接六位数。租呢?$0.34/小时就能用上一张 4090——跑一下午 Stable Diffusion 的钱还不够买一张显卡的包装盒。这篇把 2026 年 GPU 算力租用的平台、实价和坑一次讲清,帮你回答”租还是买”和”在哪租”两个问题。
先说结论:绝大多数个人和小团队,租永远比买划算。AI 硬件两年一代(Ampere→Hopper→Blackwell),自购的卡还在折旧,租的随时能换新架构。什么时候该买?7×24 高强度用满、数据敏感不能出本地、或者你就是想折腾——除此之外,先租后买。
先分清三种”GPU 服务器”
搜”GPU VPS”的人想买的东西其实分三种,价格逻辑完全不同:
| 形态 | 是什么 | 适合 | 典型价格 |
|---|---|---|---|
| GPU 云实例 | 一台带整卡 GPU 的云服务器,SSH 进去当普通机器用 | 训练、微调、长时间开发 | $0.27-0.74/时(24G 卡) |
| GPU 切片 | 一张物理卡虚拟切给多个用户(如 1/4 张 A16) | 轻量推理、虚拟桌面 | $0.06-0.5/时 |
| Serverless 推理 | 把模型做成 API,按调用计费,没流量就缩到零 | 上线 AI 应用、流量波动大 | $0.69-4.55/时(按实际运行) |
下面讲的平台大多三种都覆盖。注意:GPU 租用和普通 VPS 是两个圈子——之前写VPS 性能测试怎么看里那套 Geekbench 跑分在 GPU 这里不管用,看的是 DLPerf 这类深度学习实测吞吐。
价格核心表:一张卡到底多少钱一小时
以下价格核实于 2026 年 10 月(RunPod 官方 8 月刊例 + Vast.ai 市场实时价),同一张卡差价可以到 3-4 倍,全看你在哪租:
| GPU(显存) | Vast.ai 市场最低 | RunPod 社区云 | RunPod 安全云 | 适合干什么 |
|---|---|---|---|---|
| RTX 3090(24G) | $0.10 | $0.22 | $0.50 | 学习、SD 出图、小模型 |
| RTX 4090(24G) | $0.16(按需约 $0.28) | $0.34 | $0.74 | SD/ComfyUI、7B 模型 LoRA |
| RTX 5090(32G) | $0.37 | $0.69 | $0.99 | 进阶出图、14B 推理 |
| A100(80G) | $0.31 起 | $1.19 | $1.59 | 13B 微调、正经训练 |
| H100(80G) | $1.68(SXM) | $1.99(PCIe) | $2.89 | 70B 级训练、生产推理 |
| H200(141G) | $2.63 | $3.59 | $4.59 | 大模型高吞吐推理 |
怎么读这张表:24G 显存够跑 Stable Diffusion、ComfyUI 和 7B-14B 模型的量化推理,所以 3090/4090 是个人用户的甜点位;80G 以上的 A100/H100 是训练和严肃推理的入场券。显存不够,模型根本装不下——这是选卡的第一约束,比算力优先。
平台逐个说
RunPod——均衡之选,按秒计费
RunPod 是目前产品形态最全的:Pod 实例(按秒计费)、Serverless 推理端点(没流量自动缩到零,冷启动 200ms 内)、多卡训练集群都有,官方模板把 vLLM、ComfyUI、Ollama 一键装好,一分钟出环境。价格分两档:安全云是自营 T3/T4 机房(4090 $0.74/时),稳定有保障;社区云是第三方宿主(4090 $0.34/时),便宜一半但没有 SLA——跑批任务无所谓,上生产别省这个钱。
两个注意点:一是停了的 Pod 存储照样收费(网络卷 $0.07/GB/月,500GB 模型仓库一个月约 $35),模型权重放网络卷里复用是省时间,但记得清理不用的卷;二是社区云宿主质量参差,知名评测机构 SemiAnalysis 给它标了 Bronze 档,说”开 Pod 像抽卡”——试几个宿主,找到稳的就固定用。
Vast.ai——最便宜的市场价,适合会挑的人
Vast.ai 是 P2P 算力市场:矿场、小机房、个人把闲置卡挂上去卖,价格互相卷,所以几乎永远是全场最低——4090 按需 $0.28 起、抢断式的 interruptible 实例 $0.16 起,3090 最低见过 $0.10。代价是你得自己挑宿主:看 DLPerf 跑分、宿主信誉评分、磁盘是 NVMe 还是 SATA,挑错了慢盘能让你怀疑人生。
它的 interruptible(可中断)实例能便宜 2-3 倍,但宿主随时可能把卡收回去——适合会写 checkpoint 的训练任务(每 30 分钟存一次进度,被抢了接着跑),不适合不能中断的推理服务。支付方式:信用卡(Stripe)和加密货币(BitPay 等),充值制,余额归零后实例停机、数据进入删除倒计时——这是它家官方文档明说的规则,务必设自动充值。
Vultr——独一份的 GPU 切片
主流云厂里 Vultr 是唯一把”切片 GPU”做成标准产品的:A16 可以按 1/2/4/8/16 张切片买($0.471/时起)、L40S 按 1/2/4/8 切、A100 PCIe 按 1/8 切——只想花几毛钱每小时跑个轻量推理或虚拟桌面,别家给不了这个粒度。整卡价格中等偏上(L40S $1.67、H100 SXM $2.30)。它家计费逻辑跟普通 VPS 一致、支持支付宝(以结算页为准),点此注册 Vultr,新用户有试用额度可以开一台切片 GPU 实测延迟再决定;Vultr 注册教程直接通用,Linux 线的底子可以看 Vultr 深度测评。注意它家 GPU 实例被明确排除在 100% 在线 SLA 之外,停机(Stop)的实例照常扣钱、必须销毁才停止计费——和普通实例同一套规则。
国内平台(AutoDL 等)——支付宝直付
如果只是跑 Stable Diffusion、做毕设、微调小模型,国内平台其实是最顺的路:AutoDL 按分钟计费,4090 约 2 元/小时(≈$0.29),A100 约 3.6 元/小时,支付宝微信直付,国内网络直连延迟低,还预装了 SD 专用镜像。短板是热门卡高峰期要排队(A100 配额紧张时排 1-2 小时),且 H100/B200 这类最新架构卡没有。海外平台需要国际信用卡或 PayPal(Vast.ai 另收加密货币),没有外币卡的话,国内平台不是退而求其次,而是顺理成章。
Lambda——贵一点,省心
Lambda 是学术圈出身的专业 GPU 云,H100 按需 $2.99 起,价格不占优,但环境配置省心(PyTorch/CUDA 全预装)、每月 1TB 流量免费。没有 Serverless 产品,适合专注训练的团队,个人用户可以不用考虑。
四个隐性成本坑
- 存储费停机照收:RunPod 网络卷 $0.07/GB/月、闲置卷 $0.20/GB/月;Vast.ai 在线状态的实例存储按秒计费。模型仓库动辄几百 GB,一个月躺着就烧几十美元——定期清理,权重集中放一个卷。
- 余额归零会删数据:Vast.ai 余额到 $0,实例停机、数据进入删除流程(老用户有缓冲期)——设好自动充值或者写个日历提醒。
- Interruptible 会被抢占:便宜 2-3 倍的代价是宿主随时收卡,训练务必写 checkpoint,重要任务别用。
- 流量出账(egress):Vast.ai 出流量约 $0.01/GB,RunPod 约 $0.05/GB,Lambda 每月 1TB 免费——大量拉取推理结果时,流量费能到总账单的 10-20%。
场景匹配:你该租什么
| 你在干什么 | 推荐配置 | 推荐平台 | 预算参考 |
|---|---|---|---|
| SD/ComfyUI 出图、玩 LoRA | RTX 4090(24G) | Vast.ai / RunPod 社区云 / AutoDL | $5-15/天(玩 4-8 小时) |
| 7B-14B 模型 LoRA 微调 | 4090 / A100 | RunPod / AutoDL | 一次微调 $2-8 |
| 70B 级训练 / 生产推理 | H100 / H200 | RunPod 安全云 / Lambda | $70+/天 |
| 轻量推理 / 虚拟桌面 | A16 切片 | Vultr | $0.06-0.24/时 |
| AI 应用上线(流量波动) | Serverless 端点 | RunPod Serverless | 按调用计费,空闲 $0 |
省钱四条
- 按秒计费的平台随手关机:RunPod/Vast.ai 都按秒算钱,跑去吃饭记得 stop(注意是销毁才不收存储费,前面说过);AutoDL 按分钟计费同理。
- 能 checkpoint 的任务用 interruptible/spot:半小时存一次进度,省钱 50% 起步。
- 推理上线用 Serverless 缩容到零:别为一天几十个请求包月一张整卡。
- 长期 7×24 满载考虑包月独服:真到了全天满负荷的场景,包月 GPU 独服折算下来能低到按需价的一半以下——但先算清利用率再下单。
算总账的思路和外贸独立站一年成本清单是一回事:单价乘以真实用量才是真成本,别被”一小时不到一块钱”晃了眼。如果你要租的是 Windows 环境(比如跑图形工作站),选型逻辑看Windows VPS 怎么选,授权费那个坑同样存在。
FAQ
Q:一张 4090 一小时到底多少钱?
市场价从 $0.16 到 $0.74 都有:Vast.ai 抢断式最低 $0.16、按需约 $0.28 起,RunPod 社区云 $0.34、安全云 $0.74。判断标准:学习和玩选便宜的(数据无所谓),跑长训练选贵的(稳定值钱)。全国 14 家平台的中位数约 $0.47。
Q:租一年和买一张,哪个划算?
粗算:4090 按 $0.34/时跑满一年 ≈ $2,980(约 ¥21,000),而一张 4090 显卡本身约 ¥1 万多——但没人跑得满。真实利用率 20%(每天 5 小时)的话,年租约 $620,远低于购机+电费+两年后过时的隐性亏损。利用率超过 50% 且长期不间断,才开始值得认真算买卡这笔账。
Q:有免费的 GPU 吗?
有:Google Colab 免费给 T4(16G),适合学习和验证,但每天限时、会随时断开、需要能访问 Google。Kaggle Notebook 每周约 30 小时免费 GPU。免费额度跑正经任务不现实,试代码够了。
Q:国内能用 RunPod / Vast.ai 吗?
能注册能连(Vast.ai 需要 VPN 的场景居多),核心障碍是支付:都要国际信用卡,Vast.ai 另支持加密货币。没有外币支付条件,直接用 AutoDL 这类国内平台,价格未必更贵(4090 约 2 元/时低于安全云),只是缺最新架构的卡。
Q:这种 GPU 服务器能当普通 VPS 用吗(建站/挂机)?
别。GPU 实例价格是普通 VPS 的 10-50 倍,而且很多平台不允许长期低利用率占用(资源等着给算力任务)。建站看搬瓦工这类传统商家就够,挂机场景看Windows VPS。GPU 钱要花在 GPU 上。
