新手第一次租 GPU 算力，这 5 个坑我替你踩了

去年刚入坑大模型那会儿租算力交了不少学费。今天把踩过的坑列出来省得你们再交一遍。坑一没算显存就下单最开始我以为 24G 显存怎么都够了结果本地 3090 跑 13B 微调直接 OOM报错报得心态崩。后来才搞明白不同任务吃的显存差很远小模型推理A10080G基本够使微调 13B 往上H100 这种更舒服真要搞大模型训练B200、B300 乃至顶配 GB300288G才够挥霍。下单前先估自己的显存账别等钱花了才发现带不动。坑二只看单价不看计费粒度有的平台按小时、有的按分钟单价看着差不多实际差很多。我是那种白天跑、晚上关的脉冲式用法按小时的平台我等于白付一晚上闲置费。后来换成按分钟计费的、没有最低消费的那类账单立刻友好不少。坑三忽视了开卡速度和环境有的平台选完镜像要等半天驱动和 CUDA 还得自己配光搭环境就耗掉大半天。现在我优先看分钟级起实例、环境预装好的ssh 上去nvidia-smi直接见卡省下的时间能多跑两轮实验。坑四型号不全换个任务换一家在一家只有 H100 的平台临时要跑个大显存训练只能干等。后来我固定用了一家型号铺得比较齐的——从 A100 一路到 GB300 都在origpu 这家不同项目不用来回换平台光记账号都少记好几个。挑平台时档位齐不齐比单卡便宜不便宜更实用。坑五好卡抢不到还没预案这两年好卡越来越紧俏不是一家的事。Blackwell 这代尤其明显GB300 基本预约制H100 热门时段库存也经常飘红。别临时抓瞎定好闹钟、看准库存就下手手慢真就没了。小结租算力没有标准答案先搞清楚自己的任务类型和用量节奏再去看卡。你们还踩过啥坑评论区交流一下互相排雷