[问与答] 求一個完全解耦的 ai infra 基礎設施。難點在 gpu 資源租賃

摘要

一位开发者想把架构彻底解耦：代码在 VPS、数据在 S3、GPU 在云端，三者分处不同国家和机房，只走公网。难点是 GPU 按需租用、用完即停而数据盘保活，以压低视频生成、漫画上色这类偶发任务的开发期开销；目前 GPU 与数据盘必须来自同一供应商，限制了多机集群等设计。