NVIDIA Personal AI Router 将 AI 任务分配到本地计算资源上

摘要

NVIDIA 推出 Personal AI Router（PAIR）测试版，把本地网络中多台机器的推理能力聚合成单一入口，自动分派请求，并兼容 Ollama、LM Studio，无需改动底层架构或代理框架。它面向本地多代理负载，官方演示中组合 RTX Spark、DGX Spark 与 RTX 5090 后耗时约为单台笔记本的一半，但 NVIDIA 强调这不构成性能保证，PAIR 也不会合并 GPU 或显存。