NVIDIA выпустила PAIR для распределения локальных ИИ-задач между домашними ПК
Бесплатная бета-утилита объединяет доступные вычислительные ресурсы компьютеров в локальной сети для работы с Ollama и LM Studio. PAIR распределяет независимые запросы, но не складывает видеопамять и не делит один запрос между несколькими машинами.
NVIDIA представила Personal AI Router (PAIR) — программный инструмент для распределения задач локального ИИ между компьютерами в домашней сети. Бета-версия уже доступна для Windows, Linux и macOS.
PAIR рассчитан прежде всего на агентные сценарии: если основной ИИ-агент разбивает задачу на несколько независимых подзадач, утилита может отправить их на разные свободные компьютеры, а затем вернуть результаты в исходное приложение. Это должно уменьшить очередь запросов, которая возникла бы при работе всех подзадач на одном GPU.
Утилита работает как прокси для совместимых интерфейсов Ollama и LM Studio, поэтому приложениям не требуется отдельная интеграция с новым API. Каждый подключаемый компьютер должен иметь установленный PAIR и поддерживаемый движок инференса. Системы обнаруживаются через mDNS; предусмотрен и вариант с указанием IP-адреса. Для подключения используется шестизначный код, а обмен между машинами защищается mTLS.
PAIR учитывает, доступен ли узел в сети, запущен ли на нём поддерживаемый движок, есть ли нужная модель, а также текущую загрузку системы и GPU. Если владелец компьютера начинает играть или запускает ресурсоёмкую программу, PAIR должен перестать направлять новые задачи на эту машину. Участники могут подключаться к кластеру и выходить из него по мере появления свободных ресурсов, поэтому постоянная производительность такого объединения не гарантируется.
NVIDIA отдельно подчёркивает ограничение подхода: PAIR не превращает несколько видеокарт в единый ускоритель. Программа не объединяет их VRAM, не распределяет одну модель между компьютерами и не разбивает единичный запрос инференса на части. Вместо этого она маршрутизирует независимые задания на подходящие узлы.
Среди заявленного оборудования — GeForce RTX 20-й серии и новее, системы DGX Spark и другие устройства на GB10, а также Mac с чипами Apple M4 и новее. В NVIDIA также говорят, что наиболее типичный сценарий для PAIR — связка ноутбука Mac или Windows с игровым ПК. Исходный код утилиты компания намерена распространять по лицензии Apache 2.0.