NVIDIA выпустила Personal AI Router
NVIDIA представила новый продукт Personal AI Router, который позволяет создать личный ИИ-кластер из компьютеров в локальной сети. Это решение поддерживает различные операционные системы и уже доступно в бета-версии.
NVIDIA выпустила Personal AI Router
PAIR позволяет объединить компьютеры в локальной сети и превратить их в личный ИИ-кластер.
Он автоматически находит ПК с RTX, DGX Spark и поддерживаемые Mac и отправляет запросы на ту машину, где сейчас есть свободные ресурсы. То есть распределитель нагрузки для ИИ-агентов прямо у вас дома.
Возможности
- Запуск нескольких ИИ-агентов параллельно.
- Распределение инференса между несколькими видеокартами и компьютерами.
- Использование Ollama и LM Studio.
- Хранение промптов, файлов и контекста агентов только в своей сети.
Поддерживаемые платформы
- Windows
- Linux
- macOS
PAIR уже доступен в бета-версии бесплатно и с открытым исходным кодом.
Почему это важно
АналітикаЭтот продукт позволяет пользователям эффективно использовать ресурсы своих компьютеров для работы с искусственным интеллектом, что может значительно повысить производительность. Открытый исходный код также способствует развитию сообщества и инновациям в этой области.
Обсудить в сообществе
Діліться своїм досвідом та думками з ШІ-розробниками