NVIDIA випустила Personal AI Router
NVIDIA представила новий продукт Personal AI Router, який дозволяє створити особистий ШІ-кластер з комп'ютерів у локальній мережі. Це рішення підтримує різні операційні системи та вже доступне у бета-версії.
NVIDIA випустила Personal AI Router
PAIR дозволяє об'єднати комп'ютери в локальній мережі та перетворити їх на особистий ШІ-кластер.
Він автоматично знаходить ПК з RTX, DGX Spark та підтримувані Mac і надсилає запити на ту машину, де зараз є вільні ресурси. Тобто розподільник навантаження для ШІ-агентів прямо у вас вдома.
Можливості
- Запуск кількох ШІ-агентів паралельно.
- Розподіл інференсу між кількома відеокартами та комп'ютерами.
- Використання Ollama та LM Studio.
- Зберігання промптів, файлів та контексту агентів тільки у своїй мережі.
Підтримувані платформи
- Windows
- Linux
- macOS
PAIR вже доступний у бета-версії безкоштовно та з відкритим вихідним кодом.
Чому це важливо
АналітикаЦей продукт дозволяє користувачам ефективно використовувати ресурси своїх комп'ютерів для роботи з штучним інтелектом, що може значно підвищити продуктивність. Відкритий вихідний код також сприяє розвитку спільноти та інновацій у цій сфері.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками