Perplexity та NVIDIA презентували Portable Computer для локального ШІ
Компанії Perplexity та NVIDIA анонсували Portable Computer, який працює повністю на локальному пристрої. Джерело: AIN.UA
Цей інструмент дозволяє користувачам здійснювати роботу з приватними кодами та конфіденційними даними без необхідності передавати їх у хмару.
Особливості Portable Computer
Portable Computer забезпечує можливість запуску ШІ-моделей безпосередньо на комп'ютері, а також обробки локальних файлів. Система здатна:
- аналізувати дані;
- узагальнювати вміст документів;
- шукати інформацію у файлах та коді;
- виконувати складні робочі завдання.
Усі дані користувача залишаються на його пристрої. Якщо для виконання завдання потрібна інформація з інтернету, система може запитати дозвіл на передачу частини роботи у хмару.
Portable Computer також інтегрується з Google Drive, Gmail, Slack і GitHub, що дозволяє локально аналізувати повідомлення та файли.
Для розпізнавання голосу використовується модель NVIDIA Nemotron 3.5 ASR Model, а всі аудіо та дії залишаються на комп'ютері.
Технічні характеристики
Portable Computer функціонує на базі NVIDIA DGX Spark з моделями Qwen 3.8 27B або PPLX 27B. У планах Perplexity — додати NVIDIA Nemotron 3.5 Lightning з 30 млрд параметрів.
Основна інфраструктура системи, включаючи планувальник завдань та локальний пошуковий індекс, працює на пристрої. Наразі доступна версія для Linux, підтримка Windows з'явиться пізніше. Також планується адаптація для комп'ютерів з графічними процесорами NVIDIA RTX.
Portable Computer доступний для передплатників Perplexity Pro і Max, які використовують NVIDIA DGX Spark.