Ігрова відеокарта вашого комп’ютера тепер може виступати в ролі штучного інтелекту. Компанія Perplexity, відома своїми інноваційними розробками у сфері штучного інтелекту, розширює доступність свого продукту Portable Computer, дозволяючи йому працювати безпосередньо на персональних комп’ютерах з відеокартами NVIDIA RTX. Це значно знижує порогову вартість використання потужних AI-агентів, роблячи їх доступними для ширшого кола користувачів.
Інтеграція AI на локальному рівні
Perplexity Portable Computer тепер інтегрується з операційною системою Windows за наявності сумісних відеокарт NVIDIA RTX. Це означає, що для запуску Portable Computer більше не потрібне дороге обладнання, таке як NVIDIA DGX Spark, що коштує десятки тисяч доларів. Нове рішення відкриває двері до використання цих технологій не лише на спеціалізованих системах DGX Spark, але й на комп’ютерах, що працюють під управлінням Linux.
Переваги локального виконання AI-завдань
Ключовою перевагою Perplexity Portable Computer є його здатність працювати повністю на пристрої користувача. Це досягається завдяки встановленню AI-моделей, інструментів та самого агента безпосередньо на комп’ютер. Такий підхід забезпечує два значні дивіденди:
- Безпека даних: Користувачі можуть делегувати завдання AI-агенту, не турбуючись про конфіденційність, оскільки обробка даних відбувається локально.
- Економія коштів: Завдання, що виконуються на пристрої, не потребують витрат на токени, що робить їх значно економічнішими у довгостроковій перспективі.
Хоча Portable Computer підтримує можливість використання хмарних моделей для виконання більш складних робочих процесів, він запитує дозвіл користувача перед передачею завдань на зовнішні сервери. Це забезпечує користувачеві повний контроль над процесом.
Технічні вимоги та доступність моделей
Для функціонування Perplexity Portable Computer потрібна відеокарта RTX з мінімальним обсягом відеопам’яті (VRAM) у 24 ГБ. Це означає, що користувачі повинні мати такі моделі, як RTX 3090, 3090 Ti, 4090, 5090, або професійні робочі станції, такі як RTX Pro 4000, RTX A5000 або RTX Pro 6000. Хоча ці відеокарти не є доступними за ціною, вони значно дешевші за комплексні рішення типу DGX Spark.
Наразі Perplexity Portable Computer підтримує локальне виконання моделей Qwen 3.8 27B та його доопрацьованої версії PPLX 27B. Ці моделі доступні лише для систем NVIDIA DGX Spark. Користувачі комп’ютерів з Linux або Windows та сумісними RTX GPU можуть використовувати локально лише Qwen 3.8. Однак, Perplexity активно працює над додаванням підтримки моделі NVIDIA Nemotron 3.5 Lightning як для Linux, так і для Windows.
Оригінал статті: www.androidauthority.com