Компания Perplexity перевела вычисления AI-агентов с облака на локальное железо

Perplexity выпустила Portable Computer для Windows. Главное отличие устройства от обычных AI-сервисов — перенос вычислений с облачных серверов на локальное железо пользователя. За работу нейросетей отвечают видеокарты NVIDIA RTX.

Для пользователя это меняет привычный сценарий взаимодействия с AI-агентами. Вместо оплаты подписок или покупки облачных кредитов за каждый запрос, обработка данных происходит внутри системы. Это решает две прикладные задачи: повышает приватность, так как данные не покидают устройство, и убирает зависимость от стабильности интернет-соединения при выполнении сложных задач.

Технически решение опирается на архитектуру NVIDIA RTX, которая ускоряет вычисления и рендеринг в реальном времени. Это делает устройство подходящим для разработчиков и исследователей, которым нужно запускать AI-модели локально, не передавая свои наработки на внешние серверы.

Основным компромиссом при выборе такого решения становится необходимость владения мощным оборудованием: скорость и качество работы AI-агентов теперь напрямую зависят от характеристик установленного GPU, а не от тарифа облачного сервиса.