Project Digits: що вміє перший персональний ШІ-суперкомп’ютер від Nvidia

На виставці CES 2025 у січні Nvidia представила перший персональний ШІ-суперкомпʼютер Project Digits. Новий продукт почне продаватись у травні 2025 року. Розробники стверджують, що його користувачі зможуть вдома або в офісі запускати потужні ШІ-моделі із сотнями мільярдів параметрів. Зараз така продуктивність в домашніх умовах недоступна. 

Розповідаємо про Project Digits детальніше. 

Що таке суперкомпʼютер

Суперкомпʼютер — це надшвидкий компʼютер, здатний виконувати велику кількість операцій за секунди. Такі компʼютери традиційно використовують більше одного центрального процесора (CPU), й ці процесори згруповані в обчислювальні вузли. Програмне забезпечення суперкомпʼютерів дозволяє ефективно паралелізувати обчислення.

Завдяки таким характеристикам, суперкомпʼютери використовують для наукових досліджень, наприклад, у біології. 

На що здатний Digits

Digits — це система з глибинного навчання алгоритмів штучного інтелекту на основі графічного процесора. Project Digits не має замінити універсальний компʼютер, він створений саме для запуску ШІ.

До складу Project Digits входитиме GB10 Grace Blackwell, суперчип від Nvidia, потужність якого досягає петафлопсу. Це означає, що він неймовірно продуктивний, адже здатний робити 1000 трильйонів (або один квадрильйон) обчислень на секунду. 

Project Digits. Джерело: Wired

Digits набагато потужніший за звичайний ПК та розрахований на дата-саєнтистів й дослідників у галузі ШІ. Його можна використовувати для створення прототипів, файнтюнінгу та запуску великих ШІ-моделей в умовах дому або офісу. 

Також суперкомпʼютер матиме графічний процесор на базі архітектури Nvidia Blackwell. На ньому буде доступно 128 ГБ уніфікованої пам’яті, й до 4 ТБ з накопичувачем NVMe SSD. Користувачі зможуть підключити його до Wi Fi і Bluetooth, а ще він матиме USB-вихід.

Що входить до Project Digits

Для порівняння, інший новий компʼютер для розробки ШІ-рішень, Jetson Orin Nano Super Developer Kit, має 8 ГБ вбудованої памʼяті. Його позиціонують як бюджетне рішення для стартапів й маленьких бізнесів. Його потужностей достатньо для створення ШІ-чатботів, візуальних ШІ-агентів й роботів з ШІ. 

Як пише Wired, Digits настільки потужний, що зможе запускати одну велику мовну модель із до 200 млрд параметрів (можливості бюджетного Jetson Orin Nano Super достатні для побудови моделі з 8 млрд параметрів). Два Digits, поєднані між собою, будуть здатні на запуск найпродуктивнішої opensource-моделі, що має 405 млрд параметрів. 

Користувачі Digits матимуть доступ до бібліотеки програмного забезпечення NVIDIA AI, щоб запускати власні експерименти та створювати прототипи.

Вартість Project Digits становитиме від $3000. Сервери зі схожою продуктивністю можуть коштувати в десять разів дорожче. 

Тобто, Project Digits для розробників ШІ-рішень — можливість повністю контролювати використання даних для навчання. З цим суперкомпʼютером їм вже не буде потрібно орендувати сервери в Amazon чи інших хмарних гігантів.