Google Cloud представила нові ШІ-чипи TPU для конкуренції з Nvidia

Google Cloud представила нове покоління власних ШІ-чипів TPU, розділених на окремі сфери діяльності: для навчання та інференсу моделей.

Два типи TPU та зростання продуктивності

Компанія анонсувала чипи восьмого покоління, які отримали назви TPU 8t і TPU 8i. Перший призначений для навчання (training) моделей, другий — для інференсу (inference).

Google заявляє про втричі збільшену продуктивність нових чипів. Також на 80% зросло значення продуктивності на долар, що, відповідно, знизить витрати для клієнтів.

Компанія зазначає, що понад 1 мільйон TPU можуть працювати разом у межах одного кластера. Очікується, що це забезпечить більше обчислювальних ресурсів із меншим енергоспоживанням.

Співіснування з Nvidia та ринкова стратегія

Google підкреслює, що нові TPU не можуть повністю замінити Nvidia, а скоріше доповнюють інфраструктуру, яка вже використовує GPU.

Компанія також планує представити клієнтам нові чипи Nvidia Vera Rubin пізніше цього року. 

Подібну стратегію використовують і інші хмарні провайдери, зокрема Amazon і Microsoft. Аналітики зазначають, що власні чипи можуть зменшити залежність від Nvidia у майбутньому, однак наразі ринок залишається на боці компанії-гіганта.

Партнерство та інфраструктура

Google також співпрацює з Nvidia над оптимізацією мережевих рішень у своїй хмар —  розвиває програмну мережеву технологію Falcon, створену Google та відкрито опублікована у 2023 році.

Така співпраця має підвищити ефективність роботи систем на базі GPU у хмарній інфраструктурі.