Представлено Ironwood — новий чип Google для прискорення ШІ

Мирослав Трінько - 9 квітня, 18:00

Google представила новий чип для ШІ-прискорення під назвою Ironwood на своїй конференції Cloud Next. Це вже сьоме покоління TPU (Tensor Processing Unit) від компанії, і він перший, оптимізований для інферентних ШІ-моделей. Чип буде доступний для клієнтів Google Cloud цього року у двох конфігураціях: кластер з 256 чипів та кластер з 9216 чипів.

Ironwood забезпечує потужність до 4614 TFLOPs, має 192 ГБ виділеної пам’яті ОЗП із пропускною здатністю до 7,4 Тбіт/c. Він також включає вдосконалене спеціалізоване ядро SparseCore, яке розроблене для обробки специфічних даних. Архітектура чипа спрямована на мінімізацію руху даних і затримок на чипі, що допомагає знижувати енергоспоживання.

Ironwood стане важливою частиною стратегії Google щодо інтегрування ШІ у свої сервіси. Чип буде інтегрований з AI Hypercomputer — модульним кластером обчислювальних ресурсів у Google Cloud, що дозволить ще ефективніше обробляти великі обсяги даних для ШІ.

Google анонсувала Ironwood на фоні збільшення конкуренції в галузі ШІ-прискорювачів. Хоча NVIDIA має лідерство на ринку, інші компанії, такі як Amazon і Microsoft, також активно розвивають власні рішення. Amazon пропонує процесори Trainium, Inferentia і Graviton через свою платформу AWS, а Microsoft має свій чип Cobalt 100 для ШІ, доступний через Azure.

Google підкреслює, що Ironwood є найбільш потужним і енергоефективним TPU на сьогодні, і його архітектура дозволяє ефективно запускати інферентні ШІ-моделі.