Google готує чип Frozen v2 для прискорення ШІ-моделі Gemini

·218 слівредакція
Google готує чип Frozen v2 для прискорення ШІ-моделі Gemini

Google розробляє новий серверний чип Frozen v2, який інтегруватиме елементи моделі Gemini безпосередньо в апаратне забезпечення для підвищення ефективності обробки даних.

Компанія Google, що входить до холдингу Alphabet, працює над створенням нового чипа для серверів. Пристрій, який отримав робочу назву Frozen v2, має на меті інтегрувати окремі компоненти ШІ-моделі Gemini у фізичну архітектуру чипа. Це дозволить пришвидшити та здешевити надання послуг на основі штучного інтелекту.

Очікується, що Frozen v2 допоможе вирішити проблему дефіциту обчислювальних потужностей, яка спричинила внутрішню напругу в компанії та змусила Google Cloud відмовлятися від угод із зовнішніми клієнтами. Зокрема, Google наклала обмеження на використання своїх моделей компанією Meta, оскільки соціальна мережа запросила більше ресурсів, ніж міг надати конкурент.

За попередніми оцінками, новий чип може бути у 6–10 разів ефективнішим за актуальні спеціалізовані процесори Google, якщо вимірювати кількість токенів, що обробляються на одиницю енергії. Впровадження Frozen v2 заплановане на 2028 рік, однак інженери ще доопрацьовують конструкцію та визначають обсяг даних про модель, які будуть вбудовані безпосередньо в чип.

«Наші команди постійно досліджують і експериментують з новими інноваціями... Спільно розробляючи наше апаратне та програмне забезпечення з нуля, ми гарантуємо, що наші системи є інтегрованими та високооптимізованими», — заявив представник Google Cloud.

Проект Frozen передбачає створення окремої лінійки власних чипів, відмінної від тензорних процесорних блоків (TPU), а не їхню заміну.

Читайте також