Компания работает над специализированным процессором Frozen v2, в который Gemini будет интегрирован в архитектуру. Это должно значительно уменьшить потребление энергии и затраты на эксплуатацию модели
Системные платы, память, чипсеты025 минут назад
Google создает специализированный серверный процессор Frozen v2, где модель Gemini не будет загружаться в оперативную память, а станет частью самого чипа. Согласно информации от The Information, такая конструкция может увеличить энергоэффективность в 6–10 раз по сравнению с текущими ускорителями Google.
Компания на данный момент не подтвердила проект официально, а его возможное появление прогнозируется не ранее 2028 года.
Современные ускорители искусственного интеллекта остаются универсальными: модель хранится в памяти, а процессор постоянно обменивается с ней данными в процессе работы. В случае Frozen v2 структура нейронной сети Gemini будет «интегрирована в кремний». Обновления будут касаться только весов модели — параметров, полученных в процессе обучения, в то время как архитектура останется неизменной. Степень интеграции в аппаратную часть пока еще определяется.
Основная задача такого подхода — эффективность. По сведениям The Information, новый процессор сможет обрабатывать в 6–10 раз больше токенов (единиц, используемых большими языковыми моделями) на единицу потребляемой энергии, чем текущие специализированные чипы Google.
Frozen v2 рассматривается как отдельная линейка процессоров, которая дополнит, а не заменит существующие TPU.
Разработка также вызвана нехваткой вычислительных ресурсов внутри Google. Дефицит мощностей уже стал настолько значительным, что Google Cloud была вынуждена отказать некоторым внешним клиентам. Чем ниже энергопотребление и выше производительность одного чипа, тем дешевле становится обслуживание миллиардов запросов к ИИ, и тем меньше серверов требуется для аналогичной нагрузки.
Похожую концепцию уже продвигает стартап Taalas, который разрабатывает чипы с «заранее зафиксированной» архитектурой и весами модели. Однако у такого подхода есть и минус: искусственный интеллект развивается очень стремительно, и аппаратное решение, предназначенное для сегодняшней архитектуры версии Gemini, к моменту выхода может оказаться устаревшим. В то время как Google подтверждает только то, что проводит эксперименты с высокоэффективными вычислительными решениями, Frozen v2 остается проектом, о котором известно лишь из публикаций в СМИ.
Darth SaharaИсточники:the next webСистемные платы, память, чипсеты0Искусственный интеллектпроцессорыGoogleGeminiПолупроводникиTPUДата-центры25 минут назад
Источник