Время выделения серверных мощностей на базе CPU в Amazon Web Services увеличилось до нескольких дней
Процессоры108:27
В мае Amazon Web Services выпустила уведомление для своей инженерной команды, настоятельно призывая их бережно относиться к вычислительным ресурсам CPU. Эта информация стала доступна СМИ только сейчас.
Срок выделения серверных мощностей на базе CPU внутри Amazon Web Services для внутренних задач инженеров действительно возрос с нескольких часов до нескольких дней. Это связано с растущим дефицитом вычислительных ресурсов на фоне бумного спроса на ИИ и агентские системы. Один инженер отметил, что с такой задержкой он никогда ранее не сталкивался в своей карьере.
Чтобы расставить приоритеты в вычислительных мощностях для внешних клиентов, AWS постепенно отключает виртуальные серверы, которые ранее использовались для разработки программного обеспечения и теперь недоиспользуются. Это еще больше сократило ресурсное пространство внутренних команд, что привело к значительному увеличению времени ожидания в очереди приложений.
Поскольку дефицит графических процессоров все еще не решен, центральные процессоры стали новым узким местом. Главная причина этой волны нагрузки на CPU — стремительное распространение приложений с ИИ-агентами. Консалтинговая компания Elendil Labs, специализирующаяся на ИИ, утверждает, что средние ИТ-расходы на одного клиента удвоились, и в связи с широким внедрением ИИ-агентов почти все задачи требуют больше ресурсов ЦП, чем ранее.
Процессоры (CPU) по-прежнему незаменимы в процессе разработки ИИ; во время обучения моделей и подготовки данных процессорам необходимо считывать необработанные данные из файлов и изображений. Анализ показывает, что агентам ИИ часто требуется доступ к большему объему облачных ресурсов, чем раньше, при выполнении задач, что создает постоянную нагрузку на процессоры.
Заявления производителей чипов подтверждают эту тенденцию. Генеральный директор Intel Чен Ливу заявил в апреле, что соотношение использования CPU и GPU в сценариях вывода ИИ составляет примерно 1:4. По состоянию на июль финансовый директор Intel отметил, что это соотношение быстро сократилось почти до 1:1.
Руководители AMD и Arm недавно сделали аналогичные заявления, указав на то, что рост спроса на процессоры превысил ожидания отрасли.
JinИсточники:mydriversПроцессоры108:27
Источник