Не зря многие компании разрабатывают собственные CPU
Несколько лет рынок ИИ активно развивался, используя GPU ускорители для ИИ, основанные на подобных архитектурах. Однако сейчас, похоже, всё начинает упираться не в такие чипы, а в процессоры. К примеру, Amazon утроила количество CPU в своих серверах, и ей всё равно не хватает.
Согласно данным Semianalysis, развитие именно агентных моделей ИИ и продуктов на их основе резко взвинтило спрос на процессоры. Точнее, в них появилась дополнительная нужда, так как GPU и им подобные ускорители для ИИ используются в целом лишь для обучения.
В итоге, как мы уже говорили, Amazon не хватает CPU, несмотря на то, что она использовала их втрое больше, чем в прошлом году. Microsoft уже продала все свои запасы CPU компаниям Anthropic и OpenAI. Кроме того, огромный спрос уже вызвал нестабильность в базах данных, таких как GitHub. Многие пользователи сообщают о перебоях в работе, и в большинстве случаев не удаётся зафиксировать изменения. Напомним, эта платформа принадлежит Microsoft, а Microsoft продала все свои запасы CPU.
Также сообщается, что, если раньше на условные 100 МВт мощности GPU приходился лишь 1 МВт мощности в CPU, а то и меньше, то сейчас показали намного ближе друг к другу.
