Каждый раз, когда вы вводите запрос в ChatGPT, спрашивая рецепт блюда, рекомендацию по ТВ-шоу или решение для домашней работы, OpenAI тратит на обработку деньги. Но сколько именно? Поддержание работы генеративного чат-бота AI может стоить технологической компании до миллиона долларов в день.
The Information сообщает, что, частично из-за огромных затрат на эксплуатацию ChatGPT, считается, что OpenAI увеличил свои убытки вдвое до примерно 540 миллионов долларов в прошлом году. Стоит отметить, что эти цифры основаны на оценках аналитиков, а не на свежих финансовых отчетах, поэтому их нельзя считать на 100% точными. Однако мы знаем, что среди самых больших расходов — огромные ежедневные инфраструктурные издержки и то, что компания завлекает топ-специалистов из Google и Apple.
Согласно недавнему отчету, для выполнения миллионов ежедневных запросов на ChatGPT от OpenAI требуется огромная вычислительная мощность. Отмечается, что генеративный чат-бот обходится компании от 700 тысяч до 1 миллиона долларов в день.
Дилан Патель, главный аналитик SemiAnalysis, сообщил The Information, что большая часть расходов связана с "дорогостоящими серверами, которые необходимы для работы", и что эти оценки основаны на модели GPT-3, а не на текущей GPT-4, которую использует OpenAI. Так что эти данные, возможно, довольно консервативны, учитывая стоимость каждого запроса GPT-4.
Отметим, что эти оценки были даны до запуска платного премиум-сервиса ChatGPT Plus от OpenAI, который появился в этом году. Этот сервис обеспечивает быстрый ответ на запросы и приоритет в часы пик. OpenAI ожидает получить 200 миллионов долларов от продаж в этом году и прогнозирует 1 миллиард на следующий год, что может помочь компенсировать часть огромных затрат и, возможно, даже выровнять дефицит.
Дженсен Хуанг, энтузиаст ИИ и генеральный директор Nvidia (которая зарабатывает на продаже GPU, обеспечивающих работу дорогостоящих серверов), недавно предсказал, что будущие модели ИИ потребуют еще больше мощности в течение следующих десяти лет. Глава Nvidia также заявил, что вскоре стоит ожидать появления "фабрик ИИ по всему миру", обеспечивающих работу различных ИИ-технологий.
Это означает, что недавние инвестиции Microsoft в размере 10 миллиардов долларов в OpenAI оказались как нельзя кстати. Согласно отчету, генеральный директор OpenAI Сэм Альтман также думает о привлечении до 100 миллиардов долларов в ближайшие пару лет.
Чтобы помочь снизить эти издержки, Microsoft сотрудничает с AMD над созданием собственного внутреннего ИИ-чипа. Этот новый чип может появиться в следующем году и должен быть более экономичным, чем использование GPU Nvidia для запуска ИИ-моделей.