Генеральный директор OpenAI Сэм Альтман заявил, что у компании закончились графические процессоры
OpenAI испытывает дефицит GPU, что привело к задержке запуска модели GPT-4.5. Сэм Альтман сообщил, что компания планирует добавить десятки тысяч GPU на следующей неделе и предоставить доступ к GPT-4.5 подписчикам тарифа Plus.
Генеральный директор OpenAI Сэм Альтман (Sam Altman) сообщил, что компания столкнулась с нехваткой графических процессоров (GPU), что вынудило ее поэтапно запускать новую модель GPT-4.5. По словам Альтмана, дефицит вычислительных мощностей стал причиной задержек в предоставлении доступа к модели для пользователей.
В своём сообщении на X Альтман отметил, что GPT-4.5, которую он назвал «гигантской» и «дорогостоящей», требует «десятков тысяч» дополнительных GPU, чтобы расширить доступ для пользователей ChatGPT. Первыми доступ к модели, начиная с четверга, получат подписчики ChatGPT Pro, а на следующей неделе пользователи ChatGPT Plus.
Как отмечает TechCrunch, модель GPT-4.5 оказалась крайне затратной, что, вероятно, связано с её большими размерами. OpenAI установила цену в $75 за миллион токенов (~750 000 слов), поданных на вход модели, и $150 за миллион токенов, сгенерированных моделью. Это в 30 раз дороже по входным данным и в 15 раз дороже по выходным данным по сравнению с базовой моделью GPT-4o.
«Мы значительно выросли, но теперь остались без GPU, — написал Альтман. — На следующей неделе мы добавим десятки тысяч GPU и начнём развёртывание для уровня Plus. Это конечно не тот способ, который нам нужен для работы, но сложно точно предсказать всплески роста, которые приводят к нехватке GPU», — добавил он. Альтман также подчеркнул, что текущая ситуация не соответствует планам компании, однако является следствием непредвиденного спроса.
Ранее Альтман уже говорил о том, что недостаток вычислительных мощностей тормозит развитие продуктов OpenAI. В ближайшие годы компания намерена решить эту проблему, разрабатывая собственные чипы для искусственного интеллекта и создавая масштабную сеть дата-центров, чтобы обеспечить стабильный доступ к своим технологиям.
Источник: TechCrunch
