[SMM: Вспышка вычислительных мощностей] RTX 4090 24 ГБ: цены на сделках упали до 7 000 юаней, приближаясь к нижним рыночным котировкам.

SMM стало известно, что облачный провайдер имеет в наличии 32 сервера H100 с 8 GPU во Внутренней Монголии, а ежемесячная стоимость аренды составляет 80 тыс. юаней за единицу. Кроме того, кластер из 64 единиц H100 в Синьцзяне планируется запустить в начале августа, сдаётся целиком без разделения. Рыночные источники сообщают, что текущие спотовые котировки на H100 в основном находятся в диапазоне 75–80 тыс. юаней за единицу в месяц, и предложение остаётся ограниченным. Однако диапазон заявок регионального оператора на аренду H100 составляет лишь 65–68 тыс. юаней за единицу в месяц, что создаёт значительный отрыв от рынка. Поставщики, как правило, неохотно принимают заказы и обычно не работают с операторами.

Поставки A100-80G на споте ограничены: один провайдер услуг умных вычислений сообщает об отсутствии товара. На рынке появились два предложения: 32 единицы «почти спот» в восточном Китае (доставка 2 недели, сеть InfiniBand, контракт на 3 года) по 38 000 в месяц за единицу; 32 единицы спот в Цзянсу (закрытый контракт на 3 года, надёжные контрагенты, депозит за месяц и аренда за месяц) по 31 500 в месяц за единицу. Разброс цен между котировками значительный, и аналитики SMM предполагают, что это может быть одна партия товара, циркулирующая через нескольких посредников. Со стороны клиента предложение по годовому закрытому контракту составляет лишь 30 000 в месяц за единицу — очевидный разрыв с ценами предложения. Провайдер указал, что переключил фокус на токены и модели и сейчас не имеет спроса на аренду оборудования.

Компания по технологиям обработки данных недавно провела переговоры о сотрудничестве в области вычислительных мощностей. В рамках предложенной модели совместного использования токенов партнёр предоставит вычислительные мощности, а компания обеспечит клиентов и настройку моделей, имея выход на крупную ИИ-компанию. Начальное требование к объёму составляет 200 миллионов TPM в минуту, и партнёрство в основном продвигает модель GLM 5.2. Партнёр заявил, что производительность GLM на отечественных вычислительных мощностях в настоящее время тестируется. Компания по технологиям обработки данных сообщила, что отдаёт приоритет картам NVIDIA, но может использовать и отечественные. По имеющейся информации, высокопроизводительные ресурсы NVIDIA в настоящее время ограничены и в основном связаны контрактами с полной арендой и гарантиями.