Следующее поколение больших языковых моделей DeepSeek, известное как V5, планируют предобучить на ускорителях Huawei Ascend 950. До сих пор китайские чипы в основном выполняли менее заметную работу: запускали модели DeepSeek, уже обученные на чужом оборудовании. Создавать модель на китайских чипах с самого начала — совсем другая задача, и куда более заметная.
Что именно утверждается
Суть заявления проста. DeepSeek планирует использовать линейку Ascend 950 для предобучения V5. Если эти планы реализуются, V5 станет первой крупной моделью компании, которую с самого начала будут предобучать на платформе Ascend.
Слово «если» здесь важно. В сообщении говорится о планах, а не о завершённом цикле обучения. В нём нет ни даты релиза, ни размера кластера, ни заявления от какой-либо из двух компаний. Так что пока перед нами намерение, к которому прилагается подробная спецификация.
Тем не менее направление ясно. В сообщении это подаётся как потенциально важный шаг к более широкому использованию китайского вычислительного оборудования для разработки ИИ. Это деликатный способ сказать, что запуск модели и её создание — разные испытания для чипа.
Инференс — простая часть задачи
Инференс — это выполнение уже существующей нейросети. Предобучение — создание самой этой сети. Чип, который хорошо справляется с первым, ещё не обязательно подходит для второго. Именно из-за этой разницы за планами по V5 стоит следить.
Это также объясняет, почему семейство Ascend 950 представлено двумя чипами, а не одним.
Два чипа, две задачи
В линейку Huawei Ascend 950 входят две модели: 950PR и 950DT. Обе используют третье поколение архитектуры Da Vinci и предназначены для больших моделей ИИ. Но задачи у них разные.
| Ascend 950DT | Ascend 950PR | |
|---|---|---|
| Основное назначение | Обучение и этап декодирования при инференсе | Этап prefill при инференсе |
| Память | 144 ГБ собственной HBM-памяти Huawei | 128 ГБ встроенной памяти |
| Пропускная способность памяти | 4 ТБ/с | 1,6 ТБ/с |
| Пропускная способность межсоединений | 2 ТБ/с | Не указана |
| Указанные числовые форматы | FP8, MXFP8, MXFP4 | FP4 (в показателе вычислительной производительности) |
| Заявленная вычислительная производительность | В 4 раза выше, чем у предыдущего поколения: MXFP4 против BF16 | 1784 TFLOPS в FP4 |
Для V5 важна именно 950DT, поскольку эта модель предназначена для обучения. Она оснащена собственной HBM-памятью Huawei. На эту деталь стоит обратить внимание: это означает, что речь о китайском производстве идёт не только применительно к процессору, но и к памяти.
950PR — специализированная модель. Она рассчитана на этап prefill при инференсе и ради этой роли жертвует частью объёма памяти и пропускной способности.
Осторожнее с показателем «в 4 раза»
Заявляется, что производительность 950DT в формате MXFP4 в четыре раза выше, чем у предыдущего поколения в BF16. Это сравнение двух разных числовых форматов, а не одного и того же формата на чипах двух поколений.
Это вполне может быть правдой и отражать реальное преимущество в поддерживаемых чипом форматах пониженной точности. Но такое сравнение не говорит, насколько новый чип быстрее на той же задаче и в том же формате. В сообщении нет таких сопоставимых данных. То же касается и показателя 1784 TFLOPS в FP4 для 950PR: это заявленная характеристика, а не результат измерений.
Какие вопросы остаются открытыми
Не хватает нескольких деталей — именно тех, которые превратили бы план в новость:
- Подтверждение. В сообщении говорится о планах предобучать V5 на Ascend 950, но не сказано, началось ли предобучение.
- Масштаб. Нет информации о том, сколько ускорителей будет задействовано и как они будут объединены в сеть.
- Результаты. Не приведены ни бенчмарки, ни результаты обучения какой-либо модели DeepSeek на Ascend.
- Сроки. Дата выхода V5 нигде не указана.
Пока не появится хотя бы часть этих сведений, V5 на Ascend остаётся планом — пусть и с необычно конкретными данными о пропускной способности памяти.