Die nächste Generation großer Sprachmodelle von DeepSeek, bekannt als V5, soll auf Huawei Ascend 950-Beschleunigern vortrainiert werden. Bisher haben chinesische Chips meist die unauffälligere Aufgabe übernommen, DeepSeek-Modelle auszuführen, deren Training auf fremder Hardware bereits abgeschlossen war. Das Modell vom ersten Tag an auf heimischen Chips aufzubauen, ist eine andere Aufgabe – und eine deutlich sichtbarere.
Was tatsächlich behauptet wird
Die Aussage ist knapp. DeepSeek plant, die Ascend 950-Reihe für das Vortraining von V5 zu nutzen. Wenn es dabei bleibt, wäre V5 das erste große Modell des Unternehmens, das von Anfang an auf der Ascend-Plattform vortrainiert wird.
Das Wort „wenn“ ist wichtig. Der Bericht beschreibt Pläne, keinen abgeschlossenen Trainingslauf. Er nennt weder ein Veröffentlichungsdatum noch die Clustergröße und enthält auch keine Stellungnahme eines der beiden Unternehmen. Was vorliegt, ist also eine Absicht samt detailliertem Datenblatt.
Die Richtung ist dennoch klar. Der Bericht stellt dies als einen potenziell wichtigen Schritt dar, um chinesische Rechenhardware breiter in der KI-Entwicklung einzusetzen. Das ist eine höfliche Umschreibung dafür, dass die Ausführung eines Modells und seine Erstellung unterschiedliche Bewährungsproben für einen Chip sind.
Inferenz ist der einfache Teil
Inferenz bedeutet, ein bereits existierendes neuronales Netz auszuführen. Vortraining bedeutet, dieses Netz überhaupt erst zu erzeugen. Ein Chip, der das Erste gut beherrscht, hat sich damit nicht zwangsläufig für das Zweite qualifiziert. Genau diese Lücke macht den Plan für V5 interessant.
Das erklärt auch, warum die Ascend 950-Familie zwei Chips statt nur einen umfasst.
Zwei Chips, zwei Aufgaben
Die Ascend 950-Reihe von Huawei umfasst zwei Modelle, den 950PR und den 950DT. Beide basieren auf der dritten Generation der Da Vinci-Architektur und sind für große KI-Modelle gedacht. Bei der Arbeitsteilung setzen sie unterschiedliche Schwerpunkte.
| Ascend 950DT | Ascend 950PR | |
|---|---|---|
| Hauptzweck | Training und die Dekodierphase der Inferenz | Die Prefill-Phase der Inferenz |
| Speicher | 144 GB HBM von Huawei selbst | 128 GB Onboard-Speicher |
| Speicherbandbreite | 4 TB/s | 1.6 TB/s |
| Interconnect-Bandbreite | 2 TB/s | Nicht angegeben |
| Genannte Zahlenformate | FP8, MXFP8, MXFP4 | FP4 (bei der Rechenleistungsangabe) |
| Angegebene Rechenleistung | 4x so hoch wie bei der vorherigen Generation, MXFP4 gegenüber BF16 | 1784 TFLOPS in FP4 |
Für V5 ist der 950DT entscheidend, denn er ist das auf Training ausgerichtete Modell. Er nutzt HBM von Huawei selbst. Dieses Detail verdient einen genaueren Blick, denn damit ist auch der Speicher Teil der Ausrichtung auf heimische Hardware, nicht nur der Prozessor.
Der 950PR ist der Spezialist. Er zielt auf die Prefill-Phase der Inferenz ab und nimmt für diese Rolle Abstriche bei Kapazität und Bandbreite in Kauf.
Die 4x-Angabe mit Vorsicht lesen
Die Leistungsangabe für den 950DT besagt, dass sein Durchsatz mit MXFP4 viermal so hoch sei wie der der vorherigen Generation mit BF16. Das ist ein Vergleich zwischen zwei unterschiedlichen Zahlenformaten, nicht ein Vergleich desselben Formats auf zwei Chipgenerationen.
Diese Angabe kann durchaus stimmen und einen echten Vorteil bei den vom Chip unterstützten Formaten mit geringerer Präzision beschreiben. Sie sagt aber nicht aus, wie viel schneller der neue Chip bei derselben Aufgabe im selben Format ist. Der Bericht liefert keinen solchen direkt vergleichbaren Wert. Dasselbe gilt für die Angabe von 1784 TFLOPS mit FP4 beim 950PR: Sie beschreibt eine angegebene Leistungsfähigkeit, kein gemessenes Ergebnis.
Was der Bericht offenlässt
Einige Angaben fehlen, und es sind genau jene, die aus einem Plan eine Nachricht machen würden:
- Bestätigung. Laut Bericht ist für V5 ein Vortraining auf Ascend 950 geplant. Ob es bereits begonnen hat, bleibt offen.
- Umfang. Es gibt keine Angaben dazu, wie viele Beschleuniger beteiligt wären oder wie sie vernetzt würden.
- Ergebnisse. Für kein auf Ascend trainiertes DeepSeek-Modell werden Benchmarks oder Trainingsergebnisse genannt.
- Zeitplan. Ein Termin für V5 wird nirgends genannt.
Solange einige dieser Angaben fehlen, bleibt V5 auf Ascend ein Plan – wenn auch einer mit ungewöhnlich konkreten Angaben zur Speicherbandbreite.