KI im eigenen Unternehmen: Warum GB10 und GB300 zum Zukunftsthema werden

Viele Unternehmen möchten künstliche Intelligenz nutzen – aber mit den eigenen Daten und auf eigener Hardware, nicht in einer fremden Cloud. Genau dafür hat NVIDIA zwei Plattformen geschaffen, die KI-Rechenleistung an den Arbeitsplatz und ins eigene Rechenzentrum bringen: GB10 und GB300.

Systeme mit diesen Superchips bieten inzwischen HP, Dell, Lenovo und weitere Hersteller an. In diesem Beitrag erklären wir, was hinter den Bezeichnungen steckt, warum das Thema für Mittelstand, Forschung und öffentliche Auftraggeber an Bedeutung gewinnt und welches System für welchen Zweck passt.

Wo lokale KI im Alltag hilft

Was GB10 und GB300 bedeuten

GB steht für „Grace Blackwell“: Grace ist der Prozessor (CPU), Blackwell die Grafik- und KI-Recheneinheit (GPU) von NVIDIA. Beide sind in einem sogenannten Superchip eng verbunden und greifen auf einen gemeinsamen, großen Arbeitsspeicher zu. Die Zahlen 10 und 300 sind Modellbezeichnungen – sie geben weder die Speichergröße noch einen direkten Leistungsfaktor an.

Der gemeinsame Speicher ist der eigentliche Vorteil für KI: Ein Sprachmodell muss vollständig in den Speicher passen. In einem klassischen PC begrenzt der Speicher der Grafikkarte die Modellgröße, bei GB10 und GB300 steht deutlich mehr Speicher zur Verfügung.

	GB10	GB300
Einsatz	Kompakter Einstieg: Entwicklung, Tests, lokale KI-Anwendungen	Größere Modelle, mehrere Nutzer gleichzeitig
Generation	Blackwell	Blackwell Ultra
Beispielsysteme	NVIDIA DGX Spark, HP ZGX Nano, Lenovo ThinkStation PGX	HP ZGX Fury
Prozessor	20 Arm-Kerne	72 Grace-Kerne (Neoverse V2)
Gemeinsamer Speicher	128 GB LPDDR5x	748 GB: 252 GB HBM3e + 496 GB LPDDR5x
KI-Leistung (FP4)	bis zu 1 PetaFLOP	bis zu 20 PetaFLOPS
Modellgröße	bis zu 200 Mrd. Parameter, zwei gekoppelte Geräte bis zu 405 Mrd.	laut HP bis zu 1 Billion Parameter (FP4-quantisiert)
Bauform	Mini-PC, 150 × 150 × 50,5 mm, 1,2 kg	Tower oder 5U im Rack

GB10-Werte laut NVIDIA für DGX Spark (FP4 mit Sparsity), GB300-Werte laut HP für die ZGX Fury.

Warum Unternehmen KI ins eigene Haus holen

Der wichtigste Grund ist Kontrolle: Wer KI mit vertraulichen Daten nutzt, möchte diese Daten nicht aus der Hand geben. Dazu kommen drei weitere Entwicklungen.

Kontrolle über Unternehmensdaten

Vertrauliche Dokumente, Konstruktionsdaten und internes Wissen können vor Ort verarbeitet werden, ohne das Unternehmen zu verlassen. Das ist besonders für den Mittelstand, Forschungseinrichtungen und öffentliche Auftraggeber interessant. Was lokale KI für Datenschutz und DSGVO bedeutet, haben wir im Beitrag zur HP Z2 Mini G1a zusammengefasst.

Planbarere Kosten

Cloud-KI wird in der Regel nach Nutzung abgerechnet. Eigene Hardware ist dagegen eine einmalige Investition mit laufenden Kosten für Strom und Betrieb. Bei regelmäßiger Auslastung kann sich das lohnen – ob es günstiger ist als die Cloud, hängt von Anschaffung, Betrieb und tatsächlicher Nutzung ab.

Mehr Möglichkeiten am Arbeitsplatz

GB10 bietet einen kompakten Einstieg, um KI-Anwendungen zu entwickeln, zu testen und lokal zu betreiben. GB300 bietet deutlich mehr Kapazität für größere Modelle und für mehrere Nutzer, die gleichzeitig darauf arbeiten.

Vom Chatbot zum KI-Agenten

KI soll zunehmend mehrstufige Aufgaben selbstständig bearbeiten: Dokumente auswerten, Werkzeuge bedienen, Ergebnisse weiterverarbeiten. Solche Agenten brauchen dauerhaft Rechenleistung und Zugriff auf Unternehmensdaten.

Dell positioniert seine Pro-Max-Systeme mit GB10 und GB300 ausdrücklich dafür. Jeff Clarke von Dell sieht autonome Agenten als nächste Welle der KI – die Unternehmen aber nur einsetzen werden, wenn sie lokal und abgesichert auf sensiblen Daten laufen (Dell).

Welche Systeme es gibt

HP, Dell und Lenovo bieten beide Plattformen an – allerdings nicht alle in derselben Größenklasse.

Hersteller	GB10	GB300
HP	ZGX Nano G1n AI Station	ZGX Fury G1n AI Station
Dell	Pro Max mit GB10	Pro Max mit GB300 – Verfügbarkeit anfragen
Lenovo	ThinkStation PGX	– (siehe unten)

Lenovo bietet GB300 nicht als Desktop-System an, sondern als GB300 NVL72: eine Rechenzentrumslösung für ein ganzes Rack mit 72 Blackwell-Ultra-GPUs und 36 Grace-CPUs (Lenovo). Sie gehört damit in eine andere Größenklasse als die Desktop-Systeme von HP und Dell.

Weitere Systeme mit GB10

Auch NVIDIA selbst, ASUS, Acer, Gigabyte und MSI bauen Systeme mit GB10. Laut heise nutzen alle dieselbe Hauptplatine und unterscheiden sich vor allem in Gehäuse, Kühlung und SSD. Bei SoftExpress erhältlich sind die NVIDIA DGX Spark Founders Edition, der ASUS Ascent GX10, der Acer Veriton GN100 und der Gigabyte AI TOP ATOM.

Da die Rechenleistung bei allen GB10-Systemen gleich ist, entscheiden in der Praxis drei Punkte: die Größe der SSD, der Garantie- und Serviceumfang und die Frage, welcher Hersteller im Unternehmen bereits eingesetzt wird.

Für wen sich welches System eignet

GB10 passt zu Einzelnen und kleinen Teams, die KI entwickeln und testen. GB300 passt zu Teams, die große Modelle gemeinsam nutzen.

GB10: der kompakte Einstieg

• Entwickler, Data Scientists und Forschungsgruppen
• Prototypen, Tests und lokale KI-Anwendungen mit Modellen bis etwa 200 Milliarden Parametern
• Zwei gekoppelte Geräte für Modelle bis 405 Milliarden Parameter (NVIDIA)
• Laut Dell eignet sich GB10 wegen des geringen Stromverbrauchs auch für dauerhaft laufende KI-Agenten

GB300: das System für Teams

• Mehrere Nutzer arbeiten gemeinsam auf einem System
• Sehr große Modelle bis zu einer Billion Parametern (FP4-quantisiert) und Feinabstimmung von Modellen bis 100 Milliarden Parametern, jeweils laut HP
• HP nennt als Einsatzfelder Gesundheitswesen, Industrie und Robotik, Forschung und Lehre, Behörden sowie regulierte Umgebungen
• Benötigt einen eigenen Stromkreis mit 200–240 V (HP)

Wann eine klassische Workstation besser passt

Die hier vorgestellten Systeme arbeiten mit Arm-Prozessoren und werden mit Linux ausgeliefert (NVIDIA DGX OS bzw. Ubuntu), nicht mit Windows. Für Office, typische Windows-Software und die meisten CAD-Programme ist eine klassische Workstation die bessere Wahl – etwa die HP Z2 Tower oder die HP Z6 G5 A.

So starten Sie mit einem Pilotprojekt

Interne Dokumente gezielt durchsuchen

Stellen Sie sich vor, Ihr Serviceteam sucht in mehreren Handbüchern nach der richtigen Wartungsanweisung. Ein interner Assistent kann passende Textstellen suchen und daraus eine Antwort formulieren. Dieses Verfahren heißt Retrieval-Augmented Generation (RAG). Für einen ersten Test genügt ein freigegebener Dokumentensatz. Lassen Sie zu jeder Antwort die verwendete Fundstelle anzeigen, damit Ihr Team die Angaben im Original prüfen kann.

Ein Praxisbeispiel von NVIDIA für DGX Spark zeigt, wie eine solche Dokumentensuche aufgebaut werden kann. Testen Sie auch Fragen, zu denen Ihre Unterlagen keine Antwort enthalten. In diesem Fall sollte der Assistent auf die fehlende Grundlage hinweisen.

Mit realistischen Anfragen testen

Ob ein Modell in den Speicher passt, ist die erste Frage. Die zweite ist, wie schnell es bei Ihrer tatsächlichen Nutzung antwortet. Testen Sie typische Eingaben, etwa eine kurze Servicefrage und die Zusammenfassung eines längeren Dokuments. Wiederholen Sie den Test mit mehreren gleichzeitigen Anfragen und vergleichen Sie die Wartezeit bis zum Beginn der Antwort. NVIDIA beschreibt dieses Vorgehen in seiner Benchmark-Dokumentation.

Den Betrieb von Anfang an einplanen

• Modell und Software. Prüfen Sie die Lizenz für Ihren Einsatz, die Unterstützung auf Arm und die gewünschte Softwareversion.
• Zugriff und Daten. Legen Sie fest, welche Teams auf welche Dokumente zugreifen dürfen und welche Anfragen protokolliert werden.
• Aufstellort und Betreuung. Klären Sie Stromversorgung, Netzwerk und Zuständigkeiten für Updates. Für die ZGX Fury nennt HP einen eigenen Stromkreis mit 200–240 V.

Fazit

GB10 und GB300 bringen KI-Rechenleistung dorthin, wo die Daten liegen: ins eigene Unternehmen. GB10 ist der kompakte Einstieg für Entwicklung und Tests, GB300 die Plattform für Teams und große Modelle. Da alle GB10-Systeme auf derselben Technik basieren, fällt die Wahl vor allem über Speicher, Service und den bevorzugten Hersteller.

Welche Lösung zu Ihren Anforderungen passt, hängt von Modellgröße, Nutzerzahl und vorhandener Infrastruktur ab. Unser Team berät Sie gern: Jetzt Beratung anfragen.

Alle Modelle im Überblick: KI-Systeme mit GB10 und GB300 im SoftExpress-Shop

Häufige Fragen zu NVIDIA GB10 und GB300

Was ist der Unterschied zwischen GB10 und GB300?

GB10 eignet sich für lokale Entwicklung, Tests und erste KI-Anwendungen. Im NVIDIA DGX Spark stehen bis zu 128 GB gemeinsamer Speicher zur Verfügung. Die HP ZGX Fury mit GB300 bietet 748 GB kohärenten Speicher und ist auf größere Modelle und anspruchsvollere Anwendungen für mehrere Nutzer ausgelegt.

Brauche ich für einen internen Dokumentenchat GB300?

Ein GB10-System ist ein möglicher Einstieg für einen Dokumentenchat im kleinen Team. Testen Sie, ob das gewählte Modell mit typischen Dokumenten schnell genug antwortet. Wenn längere Eingaben oder mehrere gleichzeitige Anfragen den Test ausbremsen, prüfen Sie ein kleineres Modell oder ein System mit mehr Speicher.

Kann ich mehrere DGX Spark miteinander verbinden?

Ja. NVIDIA dokumentiert den Betrieb mehrerer DGX Spark für verteilte Aufgaben. Ob Ihr Modell tatsächlich über mehrere Geräte läuft, hängt von der eingesetzten Software und ihrer Unterstützung für verteilte Ausführung ab.

Brauche ich für eine lokale KI-Workstation einen Internetzugang?

Ein vollständig lokal eingerichteter Assistent kann Anfragen ohne externe Modell-API verarbeiten. Für die Einrichtung, den Download von Modellen und Updates kann ein Internetzugang nötig sein. Prüfen Sie auch, ob die Anwendung externe Werkzeuge oder Dienste aufruft.

Welche Angaben helfen bei der Auswahl einer KI-Workstation?

Für die Auswahl sind vor allem die geplante Anwendung, das gewünschte Modell, typische Dokumentlängen und die Zahl gleichzeitiger Nutzer wichtig. Wenn das Modell noch offen ist, reichen für ein erstes Beratungsgespräch auch Beispielaufgaben und Angaben zur vorhandenen IT-Infrastruktur.