NVIDIA hat am 6. Januar 2025 auf der CES Project DIGITS als Desktop-Supercomputer für KI-Entwicklung vorgestellt. Das System bringt Rechenleistung der Grace-Blackwell-Plattform auf den Schreibtisch und richtet sich an Forschende, Datenwissenschaftler, Studierende sowie Entwickler.
GB10 bündelt Grace Blackwell
Herzstück ist der neue GB10 Grace Blackwell Superchip. NVIDIA nennt eine Leistung von bis zu einem Petaflop bei FP4-Berechnungen. Project DIGITS soll damit Modelle mit bis zu 200 Milliarden Parametern lokal ausführen können. Die Hardware benötigt laut Hersteller lediglich eine normale Steckdose.
Jedes System verfügt über 128 Gigabyte gemeinsamen Speicher und bis zu 4 Terabyte NVMe-Speicher. Zwei Project-DIGITS-Geräte lassen sich über die Netzwerkschnittstelle koppeln, um Modelle mit bis zu 405 Milliarden Parametern zu bearbeiten. Als Betriebssystem kommt das Linux-basierte NVIDIA DGX OS zum Einsatz.
Lokale Prototypen für KI-Anwendungen
Project DIGITS ist für das Prototyping, die Feinabstimmung und die Inferenz großer Modelle gedacht. Modelle können lokal entwickelt und anschließend auf beschleunigte Cloud- oder Rechenzentrumsumgebungen übertragen werden. Damit ergänzt die Plattform die NVIDIA-Werkzeuge, die auch bei der Entwicklung interaktiver Anwendungen und Spiele eingesetzt werden.