NVIDIA hat am 25. Oktober 2017 die NVIDIA GPU Cloud als Container-Registry für KI-Entwickler gestartet. Der Dienst stellt eine getestete und optimierte Softwareumgebung für Deep-Learning-Projekte bereit und war zum Start auf Amazons EC2-P3-Instanzen mit Tesla-V100-GPUs verfügbar.
Die Container bündeln gängige Deep-Learning-Frameworks, NVIDIA-Bibliotheken und passende CUDA-Laufzeitversionen. NVIDIA hält die Pakete nach eigenen Angaben aktuell und ermöglicht den Einsatz in der Cloud sowie auf DGX-Systemen. Die technische Ausrichtung knüpft an die bereits vorgestellte NVIDIA-Entwicklerplattform Jetson TX2 an, verlagert die Rechenarbeit aber in skalierbare Rechenzentren.
P3-Instanzen bringen Tesla V100 in die AWS-Cloud
Die AWS-P3-Instanzen verwenden NVIDIAs Tesla V100 und sind für stark parallelisierte Rechenlasten ausgelegt. NGC sollte den Einstieg vereinfachen, weil Entwickler nicht jede Bibliothek und jede GPU-Optimierung separat einrichten mussten. Die Registrierung war ohne zusätzliche Lizenzkosten für den Zugriff auf die Container vorgesehen, während die genutzten Cloud-Ressourcen separat abgerechnet wurden.
Für technische Teams aus Spieleentwicklung, Simulation und interaktiven Anwendungen liegt der praktische Bezug vor allem in reproduzierbaren GPU-Umgebungen. Trainings- und Analyseaufgaben können in einem standardisierten Container ausgeführt werden, ohne die lokale Entwicklungsumgebung mit jeder Abhängigkeit zu verändern. Die offizielle NGC-Dokumentation beschreibt den Dienst und seine Container-Schnittstellen.
Einheitliche Umgebung für Training und Bereitstellung
NVIDIA positionierte NGC nicht nur als Ablage für Images, sondern als Zugang zu einer abgestimmten Kombination aus Frameworks, Bibliotheken, CUDA und GPU-Infrastruktur. Damit konnten Modelle in einer bekannten Umgebung trainiert und anschließend auf kompatiblen Systemen weiterverwendet werden. Beim Start war AWS der erste unterstützte Cloudanbieter, weitere Plattformen stellte NVIDIA in Aussicht.