AMD, Broadcom, Cisco, Google, HPE, Intel, Meta und Microsoft haben laut einem Bericht von heise online vom 30. Mai 2024 gemeinsam den offenen Verbindungsstandard UALink (Ultra Accelerator Link) vorgestellt. Er soll eine offene Alternative zu Nvidias proprietärer Technik NVLink schaffen, mit der KI-Beschleuniger innerhalb eines Clusters miteinander verbunden werden.
Bis zu 1.024 Knoten in einem Cluster
UALink soll Cluster mit bis zu 1.024 Knoten unterstützen und damit auch sehr große Installationen für das Training und den Betrieb von KI-Modellen abdecken. In modernen KI-Servern hängen die Netzwerkverbindungen mittlerweile direkt an den Grafikprozessoren, statt wie früher üblich an den Hauptprozessoren. Das ermöglicht eine Kommunikation zwischen Beschleunigern mit hoher Bandbreite und geringer Latenz, sowohl innerhalb eines einzelnen Servers als auch zwischen mehreren Servern im Rechenzentrum.
Anlehnung an Ultra Ethernet und CXL
Die Initiative baut unter anderem auf den Standards Ultra Ethernet und Compute Express Link (CXL) auf, das wiederum auf PCIe 5.0 basiert. Organisatorisch ist die Arbeit an das Ultra Ethernet Consortium (UEC) angebunden, das seit Ende 2023 unter dem Dach der Linux Foundation firmiert. Eine erste UALink-Spezifikation soll nach Angaben der Initiative innerhalb von vier Monaten nach der Ankündigung vorliegen, anschließend soll ein eigenes Konsortium gegründet werden.
Nvidias Vorsprung durch die Mellanox-Übernahme
Nvidias starke Position bei Verbindungstechnik für KI-Cluster geht unter anderem auf die rund 7 Milliarden US-Dollar teure Übernahme des Netzwerkspezialisten Mellanox vor vier Jahren zurück. Die an UALink beteiligten Unternehmen setzen dagegen auf Ethernet-basierte Lösungen, da hier mehr Anbieter im Wettbewerb stehen und bestehende Kabelinfrastruktur leichter weiterverwendet werden kann als bei der von Nvidia bevorzugten InfiniBand-Technik.