Intel nGraph: Open-Source-Compiler trennt Bridges und ONNX

Intel bietet nGraph als offene C++-Bibliothek mit Compiler und Laufzeit für neuronale Netze an. Der Quellstand vom 18. April 2018 dokumentiert die damaligen Framework-Anbindungen. Damit lässt sich der frühe Funktionsumfang prüfen, ohne spätere Erweiterungen der heutigen Projektseite zu übernehmen.

Direkte Anbindung ist nicht gleich Austauschformat

FrameworksDirekte BridgeONNX
neon, MXNet, TensorFlowvorhandenunterstützt
PyTorch, CNTK, Caffe2noch nicht vorhandenunterstützt
Angaben der README im Quellstand vom 18. April 2018.

Für MXNet und TensorFlow nennt die README Integrationsanleitungen. Für bereits trainierte Modelle verweist sie auf einen Importweg. Eine vorhandene ONNX-Unterstützung bedeutet dabei nicht automatisch, dass eine native Bridge zum jeweiligen Trainingsframework fertig ist.

Das Intel-Paper vom Januar 2018 beschreibt eine Zwischenrepräsentation zwischen Framework und Hardware. Speicherverwaltung und Abstraktion des Datenlayouts gehören zu den genannten Optimierungen. Das Architekturdiagramm skizziert das Ökosystem, ist aber kein Testnachweis für sämtliche abgebildeten Geräte.

API-Änderungen betreffen eigenen Integrationscode

Die historischen API-Hinweise benennen unter anderem NodeVector statt Nodes und ParameterVector statt Parameters. Hilfsklassen werden aus ngraph::op nach ngraph::op::util verschoben. Eigene Operatoren müssen daher auch Basisklassen und Include-Pfade prüfen.

Der Quellbestand enthält die Apache-2.0-Lizenz. Die Entwicklung ergänzt das bereits vorgestellte Austauschformat ONNX um eine Ausführungsschicht. Ein konkreter Leistungsvorteil für eine Spiele-Pipeline ist durch diese Quellen nicht gemessen. Beschrieben ist der Stand vom April 2018, nicht die spätere OpenVINO-Weiterentwicklung.

Weitere News

Weitere News

Kommentieren Sie den Artikel

Bitte geben Sie Ihren Kommentar ein!
Bitte geben Sie hier Ihren Namen ein