Die Khronos Group hat am 13. August 2018 NNEF 1.0 als Standard für den Austausch trainierter neuronaler Netze veröffentlicht. Das Neural Network Exchange Format soll die Übergabe zwischen Trainingsframeworks und Inferenzengines erleichtern. Die Freigabe folgt auf eine vorläufige Spezifikation und die anschließende Rückmeldung aus der Entwicklergemeinschaft.
Zum Start nennt Khronos einen Parser, einen Validator und Konverter für TensorFlow und Caffe. Eine Caffe2-Anbindung von Au-Zone Technologies war dagegen erst für das dritte Quartal 2018 angekündigt. Auch Importer für Android NNAPI und OpenVX wurden noch entwickelt. Die Pressemitteilung unterscheidet damit zwischen verfügbaren Werkzeugen und geplanten Integrationen.
Netzwerkstruktur und Parameter statt Laufzeit-API
Die historische NNEF-1.0-Spezifikation beschreibt die Struktur eines Netzes mit standardisierten Operationen und einer lesbaren Syntax. Die zugehörigen Netzwerkdaten enthalten dessen Parameter. Das Format soll einen Austausch ermöglichen, ohne die interne Darstellung des ursprünglichen Trainingswerkzeugs vorauszusetzen.
NNEF ist laut Spezifikation keine Ausführungs-API. Eine Zielbibliothek muss die Beschreibung importieren und in ihre eigene Darstellung übersetzen. Außerdem muss die Zielhardware die benötigten Operationen unterstützen. Das Format allein garantiert deshalb weder die Ausführung auf beliebiger Hardware noch eine bestimmte Beschleunigung.
Konverter bleiben Teil des Arbeitsablaufs
Für technische Teams verschiebt ein Austauschformat die Prüfung auf zwei Stellen: den Export des trainierten Modells und dessen Verarbeitung auf der Zielplattform. Ein einheitliches Dateiformat ersetzt diese Integrationsarbeit nicht, kann aber separate Anpassungen an jede Kombination aus Trainingswerkzeug und Beschleuniger verringern.
Die Veröffentlichung betrifft den Stand von August 2018. Die offizielle Präsentationsfolie zum Beitrag unterscheidet ebenfalls zwischen damals verfügbaren und angekündigten Werkzeugen. Ihr Vergleich mit ONNX dokumentiert die damalige Darstellung von Khronos und ist kein aktueller Funktionsvergleich der beiden Formate.