Microsoft hat Windows ML am 23. September 2025 als allgemein verfügbar (General Availability) angekündigt. Die Runtime wird über das Windows App SDK in der Version 1.8.1 oder neuer ausgeliefert und setzt Windows 11 in der Version 24H2 oder höher voraus. Windows ML ist eine einheitliche On-Device-AI-Laufzeitumgebung, mit der Entwickler lokale Inferenz auf CPU, GPU und NPU über eine gemeinsame Schnittstelle ansprechen, ohne pro Hardwarehersteller eigene SDKs in die eigene Anwendung einbetten zu müssen.
ONNX Runtime als Basis und das Execution-Provider-Modell
Technisch baut Windows ML auf ONNX Runtime (ORT) auf. Das Betriebssystem stellt eine systemweite, von Windows verwaltete Kopie der Laufzeit bereit und übernimmt deren Verteilung sowie Aktualisierung. Damit entfällt die Notwendigkeit, ORT und die zugehörigen Komponenten in jede einzelne Anwendung zu bündeln. Laut Microsoft spart dieser Ansatz je nach Zielgerätespektrum zweistellige bis dreistellige Megabyte-Beträge an Paketgröße. Entwickler nutzen die vertrauten ORT-APIs, initialisieren die passenden Execution Provider und laden anschließend beliebige ONNX-Modelle für die Inferenz.
Kern der Architektur ist ein dynamisches Execution-Provider-Modell. Windows ML erkennt die vorhandene Hardware automatisch und lädt die passenden Execution Provider nach. Neben den enthaltenen Providern für CPU und DirectML registriert und verwaltet die Runtime herstellerspezifische Provider: AMD Vitis AI, Intel OpenVINO, NVIDIA TensorRT für RTX sowie den Qualcomm Neural Network Execution Provider (QNN EP). Die jeweiligen Silizium-Partner adressieren damit ihre eigenen Beschleuniger, etwa Intel Core Ultra über die OpenVINO-Anbindung, Snapdragon-X-Series-NPUs über QNN EP und RTX-GPUs über TensorRT für RTX.
Relevanz für Games und Tools auf Windows-11-Hardware
Für die Inferenzleistung nennt Microsoft konkrete Vergleichswerte. Nach Angabe von NVIDIA liefert Windows ML mit TensorRT für RTX gegenüber DirectML eine um über 50 Prozent schnellere Inferenz auf NVIDIA-RTX-GPUs. Die enge Zusammenarbeit zwischen beiden Unternehmen zeigte sich bereits auf der Computex 2025, wo NVIDIA und Microsoft ihre KI-Funktionalitäten für RTX AI PCs ausbauten. Begleitend zur allgemeinen Verfügbarkeit nennt Microsoft Foundry Local mit erweiterter Silizium-Unterstützung, das AI Toolkit für Visual Studio Code mit Funktionen für ONNX-Konvertierung aus PyTorch, Quantisierung, Optimierung, Kompilierung und Evaluierung sowie die AI Dev Gallery zur Erprobung lokaler Modelle.
Als frühe Anwender führt Microsoft unter anderem Adobe, BUFFERZONE, Dot Inc., McAfee, Reincubate, Topaz Labs und Wondershare an. Für die Game- und Tool-Entwicklung bildet die Runtime einen konkreten Baustein für lokale KI-Inferenz, da rechenintensive Modelle auf der vorhandenen Hardware ausgeführt werden, ohne dass die Anwendung jeden Beschleuniger separat ansprechen muss. Die Auswahl des geeigneten Rechenwerks übernimmt die Plattform anhand der erkannten Hardware.