NVIDIA beschleunigt FLUX.1 Kontext mit TensorRT auf RTX-GPUs

NVIDIA und Black Forest Labs haben FLUX.1 Kontext [dev] für RTX-GPUs optimiert. Das Modell verarbeitet Text- und Bildvorgaben und erlaubt unter anderem lokale Änderungen, Stiltransfers sowie die Bearbeitung von Figuren, ohne die Bildkonsistenz bei jedem Durchlauf neu aufzubauen.

Die Zusammenarbeit zielt auf kurze Iterationszeiten bei der KI-gestützten Bildbearbeitung. Entwickler können ein vorhandenes Motiv zusammen mit einer Anweisung übergeben und Änderungen direkt im Kontext des Ausgangsbildes erzeugen. Dadurch eignet sich FLUX.1 Kontext [dev] auch für Konzeptarbeit, Materialvarianten und schnelle Visualisierungen in Produktionsabläufen.

TensorRT senkt Speicherbedarf und Rechenzeit

NVIDIA nutzt TensorRT und eine Quantisierung des Modells, um die Ausführung auf GeForce-RTX-Hardware zu beschleunigen. Nach Angaben des Unternehmens sinkt der Speicherbedarf des 24-GB-Modells auf 12 GB bei FP8 für Ada-GPUs und auf 7 GB bei FP4 für Blackwell. Die optimierten Varianten erreichen dabei mehr als die doppelte Geschwindigkeit der BF16-Ausführung mit PyTorch.

Die Optimierungen betreffen damit nicht nur die Bildqualität, sondern auch die praktische Nutzung auf lokalen Entwickler- und Kreativsystemen. Ein geringerer VRAM-Bedarf erleichtert parallele Anwendungen und verkürzt die Zeit zwischen Eingabe und Ergebnis. Die technischen Details zu den TensorRT-Engines beschreibt NVIDIA in einem eigenen Entwicklerbeitrag zu FLUX.1 Kontext.

ComfyUI und NIM als nächste Integrationspunkte

Die optimierte Version ist laut NVIDIA bereits in ComfyUI und im Black Forest Labs Playground nutzbar. Eine NVIDIA-NIM-Variante war für August 2025 angekündigt. Die Veröffentlichung knüpft an frühere Arbeiten von Black Forest Labs an, deren FLUX.1-Modell auf NVIDIA-RTX-GPUs ebenfalls im Mittelpunkt stand.

Weitere News

Weitere News

Kommentieren Sie den Artikel

Bitte geben Sie Ihren Kommentar ein!
Bitte geben Sie hier Ihren Namen ein