Vektordatenbanken speichern numerische Repräsentationen von Texten, Bildern oder anderen Daten und liefern zu einer Anfrage ähnliche Einträge. Das macht sie für semantische Suche und Retrieval-Augmented Generation interessant. Die Auswahl sollte sich an Datenmenge, Latenz, Filteranforderungen und dem gewünschten Betriebsmodell orientieren, nicht an einem einzelnen Benchmark.
Fünf Ansätze für Vektorsuche
Pinecone stellt einen verwalteten Dienst bereit, bei dem Indizes und die Suche über eine Cloud-Infrastruktur betrieben werden. Milvus richtet sich als Open-Source-System an Anwendungen, die Vektorsuche in einer eigenen Infrastruktur oder in größeren Clustern betreiben möchten.
Qdrant bietet eine API und Filtermöglichkeiten für Vektordaten, Weaviate verbindet Vektorsuche mit einem Schema- und Modulkonzept. Chroma ist auf einen einfachen Einstieg in lokale und anwendungsnahe KI-Projekte ausgelegt. Die Dokumentationen der Projekte zeigen jeweils unterschiedliche Wege für Installation, Indexierung und Abfragen.
Die Anwendung entscheidet
Für eine RAG-Pipeline werden Dokumente zunächst in Abschnitte zerlegt und mit einem Embedding-Modell in Vektoren umgewandelt. Die Datenbank liefert anschließend ähnliche Abschnitte, die ein Sprachmodell als zusätzlichen Kontext erhält. In der Praxis gehören deshalb auch Chunking, Modellwahl, Metadatenfilter und die Aktualisierung der Dokumente zur Architektur. Die Datenbank allein löst keine Probleme mit veralteten oder falsch berechtigten Inhalten.
Vor dem produktiven Einsatz sollten Teams die eigene Datenverteilung und typische Suchanfragen messen. Selbst gehostete Systeme bieten mehr Kontrolle über Daten und Infrastruktur, verursachen aber zusätzlichen Betriebsaufwand. Managed-Angebote reduzieren diesen Aufwand, binden das Projekt dafür stärker an einen Anbieter und dessen Preis- und Betriebsmodell.