Was ist eine Vektordatenbank?
Eine Vektordatenbank ist eine Datenbank, die Inhalte nicht als Text, sondern als lange Zahlenreihen speichert, sogenannte Vektoren. Diese Vektoren bilden die Bedeutung eines Textes ab. Zwei Texte mit ähnlicher Bedeutung liegen im Vektorraum nah beieinander, auch wenn sie kein einziges Wort gemeinsam haben.
Das macht eine andere Art der Suche möglich. Wer nach „Wie lange haben Kunden Anspruch auf Nachbesserung?“ fragt, findet den Abschnitt über die Gewährleistungsfrist, obwohl das Wort „Nachbesserung“ dort nicht vorkommt.
Embeddings: wie Text zu Zahlen wird
Die Übersetzung von Text in Vektoren übernimmt ein Embedding-Modell. Es ist ein spezialisiertes KI-Modell, das jedem Textabschnitt einen Vektor mit mehreren hundert bis einigen tausend Dimensionen zuordnet.
Bei einer Suche wird auch die Frage in einen Vektor übersetzt. Die Datenbank berechnet dann, welche gespeicherten Vektoren am nächsten liegen, meist über die Kosinus-Ähnlichkeit. Damit das bei Millionen Einträgen in Millisekunden gelingt, nutzen Vektordatenbanken spezielle Indexverfahren wie HNSW.
Wichtig für deutsche Unternehmen: Nicht jedes Embedding-Modell versteht Deutsch und Fachsprache gleich gut. Die Wahl des Modells beeinflusst die Trefferqualität stärker als die Wahl der Datenbank.
Die Rolle der Vektordatenbank im RAG-System
In einem RAG-System ist die Vektordatenbank der Ort, an dem Ihr aufbereitetes Wissen liegt. Neben den Vektoren speichert sie zu jedem Abschnitt den Originaltext und Metadaten wie Dokumenttitel, Datum, Abteilung und Zugriffsrechte.
- Ähnlichkeitssuche findet die inhaltlich passenden Abschnitte zur Frage.
- Filter schränken auf gültige Dokumente, bestimmte Länder oder Abteilungen ein.
- Rechteprüfung stellt sicher, dass nur erlaubte Inhalte in die Antwort einfließen.
- Hybride Suche kombiniert Bedeutungssuche mit klassischer Stichwortsuche für Artikelnummern und Eigennamen.
Welche Vektordatenbank passt?
| Option | Typ | Geeignet, wenn |
|---|---|---|
| pgvector | Erweiterung für PostgreSQL, Open Source | Sie PostgreSQL bereits betreiben und moderate Datenmengen haben |
| Qdrant | Spezialisierte Vektordatenbank, Open Source | Viele Filter, hohe Performance, Selbsthosting gewünscht |
| Weaviate | Spezialisierte Vektordatenbank, Open Source | Hybride Suche und Mehrsprachigkeit wichtig sind |
| Milvus | Spezialisierte Vektordatenbank, Open Source | Sehr große Datenmengen verarbeitet werden |
| OpenSearch, Elasticsearch | Suchmaschine mit Vektorsuche | Bereits eine Suchinfrastruktur existiert |
| Verwaltete Cloud-Dienste | Vektorsuche als Service | Kein eigener Betrieb gewünscht und Hosting in der EU verfügbar ist |
Für die meisten mittelständischen RAG-Projekte ist die Datenbank nicht der Engpass. Wichtiger sind ein gutes Embedding-Modell, sauber aufbereitete Dokumente und ein Hosting, das zu Ihren Datenschutz-Anforderungen passt. Wie alle Bausteine zusammenspielen, zeigt der Leitfaden RAG-System aufbauen.