Was einen RAG-Chatbot von klassischen Chatbots unterscheidet
Viele Unternehmen haben schlechte Erfahrungen mit Chatbots gemacht. Die alten Systeme folgten festen Entscheidungsbäumen und reagierten nur auf vorhergesehene Fragen. Alles andere endete bei „Das habe ich leider nicht verstanden“.
Ein RAG-Chatbot funktioniert grundlegend anders. Er sucht bei jeder Frage in Ihrer Wissensbasis nach den passenden Textstellen und lässt ein Sprachmodell daraus eine Antwort formulieren. Wie das technisch abläuft, erklären wir unter Was ist ein RAG-System?
| Regelbasierter Chatbot | KI-Chat ohne Ihre Daten | RAG-Chatbot | |
|---|---|---|---|
| Versteht freie Fragen | Kaum | Ja | Ja |
| Kennt Ihre Produkte und Regeln | Nur was jemand eingepflegt hat | Nein | Ja, aus Ihren Dokumenten |
| Quellenangabe | Nein | Nein | Ja |
| Pflegeaufwand | Hoch, jeder Dialog von Hand | Keiner, aber unkontrolliert | Gering, Dokumente aktualisieren genügt |
| Risiko erfundener Antworten | Gering | Hoch | Gering, mit klaren Regeln |
Intern oder extern: zwei Arten von RAG-Chatbots
Interner Assistent für Ihr Team
Mitarbeitende fragen nach Richtlinien, Produktdetails, Vertragsklauseln oder Wartungsanleitungen. Der Chatbot läuft in Microsoft Teams, im Intranet oder als Web-Anwendung und übernimmt die Zugriffsrechte Ihrer Quellen. Mehr dazu unter KI-Wissensmanagement.
Kunden-Chatbot auf Ihrer Website
Kundinnen und Kunden stellen Fragen zu Produkten, Lieferbedingungen oder Bedienung. Der Chatbot antwortet ausschließlich aus freigegebenen, öffentlichen Inhalten und übergibt an einen Menschen, wenn er nicht weiterweiß. Das entlastet den Service, ohne dass Kunden in einer Sackgasse landen.
Was gute Antworten ausmacht
- Saubere Wissensbasis. Veraltete Preislisten oder widersprüchliche Handbücher führen zu falschen Antworten. Deshalb beginnt jedes Projekt mit der Datenaufbereitung.
- Klare Grenzen. Der Chatbot antwortet nur zu Themen, für die er Quellen hat, und sagt ehrlich, wenn nicht.
- Quellen sichtbar. Jede Antwort verweist auf das Dokument, damit Nutzer nachprüfen können.
- Tonalität. Sie legen fest, ob der Chatbot siezt oder duzt, wie ausführlich er antwortet und in welchen Sprachen.
- Laufende Auswertung. Unbeantwortete und schlecht bewertete Fragen zeigen, wo nachgebessert werden muss.
So entsteht Ihr RAG-Chatbot
- Erstgespräch. Zielgruppe, typische Fragen und gewünschter Einsatzort.
- Datencheck. Welche Dokumente beantworten diese Fragen, und in welchem Zustand sind sie?
- Pilot. Aufbau mit einer begrenzten Wissensbasis und Tests mit echten Fragen aus Ihrem Alltag.
- Livegang und Betrieb. Einbindung in Website, Teams oder Intranet, Monitoring und laufende Pflege.
Die technische Seite beschreibt unser Leitfaden RAG-System aufbauen.