Sprachmodelle wissen viel, aber nichts über Ihr Unternehmen.
Mit der RAG-Funktion von Domino IQ beantwortet die KI Fragen auf Basis Ihrer eigenen Domino-Anwendungen. Das geschieht lokal, mit Ihren Zugriffsrechten und ohne dass Daten Ihr Haus verlassen.
Das Problem: Allgemeines Wissen reicht nicht
Ein Sprachmodell kann Texte zusammenfassen und formulieren. Fragen wie «Wie haben wir das Druckerproblem bei Kunde X gelöst?» oder «Was steht in unserer Reisekostenrichtlinie zu Mietwagen?» kann es aber nicht beantworten, weil ihm dieses Wissen fehlt. Im schlechtesten Fall erfindet es eine plausibel klingende Antwort.
Die Lösung: Retrieval Augmented Generation
RAG verbindet das Sprachmodell mit Ihren eigenen Daten. Das Prinzip hat drei Schritte:
- Indizieren: Die relevanten Inhalte einer Domino-Datenbank werden in sogenannte Embeddings umgewandelt. Das sind mathematische Darstellungen ihrer Bedeutung, die in einer Vektordatenbank gespeichert werden.
- Finden: Bei einer Anfrage sucht Domino IQ nach Bedeutung, nicht nur nach Stichworten, und findet so die passendsten Dokumente.
- Antworten: Diese Dokumente gehen als Kontext an das Sprachmodell, das seine Antwort auf Ihre Inhalte stützt.
Das Ergebnis sind Antworten, die fachlich passen und aktuell sind und die sich auf Ihre Dokumente zurückführen lassen.
So funktioniert RAG in Domino IQ
Seit Domino 14.5.1 ist RAG fest in Domino IQ integriert. Sie legen fest, welche Datenbank als Wissensquelle dient und welche Felder indiziert werden. Die Vektordatenbank läuft direkt auf dem Domino IQ-Server. Ihre Anwendungen rufen die KI wie gewohnt über LotusScript oder Java auf, und RAG arbeitet im Hintergrund.
Sicherheit und Datensouveränität
- Zugriffsrechte bleiben erhalten: Domino IQ berücksichtigt bei jeder Anfrage die ACL und die Leserfelder der Datenbank. Ein Anwender erhält keine Informationen aus Dokumenten, die er nicht lesen darf.
- Alles bleibt im Haus: Die Vektordatenbank liegt auf Ihrem Domino-Server. Das Sprachmodell betreiben Sie direkt auf dem Domino-Server oder auf einem eigenen KI-Server in Ihrem Netzwerk.
- Optionale Inhaltsprüfung: Ein sogenanntes Guard-Modell kann Anfragen auf unzulässige Inhalte prüfen, bevor sie verarbeitet werden.
Betriebsvarianten
- Lokal auf dem Domino-Server: Sprachmodell, Embedding-Modell und Vektordatenbank laufen auf dem Domino IQ-Server. Dafür ist eine geeignete NVIDIA-Grafikkarte im Server nötig.
- Mit separatem KI-Server (ab 14.5.1 FP1): Sprach- und Embedding-Modell laufen auf einem eigenen KI-Server in Ihrer Umgebung, die Vektordatenbank bleibt auf dem Domino-Server. So können mehrere Domino-Server eine leistungsfähige KI-Hardware gemeinsam nutzen.
Typische Einsatzszenarien
- Helpdesk und Support: Lösungen aus der Ticket-Historie finden und Antwortvorschläge erstellen
- Wissensdatenbanken und FAQ: Mitarbeitende stellen Fragen in natürlicher Sprache, statt Ansichten zu durchsuchen
- Handbücher, Richtlinien, Prozessbeschreibungen: gezielte Antworten statt langer Dokumente
- Projekt- und Kundenakten: Zusammenhänge über viele Dokumente hinweg erkennen
- Vertrieb und CRM: Informationen zu Kunden und früheren Angeboten schnell zusammentragen
Worauf es ankommt
RAG ist kein Selbstläufer. Die Qualität der Antworten hängt davon ab, welche Daten indiziert werden, wie gut sie gepflegt sind und welche Modelle eingesetzt werden. Für deutschsprachige Inhalte ist zum Beispiel ein mehrsprachiges Embedding-Modell wichtig. Wir empfehlen deshalb, mit einem klar abgegrenzten Pilotprojekt auf Basis einer Datenbank zu starten und die Antwortqualität systematisch zu testen.
Wie wir Sie unterstützen
- Auswahl geeigneter Datenbanken und Felder
- Planung und Aufbau der KI-Infrastruktur, lokal oder als eigener KI-Server
- Auswahl und Betrieb passender Sprach- und Embedding-Modelle
- Integration in Ihre Notes-, Nomad- und Web-Anwendungen
- Pilotprojekt, Test und Übergang in den Betrieb
