Secure Cloud RAG: Warum DSGVO-Konformität bei KI-Wissensmanagement entscheidend ist
DSGVO-Konformität im RAG-Wissensmanagement ist entscheidend, weil ein RAG-System genau die Dokumente verarbeitet, die personenbezogene Daten und Geschäftsgeheimnisse enthalten: Personalunterlagen, Verträge, Kundenkorrespondenz. Maßgeblich sind der Verarbeitungsort, die Trennung von anderen Kunden, ein durchgesetztes Rechtekonzept, der Verzicht auf Modelltraining mit Ihren Daten sowie nachvollziehbare Löschung und Protokollierung.
Warum DSGVO bei RAG-Wissensmanagement besonders relevant ist
Bei einem klassischen Chatbot geben Nutzer einzelne Texte ein. Ein RAG-System dagegen indexiert ganze Dokumentenbestände, oft aus mehreren Abteilungen, und hält sie dauerhaft durchsuchbar vor. Damit entstehen mehrere datenschutzrelevante Verarbeitungen:
- das Einlesen und Speichern der Dokumente samt Metadaten
- das Erzeugen von Embeddings, also Vektorrepräsentationen der Inhalte
- die Übergabe von Textabschnitten an ein Sprachmodell bei jeder Anfrage
- die Protokollierung von Fragen und Antworten
Für jede dieser Verarbeitungen gelten die Grundsätze der DSGVO: Zweckbindung, Datenminimierung, Speicherbegrenzung, Integrität und Vertraulichkeit. Wer das System betreibt, ist in der Regel Auftragsverarbeiter nach Art. 28 DSGVO und benötigt einen entsprechenden Vertrag.
Das Problem mit Cloud-Diensten aus Drittstaaten
Viele KI- und RAG-Dienste werden von US-Anbietern betrieben. Seit Juli 2023 besteht mit dem EU-US Data Privacy Framework wieder ein Angemessenheitsbeschluss für zertifizierte US-Unternehmen. Das Gericht der EU hat ihn im September 2025 bestätigt; die weitere rechtliche Entwicklung bleibt abzuwarten. Die Vorgängerregelungen Safe Harbor und Privacy Shield wurden vom EuGH gekippt, zuletzt 2020 im Schrems-II-Urteil.
Hinzu kommt: US-Anbieter können auch bei Speicherung in europäischen Rechenzentren US-Gesetzen wie dem CLOUD Act unterliegen. Für Unternehmensdokumente mit Mitarbeiterdaten, Kundendaten oder Geschäftsgeheimnissen bleibt damit ein rechtliches Restrisiko, das viele Datenschutzbeauftragte nicht eingehen möchten. Ein Betrieb durch einen europäischen Anbieter in deutschen Rechenzentren vermeidet diese Unsicherheit.
Die sechs Säulen eines DSGVO-konformen RAG-Systems
| Anforderung | Worauf Sie achten sollten |
|---|---|
| Verarbeitungsort | Rechenzentren in Deutschland bzw. der EU, Anbieter ohne Drittstaatenzugriff |
| Mandantentrennung | eigene Indizes und Speicherbereiche je Kunde |
| Verschlüsselung | bei Übertragung und im Ruhezustand |
| Kein Training | Dokumente und Anfragen fließen nicht in Modelltraining ein |
| Rechtekonzept | Berechtigungen aus Quellsystemen werden durchgesetzt |
| Löschung und Protokoll | nachvollziehbares Löschkonzept, Audit-Trail |
Mandantenisolierung: Ihr Wissen bleibt Ihres
Bei Secure Cloud RAG werden die Daten jedes Kunden getrennt von anderen Kunden verarbeitet und gespeichert, mit eigenen Indizes und ohne gemeinsam genutzte Wissensbasen. Die Architektur ist darauf ausgelegt, dass eine Anfrage nur auf Dokumente des eigenen Unternehmens zugreift.
Verschlüsselung
Dokumente werden bei der Übertragung per TLS und im Ruhezustand verschlüsselt. Wichtig: Auch Embeddings sind schutzbedürftig. Forschungsarbeiten zeigen, dass sich aus Vektoren unter Umständen Teile des Ursprungstextes rekonstruieren lassen. Embeddings sollten daher wie die Originaldokumente behandelt werden.
Kein Training mit Ihren Daten
Ihre Dokumente werden ausschließlich zur Beantwortung Ihrer Fragen verwendet, nicht für das Training oder Fine-Tuning von KI-Modellen. Prüfen Sie bei jedem Anbieter, ob das vertraglich festgehalten ist, und nicht nur in den Nutzungsbedingungen.
Rechtekonzept
Ein häufig unterschätztes Risiko: Ein RAG-System, das alle Dokumente für alle Nutzer durchsuchbar macht, hebelt bestehende Zugriffsbeschränkungen aus. Die Gehaltsliste darf nicht in der Antwort für einen Auszubildenden auftauchen. Berechtigungen müssen deshalb bereits bei der Suche gefiltert werden, nicht erst bei der Anzeige.
Löschkonzept
Das Recht auf Löschung nach Art. 17 DSGVO muss auch im RAG-System umsetzbar sein. Wird ein Dokument im Quellsystem gelöscht, müssen Text, Chunks und Embeddings ebenfalls entfernt werden. Das ist ein wesentlicher Vorteil von RAG gegenüber Fine-Tuning: Eintrainierte Informationen lassen sich kaum gezielt löschen (siehe RAG vs. Fine-Tuning).
Audit-Trail und Nachvollziehbarkeit
Jede Anfrage wird protokolliert: Wer hat wann was gefragt, welche Dokumente wurden herangezogen, welche Antwort wurde erzeugt? Dieser Audit-Trail unterstützt Compliance-Anforderungen und interne Revision. Gleichzeitig sind Protokolle selbst personenbezogene Daten und brauchen Aufbewahrungsfristen und eine Abstimmung mit dem Betriebsrat, wenn Rückschlüsse auf Beschäftigte möglich sind.
Das Sprachmodell: lokal statt externe API
Selbst wenn Dokumente und Vektordatenbank in Deutschland liegen, verlassen bei jeder Anfrage Textabschnitte das System, sofern das Sprachmodell über eine externe API angebunden ist. Für sensible Inhalte empfiehlt sich daher ein Open-Source-Modell, das in derselben Umgebung betrieben wird. Verdacloud betreibt Sprachmodelle in ISO-27001-zertifizierten Rechenzentren in Bayern und Sachsen, auf Wunsch auf einer dedizierten GPU (Local LLM Hosting, RAG Enterprise). Soll zusätzlich der Zugriff auf externe Modelle kontrolliert werden, filtert ein Secure Gateway personenbezogene Daten vor der Weitergabe.
Und der EU AI Act?
Ein internes RAG-System für Wissensmanagement fällt in der Regel nicht unter die Hochrisiko-Kategorien des AI Act. Relevant sind jedoch die Transparenzpflichten: Nutzer sollen erkennen, dass sie mit einem KI-System interagieren. Die Pflichten für Hochrisiko-Systeme nach Anhang III wurden mit dem 2026 verabschiedeten „Digital Omnibus“ auf Dezember 2027 verschoben. Wer RAG etwa in Personalentscheidungen einsetzt, sollte die Einstufung frühzeitig prüfen. Einen Überblick bietet unser Beitrag zu KI-Compliance nach DSGVO und AI Act.
Checkliste für die Anbieterauswahl
- Auftragsverarbeitungsvertrag nach Art. 28 DSGVO liegt vor
- Rechenzentren in Deutschland, ISO-27001-Zertifizierung
- Keine Unterauftragsverarbeiter in Drittstaaten ohne Ihre Zustimmung
- Vertraglicher Ausschluss des Trainings mit Ihren Daten
- Mandantentrennung auf Daten- und Indexebene
- Rechteübernahme aus den Quellsystemen
- Nachweisbares Lösch- und Protokollierungskonzept
Häufige Fragen
Ist ein RAG-System automatisch DSGVO-konform, wenn es in Deutschland läuft?
Sind Embeddings personenbezogene Daten?
Braucht man für ein RAG-System eine Datenschutz-Folgenabschätzung?
Muss der Betriebsrat beteiligt werden?
Verwandte Artikel
RAG-Systeme mit Multi-Modal-Daten: Bilder, PDFs und Tabellen durchsuchbar machen
Multi-Modal RAG in der Praxis: Wie Sie Tabellen, Diagramme, Scans und Bilder in PDFs erschließen – mit Parsing, Vision-Modellen und visueller Suche.
Retrieval-Augmented Generation für SAP: Unternehmenssuche der nächsten Generation
SAP RAG erklärt: Wie Sie SAP-Daten per OData und CDS-Views anbinden, Berechtigungen wahren und Fragen in natürlicher Sprache beantworten lassen.
ROI von RAG-Systemen: So rechnen Sie den Business Case
ROI von RAG-Systemen berechnen: Kennzahlen, Nutzenhebel, eine nachvollziehbare Beispielrechnung und typische Fehler für einen belastbaren Business Case.