KI Secure Gateway: Sprachmodelle nutzen, ohne sensible Daten preiszugeben
Ein KI Secure Gateway ist eine Kontrollschicht zwischen Ihren Mitarbeitenden und jedem Sprachmodell: Es erkennt personenbezogene und vertrauliche Daten, maskiert sie vor der Verarbeitung, protokolliert jede Anfrage und setzt Regeln für Modelle, Rollen und Budgets durch. Unsere Lösung dafür heißt VerdaGate; sie wird von unserer Schwestermarke VerdaGen.ai entwickelt und läuft auf Verdacloud-Infrastruktur in Deutschland.
Warum Unternehmen ein KI Secure Gateway brauchen
In vielen Unternehmen werden KI-Tools längst genutzt, oft ohne Wissen der IT. Mandantenkorrespondenz, Patientendaten, Bewerbungen oder Vertragsdetails landen dann in Diensten, deren Datenverarbeitung niemand im Haus geprüft hat. Für regulierte Branchen ist das ein erhebliches Risiko: datenschutzrechtlich, berufsrechtlich und für das Vertrauen von Kunden. Mehr zu diesem Phänomen lesen Sie im Beitrag über Shadow AI im Unternehmen.
Ein Verbot hilft selten, denn der Nutzen der Werkzeuge ist offensichtlich. Wirksamer ist es, den Datenfluss zu kontrollieren: KI ja, aber über einen zentralen, geprüften Zugang.
So funktioniert das Gateway
VerdaGate sitzt vor jeder KI-Anfrage. Der Ablauf in vier Schritten:
- Erkennung: Eingehende Prompts werden auf personenbezogene und vertrauliche Daten geprüft, etwa Namen, Adressen, IBAN, Steuer- und Sozialversicherungsnummern, Aktenzeichen, interne Projektcodes oder API-Schlüssel. Dafür kombiniert das Gateway Regeln mit Verfahren zur Erkennung benannter Entitäten.
- Maskierung: Erkannte Daten werden durch Platzhalter ersetzt, bevor die Anfrage das Modell erreicht. Das Modell verarbeitet damit nur den maskierten Text.
- Verarbeitung: Das Sprachmodell erzeugt die Antwort, je nach Richtlinie ein lokales Modell auf einem dedizierten Server in Deutschland oder ein freigegebenes Cloud-Modell.
- De-Maskierung und Protokoll: Die Platzhalter werden in der Antwort wieder durch die Originaldaten ersetzt. Für den Nutzer bleibt das unsichtbar, für die Compliance ist es dokumentiert.
Die technischen Hintergründe beschreibt unser Artikel zur PII-Erkennung in Echtzeit.
Funktionen im Überblick
- Eine Schnittstelle für viele Modelle: OpenAI-kompatible API, über die sich Cloud-Modelle und lokale Open-Source-Modelle ansprechen lassen. Bestehende Tools lassen sich in der Regel durch Umstellen der Basis-URL anbinden.
- Datenmaskierung (DLP): Erkennung und Maskierung sensibler Inhalte, erweiterbar um eigene Entitäten pro Abteilung.
- Schutz vor Prompt-Injection: Prüfung von Eingaben auf bekannte Manipulationsmuster, geschützte System-Prompts und Filter für Ausgaben.
- Audit-Trail: Strukturierte Protokollierung von Anfragen, Antworten und Richtlinienentscheidungen als Nachweis für Datenschutzbeauftragte und Prüfungen.
- Identitäten und Richtlinien: Anbindung per SSO, Regeln pro Rolle, Team und Modell.
- Kosten und Budgets: Verbrauchsübersicht pro Nutzer, Team und Projekt mit Budgetgrenzen.
Einsatzbereiche in regulierten Branchen
Kanzleien und Rechtsabteilungen
Mandantenkorrespondenz zusammenfassen, Verträge analysieren, Schriftsätze vorbereiten. Namen, Aktenzeichen und Vertragsdetails werden vor der Verarbeitung maskiert.
Kliniken und Gesundheitswesen
Arztbriefe entwerfen, Befunde zusammenfassen, Dokumentation strukturieren. Patientennamen und Versicherungsnummern werden vor der Verarbeitung entfernt, sensible Workloads laufen auf einem lokalen Modell.
Personalabteilungen
Stellenausschreibungen formulieren, Unterlagen vorsortieren, Onboarding-Dokumente erstellen. Bewerberdaten werden pseudonymisiert. Beachten Sie, dass KI-Systeme im Recruiting nach dem EU AI Act als Hochrisiko-Anwendungen gelten können und zusätzliche Pflichten auslösen.
VerdaGate-Pakete und Preise
| Gateway Only | LLM + Gateway | |
|---|---|---|
| Prinzip | Sicherer Proxy für freigegebene Cloud-Modelle | Gateway plus dedizierter GPU-Server mit eigenem LLM |
| Enthaltene Nutzer | 10 | 25 |
| Maskierung und Audit-Trail | ja | ja |
| Routing | Cloud-Modelle | Hybrid: lokal und Cloud |
| Preis | ab 490 € pro Monat | ab 1.690 € pro Monat |
Alle Preise netto, 12 Monate Laufzeit, zuzüglich einmaliger Einrichtung. Für größere Organisationen gibt es ein Enterprise-Paket mit mehreren Modellen, SSO/LDAP und einem SLA von 99,9 %. Details und Demo auf der Produktseite VerdaGate bei VerdaGen.ai.
Die Rolle von Verdacloud: Hosting und lokales LLM
VerdaGate kann bei Ihnen im eigenen Rechenzentrum laufen oder als Managed Service auf Verdacloud. Im zweiten Fall betreiben wir Gateway und, im Paket LLM + Gateway, den dedizierten GPU-Server mit dem Sprachmodell in ISO-27001-zertifizierten Rechenzentren in Bayern und Sachsen. Dazu gehören Monitoring, Updates, Backups und ein fester Ansprechpartner. Wie das Zusammenspiel aus Gateway und eigenem Modell aussieht, zeigt die Seite Local LLM und Secure Gateway. Hintergründe zum Standort finden Sie unter Rechenzentrum.
Die Integration in Ihre bestehende IT-Landschaft, etwa SSO, Richtlinien und Rollout, begleiten die Consultants von VerdaGen.ai.