Data Protection & Privacy für KI-Agenten

Worum es geht

KI-Agenten bewegen Daten durch Prompts, Retrieval, Memory, Tools, Logs und externe Modelle. Datenschutz beginnt deshalb vor dem Kontextaufbau und endet erst nach Ausgabe, Speicherung und fristgerechter Löschung.

Der Kontrollpfad

1

Daten klassifizieren

Herkunft, Zweck und Schutzbedarf erfassen

2

Daten minimieren

Felder filtern oder pseudonymisieren

3

Nutzung begrenzen

Kontext, Tool und Empfänger prüfen

4

Fristgerecht löschen

Memory, Logs und Caches einbeziehen

Mögliche Folgen

Reduzierter Kontext

Kontrollierte Ausgabe

Nachweisbare Löschung

Redaktion in der Oberfläche reicht nicht. Rohdaten können bereits in Traces, Embeddings, Caches oder Anbieterlogs weiterleben.

Die drei wichtigsten Maßnahmen

Schutzschicht 1

Daten minimieren

Filtere nicht benötigte Felder vor Prompt, Retrieval und Tool-Aufruf; pseudonymisiere Identifikatoren wo möglich.

Schutzschicht 2

Zweck und Empfänger binden

Prüfe Datenklasse, Mandant, Verarbeitungszweck, Modellregion und Zielsystem bei jedem Übergang.

Schutzschicht 3

Lebenszyklus steuern

Definiere Aufbewahrung und Löschung für Chatverlauf, Memory, Vektoren, Logs, Backups und Anbietertelemetrie.

Personenbezogene und vertrauliche Daten bleiben auf Zweck, Empfänger, Umfang und Dauer begrenzt.

Drei Umsetzungsmuster

PII vor dem Modell reduzieren

Support

Ticket

Redaktion

Minimierter Kontext

Kontaktdaten und Identifikatoren werden entfernt oder ersetzt, sofern sie für die Antwort nicht erforderlich sind.

Berechtigungen am Retrieval erhalten

RAG

Nutzer

ACL-Filter

Treffer

Nur Dokumente und Passagen, die der delegierende Nutzer sehen darf, gelangen in den Kontext.

Sichere Telemetrie erzeugen

Logging

Ereignis

Feldfilter

Kurzzeit-Log

Logs enthalten Ereignis- und Policy-Metadaten, aber keine vollständigen Prompts, Secrets oder unnötigen Nutzdaten.

Minimalstandard und Tests

Datenschutzanforderungen hängen von Zweck, Region und Rechtsgrundlage ab. Die technische Basis ist eine vollständige Datenfluss- und Speicherübersicht.

Minimalstandard

• Datenquellen, Klassen, Zwecke, Empfänger und Speicherorte sind inventarisiert.
• Nicht erforderliche Felder werden vor Modell- und Tool-Zugriff entfernt.
• RAG, Memory und Tools erzwingen Mandanten- und Nutzerberechtigungen.
• Externe Modelle und Dienste sind nach Region, Retention und Training-on-Data bewertet.
• Logs, Traces, Embeddings, Caches und Backups haben Löschfristen.
• Auskunft, Berichtigung, Export und Löschung sind technisch nachvollziehbar.

Testfälle müssen mindestens abdecken:

• PII-Leaks über Prompt, Ausgabe, Tool-Parameter und Fehlertexte
• Cross-Tenant-Retrieval und unzulässige Memory-Wiederverwendung
• Löschung aus Vektorspeichern, Caches, Logs und Backups
• Datenübertragung an unerlaubte Modelle, Regionen oder Empfänger

Quellen

• DSGVO – Verordnung (EU) 2016/679
• NIST Privacy Framework
• OWASP LLM02:2025 – Sensitive Information Disclosure