29.03.2026
Aktualisiert 27.07.2026
Best Practice
Prompt Validation für KI-Agenten
Prompt-wirksame Eingaben vor dem Agentenlauf klassifizieren, begrenzen und bei erhöhtem Risiko isolieren oder freigeben.
Worum es geht
Prompt Validation prüft alle Inhalte, die das Modellverhalten beeinflussen können: Nutzereingaben, Dateien, Webseiten, RAG-Treffer, Memory und Tool-Ausgaben. Ziel ist nicht ein perfekter Detektor, sondern eine risikogerechte Behandlung vor dem Kontextaufbau.
Der Kontrollpfad
Quelle erfassen
Typ, Herkunft und Mandant speichern
Inhalt prüfen
Format, Muster und Zielwechsel erkennen
Risiko einstufen
Zulassen, reduzieren oder isolieren
Kontext bauen
Nur benötigte, markierte Daten übergeben
Mögliche Folgen
Zugelassen
Quarantäne
Freigabe
Validierung liefert ein Signal. Rechte, Freigaben und Tool-Policies bleiben davon unabhängig.
Die drei wichtigsten Maßnahmen
Alle prompt-wirksamen Quellen mit Herkunft, Datenklasse und Vertrauensstufe erfassen.
Schema, Größe, Encoding, Markup, bekannte Angriffsmuster und semantische Zielwechsel kombinieren.
Inhalte reduzieren, markieren, isolieren oder zur Prüfung geben; riskante Aktionen separat autorisieren.
Verdächtige Inhalte gelangen nicht ungekennzeichnet in privilegierte Kontexte oder direkt in wirksame Tool-Ketten.
Drei Umsetzungsmuster
Dateien normalisieren
DokumenteVerstecktes Markup, Metadaten und aktive Inhalte werden entfernt oder separat bewertet.
Kontext vor Nutzung prüfen
RAG & MemoryNur relevante Passagen mit Quelle, Mandant und Gültigkeit gelangen in den Lauf.
Tool-Ausgaben begrenzen
Tools & MCPDownstream-Schritte erhalten erlaubte Felder statt unkontrollierten Freitext.
Minimalstandard und Tests
Minimalstandard
- Alle prompt-wirksamen Eingänge sind inventarisiert.
- Herkunft, Mandant und Vertrauensstufe bleiben erhalten.
- Dateityp, Größe, Encoding und Schema werden geprüft.
- Riskante Inhalte haben Quarantäne- und Freigabepfade.
- Validierungsentscheidungen sind korrelierbar protokolliert.
- Tool-Berechtigungen hängen nie allein vom Validierungsergebnis ab.
Testfälle müssen direkte und indirekte Injection, Unicode- und Encoding-Tricks, verstecktes Markup, vergiftete RAG- oder Memory-Einträge sowie manipulierte Tool-Ausgaben umfassen.