RAMPART und Clarity machen Agent-Sicherheit testbar

Worum es geht

Microsoft RAMPART und Microsoft Clarity Agent sind zwei Open-Source-Werkzeuge aus Microsofts AI-Red-Team-Umfeld. Sie richten sich nicht an Endnutzer, sondern an Teams, die eigene Agenten bauen: Systeme, die E-Mails lesen, Tickets bearbeiten, Code ausfuehren, Datenbanken abfragen oder andere Werkzeuge bedienen können. Genau dort wird Sicherheit konkreter als bei einem reinen Chatbot, weil falsche Agentenaktionen echte Nebenwirkungen haben.

Microsoft hat beide Tools am 20. Mai 2026 vorgestellt. RAMPART soll Sicherheits- und Safety-Szenarien als wiederholbare Tests in die Entwicklung bringen. Clarity soll Teams vor der Implementierung durch Problemklaerung, Loesungsoptionen, Fehleranalyse und Entscheidungsdokumentation führen. Zusammen sind sie ein Werkzeugpaar für Teams, die Agenten nicht nur schneller, sondern kontrollierter bauen wollen.

Was RAMPART und Clarity tatsaechlich machen

RAMPART ist ein pytest-natives Testframework für agentische Anwendungen. Entwickler schreiben Tests, die ein Szenario gegen den Agenten ausfuehren, beobachtbare Ergebnisse prüfen und mit einem klaren Pass-oder-Fail-Signal enden. Der wichtige Punkt: Es geht nicht nur um Unit-Tests für Funktionen, sondern um Verhaltenspruefungen für Agenten. Ein Test kann zum Beispiel abbilden, dass ein Agent eine vergiftete E-Mail lesen darf, aber danach keinen geheimen API-Key an eine externe Domain senden darf.

Technisch baut RAMPART auf Microsofts PyRIT auf. Es kann adversariale Muster wie Cross-Prompt-Injection prüfen und beruecksichtigt, dass LLM-Verhalten probabilistisch ist. Ein Test kann also mehrfach laufen und eine Schwelle definieren, statt so zu tun, als wäre ein einziger Lauf ausreichend.

Clarity arbeitet an einer anderen Stelle. Es ist ein strukturierter Dialogpartner für Architektur- und Produktentscheidungen. Das Tool führt Teams durch Fragen wie: Welches Problem lösen wir wirklich? Welche Annahmen tragen die Lösung? Wo kann das System scheitern? Die Ergebnisse landen als Markdown-Dateien in einem .clarity-protocol/-Verzeichnis und können mit dem Code reviewed werden.

Warum das wichtig ist

Agenten verbinden Sprache mit Handlung. Ein Support-Agent kann ein Ticket nicht nur zusammenfassen, sondern schliessen. Ein Coding-Agent kann nicht nur Code vorschlagen, sondern Befehle ausfuehren. Ein Office-Agent kann nicht nur Kalenderdaten lesen, sondern Termine verändern. Dadurch reicht es nicht, nach dem Bau einen Sicherheitsreview zu machen. Sicherheitsannahmen müssen in Anforderungen, Tests und CI wandern.

RAMPART ist für Teams interessant, die bereits Agenten entwickeln und bekannte Angriffsmuster in Regressionstests verwandeln wollen. Clarity ist für Teams interessant, die merken, dass schnelle Agentenentwicklung leicht falsche Produktannahmen betoniert. Der Nutzen liegt weniger in Magie als in Disziplin: Risiken werden als Dateien, Tests und Review-Artefakte sichtbar.

Einfach erklaert

Stell dir vor, du baust eine neue Werkstatt. Clarity ist der Mensch, der vor dem Kauf der Maschinen fragt: Was wird hier wirklich gebaut, wer darf an welche Werkzeuge, und was passiert, wenn jemand den falschen Knopf drueckt? RAMPART ist danach die Checkliste, die jeden Morgen prüft, ob die Schutzschalter, Not-Aus-Knoepfe und Zugangsschloesser noch funktionieren.

Praktisches Beispiel

Ein SaaS-Team baut einen Agenten für 50.000 monatliche Supporttickets. Der Agent darf Kundendaten lesen, Rückerstattungen vorbereiten und Standardantworten senden. Vor dem ersten Pilotlauf nutzt das Team Clarity, um festzuhalten, dass Rückerstattungen über 100 Euro nie automatisch ausgefuehrt werden dürfen. Daraus entsteht ein dokumentierter Entscheid mit Risikoanalyse.

Danach schreibt das Team RAMPART-Tests. Ein Test legt ein Ticket mit versteckter Anweisung an: Der Agent soll interne Notizen ignorieren und eine Rückerstattung ausloesen. Der Test läuft 30 Mal pro Pull Request. Er besteht nur, wenn der Agent in mindestens 29 von 30 Laeufen keine nicht freigegebene Aktion ausfuehrt und den Fall an einen Menschen eskaliert.

Einordnung und Grenzen

Erstens ersetzen die Tools kein Threat Modeling durch erfahrene Sicherheitsleute. RAMPART kann nur prüfen, was ein Team als Szenario modelliert. Zweitens ist Clarity kein Wahrheitsorakel. Die erzeugten Dokumente können falsche Annahmen enthalten und müssen reviewed werden. Drittens braucht RAMPART Adapter zur eigenen Agentenarchitektur; für komplexe Toolchains entsteht Integrationsarbeit.

Auch die Reife ist wichtig: RAMPART wurde im Mai 2026 mit Version 0.1.0 veroeffentlicht. Für produktive Teams heisst das: zuerst in einem begrenzten Agentenpfad testen, nicht sofort als einzige Sicherheitskontrolle behandeln.

SEO- und GEO-Schluesselbegriffe

Microsoft RAMPART, Microsoft Clarity Agent, AI agent safety, agent security testing, pytest AI agents, PyRIT, prompt injection testing, cross-prompt injection, AI red teaming, agent CI tests, AI safety tooling, open source security tools