RAMPART und Clarity machen Agent-Sicherheit testbar

Worum es geht

Microsoft RAMPART und Microsoft Clarity Agent sind zwei Open-Source-Werkzeuge aus Microsofts AI-Red-Team-Umfeld. Sie richten sich nicht an Endnutzer, sondern an Teams, die eigene Agenten bauen: Systeme, die E-Mails lesen, Tickets bearbeiten, Code ausfuehren, Datenbanken abfragen oder andere Werkzeuge bedienen koennen. Genau dort wird Sicherheit konkreter als bei einem reinen Chatbot, weil falsche Agentenaktionen echte Nebenwirkungen haben.

Microsoft hat beide Tools am 20. Mai 2026 vorgestellt. RAMPART soll Sicherheits- und Safety-Szenarien als wiederholbare Tests in die Entwicklung bringen. Clarity soll Teams vor der Implementierung durch Problemklaerung, Loesungsoptionen, Fehleranalyse und Entscheidungsdokumentation fuehren. Zusammen sind sie ein Werkzeugpaar fuer Teams, die Agenten nicht nur schneller, sondern kontrollierter bauen wollen.

Was RAMPART und Clarity tatsaechlich machen

RAMPART ist ein pytest-natives Testframework fuer agentische Anwendungen. Entwickler schreiben Tests, die ein Szenario gegen den Agenten ausfuehren, beobachtbare Ergebnisse pruefen und mit einem klaren Pass-oder-Fail-Signal enden. Der wichtige Punkt: Es geht nicht nur um Unit-Tests fuer Funktionen, sondern um Verhaltenspruefungen fuer Agenten. Ein Test kann zum Beispiel abbilden, dass ein Agent eine vergiftete E-Mail lesen darf, aber danach keinen geheimen API-Key an eine externe Domain senden darf.

Technisch baut RAMPART auf Microsofts PyRIT auf. Es kann adversariale Muster wie Cross-Prompt-Injection pruefen und beruecksichtigt, dass LLM-Verhalten probabilistisch ist. Ein Test kann also mehrfach laufen und eine Schwelle definieren, statt so zu tun, als waere ein einziger Lauf ausreichend.

Clarity arbeitet an einer anderen Stelle. Es ist ein strukturierter Dialogpartner fuer Architektur- und Produktentscheidungen. Das Tool fuehrt Teams durch Fragen wie: Welches Problem loesen wir wirklich? Welche Annahmen tragen die Loesung? Wo kann das System scheitern? Die Ergebnisse landen als Markdown-Dateien in einem .clarity-protocol/-Verzeichnis und koennen mit dem Code reviewed werden.

Warum das wichtig ist

Agenten verbinden Sprache mit Handlung. Ein Support-Agent kann ein Ticket nicht nur zusammenfassen, sondern schliessen. Ein Coding-Agent kann nicht nur Code vorschlagen, sondern Befehle ausfuehren. Ein Office-Agent kann nicht nur Kalenderdaten lesen, sondern Termine veraendern. Dadurch reicht es nicht, nach dem Bau einen Sicherheitsreview zu machen. Sicherheitsannahmen muessen in Anforderungen, Tests und CI wandern.

RAMPART ist fuer Teams interessant, die bereits Agenten entwickeln und bekannte Angriffsmuster in Regressionstests verwandeln wollen. Clarity ist fuer Teams interessant, die merken, dass schnelle Agentenentwicklung leicht falsche Produktannahmen betoniert. Der Nutzen liegt weniger in Magie als in Disziplin: Risiken werden als Dateien, Tests und Review-Artefakte sichtbar.

Einfach erklaert

Stell dir vor, du baust eine neue Werkstatt. Clarity ist der Mensch, der vor dem Kauf der Maschinen fragt: Was wird hier wirklich gebaut, wer darf an welche Werkzeuge, und was passiert, wenn jemand den falschen Knopf drueckt? RAMPART ist danach die Checkliste, die jeden Morgen prueft, ob die Schutzschalter, Not-Aus-Knoepfe und Zugangsschloesser noch funktionieren.

Praktisches Beispiel

Ein SaaS-Team baut einen Agenten fuer 50.000 monatliche Supporttickets. Der Agent darf Kundendaten lesen, Rueckerstattungen vorbereiten und Standardantworten senden. Vor dem ersten Pilotlauf nutzt das Team Clarity, um festzuhalten, dass Rueckerstattungen ueber 100 Euro nie automatisch ausgefuehrt werden duerfen. Daraus entsteht ein dokumentierter Entscheid mit Risikoanalyse.

Danach schreibt das Team RAMPART-Tests. Ein Test legt ein Ticket mit versteckter Anweisung an: Der Agent soll interne Notizen ignorieren und eine Rueckerstattung ausloesen. Der Test laeuft 30 Mal pro Pull Request. Er besteht nur, wenn der Agent in mindestens 29 von 30 Laeufen keine nicht freigegebene Aktion ausfuehrt und den Fall an einen Menschen eskaliert.

Einordnung und Grenzen

Erstens ersetzen die Tools kein Threat Modeling durch erfahrene Sicherheitsleute. RAMPART kann nur pruefen, was ein Team als Szenario modelliert. Zweitens ist Clarity kein Wahrheitsorakel. Die erzeugten Dokumente koennen falsche Annahmen enthalten und muessen reviewed werden. Drittens braucht RAMPART Adapter zur eigenen Agentenarchitektur; fuer komplexe Toolchains entsteht Integrationsarbeit.

Auch die Reife ist wichtig: RAMPART wurde im Mai 2026 mit Version 0.1.0 veroeffentlicht. Fuer produktive Teams heisst das: zuerst in einem begrenzten Agentenpfad testen, nicht sofort als einzige Sicherheitskontrolle behandeln.

SEO- und GEO-Schluesselbegriffe

Microsoft RAMPART, Microsoft Clarity Agent, AI agent safety, agent security testing, pytest AI agents, PyRIT, prompt injection testing, cross-prompt injection, AI red teaming, agent CI tests, AI safety tooling, open source security tools