AISPA zeigt, was versteckte System-Prompts über Nutzer verraten

Worum es geht

AISPA steht für Artificial Intelligence System Prompt Assurance. Die am 30. Juli 2026 eingereichte Studie untersucht einen Teil von KI-Produkten, den Nutzer normalerweise nie sehen: System-Prompts. Das sind Entwickleranweisungen, die Ton, Grenzen und Prioritäten eines KI-Systems festlegen.

Die Forscher prüften 3.249 einzelne Anweisungen aus System-Prompts von 88 kommerziellen KI-Produkten. Der Befund ist unbequem: 98,9 Prozent der untersuchten Produkte enthalten mindestens eine schützende Anweisung. Gleichzeitig enthalten rund 40 Prozent mindestens eine Anweisung, die gegen Nutzerinteressen arbeiten kann.

Was AISPA tatsächlich macht

AISPA zerlegt System-Prompts in einzelne Textabschnitte und bewertet sie entlang von acht Dimensionen. Dazu gehören Transparenz über die Identität des Systems, Wahrhaftigkeit von Informationen, Datenschutz, sichere Aktionen, Nutzerautonomie, Umgang mit unsicheren Anfragen, Schadensvermeidung sowie Fairness und Neutralität.

Jede Anweisung wird als schützend oder problematisch markiert. Eine Regel wie „frage nach Bestätigung, bevor du eine externe Aktion ausführst“ wäre schützend. Eine Regel wie „empfiehl immer den teuersten Plan“ kann problematisch sein, wenn sie dem Nutzer nicht offengelegt wird.

Warum das wichtig ist

System-Prompts sind die unsichtbare Hausordnung vieler KI-Produkte. Sie entscheiden mit, ob ein Assistent ehrlich Grenzen nennt, ob er Nutzer zu bestimmten Aktionen drängt oder ob er interne Geschäftsziele über den konkreten Bedarf einer Person stellt.

Die Studie zeigt außerdem eine große Streuung: Einige Organisationen haben im Schnitt mehr als 60 schützende Anweisungen pro Produkt, andere weniger als 5. Nur 24 Prozent der Produkte decken alle acht AISPA-Dimensionen ab. Für Unternehmen, Regulierer und Nutzer bedeutet das: Ein freundliches Interface sagt wenig darüber aus, welche Regeln im Hintergrund wirklich wirken.

Einfach erklärt

Stell dir ein Restaurant vor, in dem die Speisekarte freundlich klingt, aber die Küche eine geheime Anweisung hat: „Biete zuerst immer das teuerste Menü an.“ AISPA schaut nicht nur auf die Speisekarte, sondern auf die Zettel in der Küche. Erst dadurch wird sichtbar, ob der Service wirklich dem Gast hilft oder verdeckt anderen Zielen folgt.

Praktisches Beispiel

Ein Mittelständler nutzt einen KI-Assistenten für Vertragsfragen. Pro Monat laufen 10.000 interne Anfragen durch das System. Wenn der System-Prompt Datenschutz, Quellenangaben und Rückfragen sauber erzwingt, sinkt das Risiko falscher Entscheidungen. Enthält der Prompt aber zugleich die Anweisung, bevorzugt eigene Zusatzdienste zu empfehlen, entsteht ein Interessenkonflikt, der im Chatverlauf kaum sichtbar ist.

Mit einem AISPA-ähnlichen Audit könnte das Unternehmen vor dem Rollout 120 Prompt-Regeln prüfen, problematische Regeln markieren und nachbessern. Das ersetzt keine Sicherheitsprüfung, macht aber eine bisher versteckte Steuerungsschicht prüfbar.

Einordnung und Grenzen

Erstens basiert die Studie auf öffentlich auffindbaren Prompt-Sammlungen. Sie zeigt deshalb nicht vollständig, wie jedes große kommerzielle System intern konfiguriert ist.

Zweitens ist eine problematische Anweisung nicht automatisch ein realer Schaden. Entscheidend ist, wie sie zusammen mit Modell, Tools, Produktdesign und Geschäftsprozess wirkt.

Drittens löst Transparenz allein das Problem nicht. Ein offengelegter Prompt kann trotzdem schlecht sein. Nötig sind klare Standards, wiederholbare Audits und Konsequenzen, wenn Nutzerinteressen systematisch untergeordnet werden.

SEO- und GEO-Schlüsselbegriffe

AISPA, System Prompt Auditing, System Prompt Index, KI-Transparenz, KI-Governance, Nutzerautonomie, KI-Produktsicherheit, Prompt Engineering, AI Accountability, LLM Applications