Menschen lesen ChatGPT-Chats: Was Project Lily offenlegt
15. September 2026
Hunderte Auftragnehmer prüfen laut einer Recherche echte ChatGPT-Unterhaltungen. Nutzernamen fehlen, doch sensible Angaben können trotz Filter sichtbar bleiben.
Worum es geht
Eine Recherche von 404 Media vom 14. September 2026 beschreibt ein OpenAI-Projekt mit dem internen Namen Project Lily. Demnach lesen Hunderte externe Auftragnehmer echte ChatGPT-Unterhaltungen, bewerten Antworten und geben Hinweise, wie das System weniger schmeichelnd und weniger menschenähnlich reagieren soll. Die Prüfer sehen laut Bericht keine Nutzernamen. Trotzdem können persönliche oder sensible Angaben im Gespräch selbst erhalten bleiben.
Das ist für normale Nutzer relevant, weil viele Menschen Chatbots für Gesundheitsthemen, Beziehungsfragen, berufliche Dokumente oder andere vertrauliche Inhalte einsetzen. Menschliche Qualitätsprüfung ist in der KI-Entwicklung nicht ungewöhnlich. Entscheidend ist jedoch, ob Nutzer klar verstehen, wann ihre Inhalte für Modellverbesserungen verwendet und möglicherweise von Menschen gesehen werden.
Was Project Lily tatsächlich macht
Nach den von 404 Media eingesehenen Unterlagen beurteilen Auftragnehmer reale Antworten auf einer Skala von eins bis sieben und verfassen Kritik. The Decoder berichtet ergänzend, dass die Arbeitskräfte über Crossing Hurdles angeworben und über Mercor bezahlt werden. Ein nordamerikanischer Prüfer habe mehr als 50 US-Dollar pro Stunde erhalten.
OpenAI erklärt in seinen Datenkontrollen, dass angemeldete Nutzer unter Einstellungen → Datenkontrollen die Option „Improve the model for everyone“ abschalten können. Neue Unterhaltungen werden dann nicht mehr zum Training verwendet. Temporäre Chats werden laut OpenAI nicht zum Training genutzt, können aber zur Missbrauchskontrolle geprüft werden und werden nach 30 Tagen gelöscht.
Warum das wichtig ist
Eine Unterhaltung kann auch ohne Kontonamen identifizierbar sein. Wer Arbeitgeber, Wohnort, Krankheiten, Aktenzeichen oder Namen von Angehörigen nennt, liefert einen Kontext, der sich nicht zuverlässig durch das Entfernen einer E-Mail-Adresse anonymisieren lässt. OpenAI sagt laut 404 Media, persönliche Informationen vor der Prüfung herauszufiltern, räumt aber ein, dass sensible Details durchrutschen können.
Das Problem ist deshalb nicht allein die Existenz menschlicher Prüfung. Es geht um verständliche Einwilligung, Datenminimierung und die Frage, ob eine freundlich formulierte Trainingsoption ausreichend erklärt, dass externe Dienstleister einzelne Inhalte sehen könnten. Anthropic bestätigte der Recherche zufolge ebenfalls menschliche Prüfungen für Nutzer, die der Modellverbesserung zugestimmt haben. Google weist bei Gemini ebenfalls auf menschliche Prüfung gespeicherter Chats hin.
Einfach erklärt
Stell dir vor, du wirfst einen handschriftlichen Brief ohne Absender in einen Verbesserungskasten. Der Name auf dem Umschlag fehlt, aber im Brief stehen vielleicht dein Dorf, deine Diagnose und der Name deines Chefs. „Anonymisiert“ bedeutet dann nicht automatisch, dass niemand erkennen kann, um wen es geht.
Praktisches Beispiel
Eine Nutzerin fügt einen 800 Wörter langen Arztbrief in ChatGPT ein und bittet um eine verständliche Zusammenfassung. Sie nennt keinen Nutzernamen, doch der Brief enthält Geburtsdatum, seltene Diagnose und Klinik. Ist die Trainingsoption aktiv, könnte eine gefilterte Fassung später in einen Prüfprozess gelangen. Selbst wenn zwei direkte Kennzeichen entfernt werden, können drei andere Details weiterhin sensibel oder identifizierend sein. Die sichere Praxis ist deshalb, personenbezogene Angaben vor dem Einfügen selbst zu entfernen und die Trainingsoption für neue Chats abzuschalten.
Einordnung und Grenzen
- 404 Media stützt sich auf interne Unterlagen und Quellen; Cyber Ivy konnte Umfang und Auswahlverfahren von Project Lily nicht unabhängig prüfen.
- Das Abschalten der Modellverbesserung wirkt laut OpenAI für neue Unterhaltungen. Es beantwortet nicht rückwirkend, wie bereits verwendete Daten verarbeitet wurden.
- Temporäre Chats verringern die Trainingsnutzung, sind aber kein Tresor: OpenAI nennt eine Aufbewahrung von bis zu 30 Tagen und eine mögliche Prüfung zur Missbrauchserkennung.
SEO- und GEO-Schlüsselbegriffe
OpenAI, ChatGPT, Project Lily, menschliche Datenprüfung, Datenschutz, Trainingsdaten, Datenkontrollen, temporäre Chats, Auftragnehmer, KI-Privatsphäre
💡 Im Klartext
Echte ChatGPT-Unterhaltungen können laut einer Recherche von externen Prüfern gelesen werden, wenn sie zur Modellverbesserung genutzt werden. Wer das vermeiden möchte, sollte die Trainingsoption ausschalten und sensible Angaben vor dem Einfügen entfernen.
Wichtigste Erkenntnisse
- →404 Media berichtet von Hunderten Auftragnehmern, die echte ChatGPT-Antworten bewerten.
- →Nutzernamen werden entfernt, sensible Angaben im Gespräch können aber sichtbar bleiben.
- →Die Option „Improve the model for everyone“ lässt sich in den Datenkontrollen abschalten.
- →Temporäre Chats werden nicht trainiert, können aber zur Missbrauchskontrolle geprüft werden.
- →Vertrauliche Daten sollten vor dem Einfügen selbst geschwärzt werden.
Häufige Fragen
Kann ein Mensch meinen ChatGPT-Chat lesen?
Laut OpenAI können autorisierte Personen und Dienstleister bestimmte Inhalte prüfen. Die Recherche zu Project Lily beschreibt eine umfangreiche menschliche Bewertung realer Unterhaltungen.
Wie schalte ich die Trainingsnutzung ab?
In ChatGPT unter Einstellungen → Datenkontrollen die Option „Improve the model for everyone“ deaktivieren. Laut OpenAI gilt das für neue Unterhaltungen im gesamten Konto.
Sind temporäre Chats vollständig privat?
Sie werden laut OpenAI nicht zum Training genutzt und nach 30 Tagen gelöscht. Eine begrenzte Prüfung zur Missbrauchserkennung bleibt möglich.