KI-Ratschläge verdrängen das ehrliche „Ich weiß es nicht“
19. Juli 2026
Eine neue Studie mit 3.132 Teilnehmenden zeigt: Falsche KI-Ratschläge senkten die Bereitschaft, eine Antwort zu verweigern, von 44 auf 3 Prozent.
Worum es geht
Eine am 15. Juli 2026 bei arXiv eingereichte Studie trifft einen Nerv, der weit über Chatbots hinausgeht: KI-Systeme beantworten fast jede Frage flüssig, auch wenn die Antwort falsch ist. Forschende der École Normale Supérieure, der Sapienza Universität Rom und der Universität Milano-Bicocca untersuchten deshalb nicht nur, ob Menschen einer KI glauben. Sie fragten, ob KI-Ratschläge die Fähigkeit verschieben, überhaupt zu sagen: „Ich weiß es nicht.“
Die öffentliche Aufmerksamkeit kam am 19. Juli 2026 durch einen Bericht von The Register, der die Studienergebnisse mit Aussagen des Mitautors Valerio Capraro einordnete. Für Schulen, Wissensarbeit, Recherche und Support ist das relevant, weil viele Produkte KI-Antworten heute ungefragt in Suchfenster, Office-Software und Lernumgebungen schieben.
Was die Studie tatsächlich macht
Die Arbeit trägt den Titel „AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized“. In fünf Experimenten mit insgesamt 3.132 Teilnehmenden sollten Menschen schwierige Detailfragen beantworten und konnten jederzeit ablehnen. Die Fragen waren so gewählt, dass das verwendete Sprachmodell falsche Hinweise gab.
Der zentrale Befund ist drastisch: Ohne KI sagten 44 Prozent der Teilnehmenden, dass sie die Antwort nicht wissen. Mit KI-Ratschlag fiel dieser Anteil auf 3 Prozent. Gleichzeitig beantworteten die Teilnehmenden mehr Fragen, waren aber laut Abstract nur noch etwa ein Drittel so häufig korrekt wie ohne KI. Ihre Zuversicht stieg trotzdem deutlich. Geldanreize für richtige Antworten verbesserten das Verhalten etwas, brachten die Zurückhaltung aber nicht auf das Niveau ohne KI zurück.
Warum das wichtig ist
Viele Debatten über Halluzinationen kreisen um die Modelle: Wie oft liegen sie falsch, wie gut zitieren sie Quellen, wie stark sinkt die Fehlerrate? Diese Studie verschiebt den Blick auf den Menschen vor dem Bildschirm. Wenn eine plausible Antwort das innere Stoppschild abschwächt, reicht technische Genauigkeit allein nicht aus.
Das betrifft echte Alltagsentscheidungen. Eine Lehrkraft, die Schülerarbeiten prüft, eine Ärztin, die einen Entwurf für Patienteninformationen liest, oder ein Entwickler, der eine Bibliothek bewertet, brauchen nicht nur Antworten. Sie brauchen die Fähigkeit, Unsicherheit stehen zu lassen. Die Autoren machen keine Aussage darüber, dass jede KI-Nutzung schadet. Sie zeigen aber, dass bereits die Verfügbarkeit eines Ratschlags die Schwelle verändern kann, bei der Menschen von „nicht sicher“ zu „ich antworte trotzdem“ wechseln.
Einfach erklärt
Stell dir vor, du packst einen Koffer für eine Reise und bist unsicher, ob es am Ziel regnet. Ohne Hilfe lässt du vielleicht Platz frei oder prüfst den Wetterbericht. Wenn aber eine selbstbewusste Person neben dir sofort sagt: „Kein Regen, nimm keine Jacke mit“, packst du schneller weiter. Das Problem ist nicht nur, dass die Person falsch liegen kann. Das Problem ist, dass du aufhörst, deine eigene Unsicherheit ernst zu nehmen.
KI-Ratschläge können genau so wirken. Sie füllen eine Lücke so schnell, dass die Lücke nicht mehr wie eine Warnung aussieht.
Praktisches Beispiel
Ein Kundendienstteam beantwortet täglich 1.000 technische Tickets. Bei 120 Tickets sind die Fakten unklar, weil Logdateien fehlen oder ein Kunde widersprüchliche Angaben macht. Ohne KI markieren Mitarbeitende 50 dieser Fälle für Rückfragen. Mit einem eingeblendeten KI-Vorschlag markieren sie nur noch 5 Fälle, weil der Vorschlag plausibel klingt.
Kurzfristig sieht das effizient aus: 45 Tickets werden schneller geschlossen. Wenn aber nur 20 davon falsch gelöst werden, entstehen Rückläufer, Erstattungen und verärgerte Kunden. Der eigentliche Schaden liegt nicht in der einzelnen falschen Antwort. Er liegt darin, dass das System die ehrliche Unsicherheit aus dem Prozess drückt.
Einordnung und Grenzen
Erstens ist die Studie ein Preprint und damit noch nicht in einem begutachteten Journal erschienen. Die Ergebnisse sind ernst zu nehmen, sollten aber durch unabhängige Replikationen in anderen Aufgabenbereichen überprüft werden.
Zweitens wurden die Fragen so konstruiert, dass die KI falsch lag. Das ist methodisch sinnvoll, um den Effekt sichtbar zu machen, bildet aber nicht jede Alltagssituation ab, in der KI manchmal hilfreich und korrekt ist.
Drittens sagt die Studie wenig darüber, welche Produktgestaltung am besten hilft. Mögliche Gegenmittel wären verpflichtende Unsicherheitsanzeigen, bessere Quellenprüfung, bewusste Antwortverzögerung oder Oberflächen, die „Ich weiß es nicht“ als gute Entscheidung behandeln. Welche Variante wirkt, muss separat getestet werden.
SEO- und GEO-Schlüsselbegriffe
KI-Ratschläge, AI advice, Halluzinationen, menschliches Urteil, Unsicherheit, arXiv 2607.13562, Valerio Capraro, Chiara Marcoccia, Walter Quattrociocchi, kritisches Denken, Human-Computer Interaction, KI in Bildung
💡 Im Klartext
KI-Ratschläge können Menschen dazu bringen, seltener „Ich weiß es nicht“ zu sagen. In der Studie sank diese Zurückhaltung von 44 auf 3 Prozent, obwohl die KI bewusst falsche Hinweise gab. Das Risiko liegt nicht nur in falschen Antworten, sondern in falscher Sicherheit.
Wichtigste Erkenntnisse
- →Die Studie umfasst fünf Experimente mit insgesamt 3.132 Teilnehmenden.
- →Mit KI-Ratschlag fiel die Bereitschaft, keine Antwort zu geben, von 44 auf 3 Prozent.
- →Die Teilnehmenden wurden selbstbewusster, obwohl ihre Trefferquote deutlich sank.
- →Geldanreize halfen etwas, beseitigten den Effekt aber nicht vollständig.
- →Für Bildung, Support, Recherche und Wissensarbeit ist Unsicherheit ein Produktdesign-Thema.
Häufige Fragen
Ist die Studie bereits begutachtet?
Nein. Sie ist als Preprint bei arXiv erschienen. Die Ergebnisse sind relevant, sollten aber unabhängig repliziert werden.
Heißt das, KI macht Menschen grundsätzlich dümmer?
Nein. Die Studie zeigt einen konkreten Effekt unter kontrollierten Bedingungen: falsche KI-Ratschläge senkten die Bereitschaft, Unsicherheit zuzugeben.
Was können Teams praktisch ändern?
Sie können KI-Antworten mit Quellenpflicht, Unsicherheitsmarkern und klaren Eskalationsregeln verbinden. Wichtig ist, „Ich weiß es nicht“ nicht als Fehler zu behandeln.
Warum ist das für Kinder besonders wichtig?
Kinder lernen kritisches Denken noch. Wenn Systeme immer sofort antworten, kann die Gewohnheit fehlen, Unsicherheit auszuhalten und nach Belegen zu fragen.