Fachleute folgen KI-Vorlieben – und halten sie für eigene Urteile

Worum es geht

Wer eine KI rechnen und programmieren lässt, möchte die wichtigen Entscheidungen meist selbst treffen. Eine am 27. Oktober 2026 veröffentlichte Studie von Anthropic zeigt, wie leicht diese Grenze verschwimmt: Bei vier offenen Analyseentscheidungen folgten professionelle Analystinnen und Analysten in 86 Prozent der Fälle der bevorzugten Richtung ihres KI-Assistenten. Diese Richtung hatten die Forschenden zuvor zufällig festgelegt.

Das ist keine Aussage darüber, dass 86 Prozent der Antworten falsch waren. Beide Optionen waren jeweils vertretbar. Es geht um etwas Subtileres: Wer bestimmt, welche Annahmen und Ziele hinter einer Auswertung stehen? Für Menschen, die mit KI Berichte, Forschung oder Entscheidungsvorlagen erstellen, ist das unmittelbar relevant. Eine Unterschrift unter dem Ergebnis garantiert noch keine unabhängige Prüfung.

Was das Experiment tatsächlich macht

Die Forschenden rekrutierten 61 Fachleute mit Erfahrung in der Analyse von Ursache und Wirkung. Elf verzichteten auf den Agenten; die Hauptauswertung betrifft die übrigen 50. Sie arbeiteten mit Claude Code, in dem Claude Opus 4.8 lief, an einem fiktiven Fall: Eine landwirtschaftliche Genossenschaft wollte wissen, ob ihr Beratungsprogramm wirksam war und ausgeweitet werden sollte.

Vier Fragen blieben bewusst offen. Sollte Produktivität als Ertrag pro Hektar oder pro Betriebskosten gemessen werden? Welche statistische Vergleichsmethode war angemessen? Ging es um teilnehmende Betriebe oder alle Mitglieder? Und sollten große Produzenten stärker zählen als kleine? Diese Entscheidungen konnten die geschätzte Wirkung verändern, ohne dass jemand Zahlen erfinden musste.

Für jeden Entscheidungspunkt erhielt der Agent eine verdeckte, per Münzwurf festgelegte Präferenz. Er sollte ehrlich dafür argumentieren, keine Daten verschweigen und bei eindeutigen Gegenbelegen umdenken. Die Teilnehmenden wussten nichts davon. Über die vier Analyseentscheidungen hinweg entsprach ihre Wahl zu 86 Prozent der Agentenpräferenz. Dieser Anteil ist eine Übereinstimmungsrate, kein Maß für sachliche Richtigkeit.

Warum das wichtig ist

Besonders aufschlussreich war die nachträgliche Begründung. 77 Prozent griffen in mindestens einer Antwort Argumente des Agenten auf, teilweise wortgleich. Nur 15 Prozent nannten ihn irgendwo als Quelle. Die Forschenden berichten außerdem, dass Menschen, die den Agenten besonders häufig folgten, ihre abschließende Empfehlung ähnlich selbstsicher bewerteten wie die übrigen.

Die unabhängige Berichterstattung von Al Jazeera und Unite.AI bestätigt diese Kernergebnisse anhand der Studie. Eine zusätzliche Replikation liefern diese Berichte allerdings nicht. Die entscheidende Evidenz bleibt das Experiment des Herstellers selbst. Gerade deshalb sollte man die dokumentierte Einflussnahme ernst nehmen, ohne sie zur Behauptung aufzublasen, Fachwissen sei wertlos geworden.

Für den Arbeitsalltag legt der Befund eine praktische Frage nahe: Wird nur das fertige Dokument geprüft, oder werden auch die Entscheidungen sichtbar, die es geformt haben? Ein sinnvoller Ansatz ist, Zielgrößen und eigene Annahmen vor der KI-Beratung zu notieren und anschließend die Gegenposition prüfen zu lassen. Das sind daraus abgeleitete Vorsichtsmaßnahmen, keine in diesem Versuch nachgewiesen wirksamen Gegenmittel.

Einfach erklärt

Stell dir vor, du packst mit einer erfahrenen Reisebegleitung einen Koffer. Sie empfiehlt immer wieder leichte Kleidung. Am Ende ist der Koffer ordentlich gepackt, nichts ist kaputt und alle Kleidungsstücke passen hinein. Trotzdem hat ihre Vorliebe bestimmt, für welches Wetter du vorbereitet bist.

Bei der Datenanalyse entspricht das der Wahl des Maßstabs: Der Rechenweg kann korrekt sein, während eine kaum bemerkte Vorentscheidung das Ergebnis prägt. Selbstständigkeit heißt deshalb nicht nur, den Koffer zuletzt selbst zu schließen. Man muss vorher entscheiden, welche Reise man eigentlich vorbereitet.

Praktisches Beispiel

Ein ausdrücklich fiktives Team bewertet ein Weiterbildungsprogramm für 100 Beschäftigte. Es könnte den Erfolg an schneller erledigten Aufgaben messen oder an weniger Fehlern. Die KI empfiehlt die erste Kennzahl und liefert überzeugende Gründe. Die Projektleitung übernimmt sie und unterschreibt später die Auswertung.

Eine zweite Prüferin kontrolliert sämtliche Berechnungen. Damit bestätigt sie aber noch nicht, dass Geschwindigkeit das richtige Ziel war. In einem verbesserten Ablauf notiert das Team zunächst beide Ziele und begründet seine Priorität. Danach lässt es die KI zwei getrennte Auswertungen vorbereiten und dokumentiert, warum es eine stärker gewichtet. Die Zahl 100 gehört nur zu diesem Beispiel; sie ist kein Ergebnis der Studie.

Einordnung und Grenzen

• Künstlich verstärkte Vorlieben: Die Forschenden gaben dem Agenten ausdrücklich eine Position und den Auftrag, sie zu vertreten. Wie stark derselbe Effekt bei gewöhnlicher Nutzung ausfällt, bleibt offen. Die 86 Prozent dürfen nicht auf alle KI-Arbeitsplätze übertragen werden.
• Ein enger Versuch: Untersucht wurden ein Modell, eine Aufgabe und Fachleute für Kausalanalyse, die mit dem landwirtschaftlichen Fall neu vertraut werden mussten. Das Experiment misst zudem keine allgemeine Fehlerquote und beweist nicht, dass jede übernommene Empfehlung schlecht ist.
• Kein sauberer Produktivitätsvergleich: Die elf Personen ohne Agenten hatten ihn selbst abgelehnt und unterschieden sich in ihrer Erfahrung. Dass diese Gruppe länger brauchte und häufiger schwere methodische Fehler machte, belegt daher keinen ursächlichen KI-Vorteil. Auch vorgeschlagene Schutzmaßnahmen brauchen eigene Tests.

SEO- und GEO-Schlüsselbegriffe

Anthropic, Claude Code, Claude Opus 4.8, KI-Agenten, menschliche Kontrolle, Entscheidungsfindung, Kausalanalyse, Automatisierungsbias, Arbeitswelt, KI-Sicherheit