Anthropic lässt 30.000 KI-Agenten an der eigenen Forschung arbeiten

Worum es geht

Anthropic hat erstmals konkrete Messwerte dazu veröffentlicht, wie stark Claude an der Entwicklung künftiger KI-Systeme mitarbeitet. Der am 22. September 2026 veröffentlichte Bericht beschreibt rund 30.000 gleichzeitig aktive Agenten auf der meistgenutzten internen Forschungs- und Entwicklungsplattform des Unternehmens.

Die auffälligste Zahl: Claude „führt“ nach Anthropics eigener Skala 26 Prozent der gemessenen KI-Forschungsarbeit. Bei mehr als 90 Prozent der Arbeit übernimmt das System mindestens größere Teilaufgaben unter enger menschlicher Leitung. Vollständig autonom arbeitet Claude laut Bericht in keinem der gemessenen Bereiche.

Was Anthropics Messsystem tatsächlich macht

Der R&D Automation Index zerlegt die interne KI-Forschung in Aufgaben und ordnet ihnen Automatisierungsstufen von AL0 bis AL5 zu. AL3 bedeutet Zusammenarbeit: Das System erledigt größere Arbeitspakete unter enger Anleitung. Bei AL4 führt die KI eine Aufgabe nach einer übergeordneten Vorgabe weitgehend selbst aus, während ein Mensch überwacht. AL5 wäre vollständige Autonomie ohne Menschen in der Schleife.

Anthropic misst außerdem die Kontrolle der Agenten. Alle Aktionen auf der betrachteten Plattform laufen vor ihrer Ausführung durch einen Online-Monitor und werden danach von einem Offline-Monitor erfasst. Im August 2026 blockierte der Online-Monitor nach Unternehmensangaben 0,002 Prozent von mehr als einer Milliarde Entscheidungen, also ungefähr eine von 47.000. Der Offline-Prozess markiert wöchentlich rund 100.000 Protokolle; etwa 50 besonders wichtige Fälle gelangen zur menschlichen Prüfung.

Eine dritte Kennzahl betrifft Rechenleistung. In einer untersuchten Woche im Juli entfielen laut Anthropic rund sechs Prozent der Rechenleistung für KI-Forschung auf Sicherheitsarbeit. Innerhalb der KI-gestützten KI-Forschung waren es etwa zwölf Prozent.

Warum das wichtig ist

Die Zahlen machen einen sonst unsichtbaren Produktionsprozess greifbar. Wenn KI-Systeme zunehmend Code, Experimente und Analysen für ihre eigenen Nachfolger erstellen, kann sich der Entwicklungszyklus beschleunigen. Gleichzeitig steigt das Risiko, dass menschliche Prüfer nicht mehr jeden einzelnen Arbeitsschritt nachvollziehen können.

Wichtig ist deshalb nicht nur, was ein fertiges Modell kann. Entscheidend wird auch, wie es gebaut wurde: welcher Anteil der Arbeit automatisiert war, wie schnell Warnungen geprüft wurden und wie viel Rechenleistung in Sicherheit floss. Solche Kennzahlen könnten Behörden und unabhängigen Prüfern helfen, Veränderungen früh zu erkennen.

Anthropic schlägt vor, die Werte regelmäßig und mit einer gemeinsamen Methodik zu veröffentlichen. Das Unternehmen räumt aber selbst ein, dass Eigenmessungen nicht genügen. Modelle könnten bei der Bewertung ähnliche Fehler machen wie die Systeme, die sie kontrollieren. Deshalb sollen externe Prüfer Zugriff auf interne Abläufe und Daten erhalten.

Einfach erklärt

Stellen Sie sich eine Großküche vor, in der Maschinen nicht nur Gerichte kochen, sondern auch die nächste Generation der Küchengeräte entwerfen. Dann reicht es nicht, am Ende nur das Essen zu probieren. Man muss ebenfalls wissen, wie viele Arbeitsschritte die Maschinen selbst übernommen haben, ob jede Bewegung kontrolliert wurde und wie schnell ein Mensch bei einem Alarm eingreifen kann.

Anthropics Kennzahlen sind ein erster Blick auf genau diese Abläufe. Sie beweisen jedoch nicht, dass jeder Fehler erkannt wird.

Praktisches Beispiel

Angenommen, ein Forschungsteam lässt 1.000 Agenten neue Trainingsverfahren testen. Jeder Agent trifft an einem Tag 20.000 kleine Entscheidungen. Das wären 20 Millionen Entscheidungen. Bei Anthropics gemeldeter Blockierrate von ungefähr einer Entscheidung in 47.000 würden rechnerisch rund 426 Aktionen gestoppt.

Diese Rechnung sagt nicht, dass die übrigen Entscheidungen sicher sind. Ein Monitor kann echte Probleme übersehen oder harmlose Aktionen fälschlich blockieren. Für das Team wären deshalb zusätzlich Stichproben, unabhängige Angriffstests und klare Abschaltregeln nötig. Die veröffentlichte Rate ist ein Betriebswert, kein Sicherheitszertifikat.

Einordnung und Grenzen

Erstens stammen die Zahlen von Anthropic selbst. Die Methodik ist beschrieben, aber andere Labore haben noch keine direkt vergleichbaren Daten veröffentlicht.

Zweitens decken die Angaben zu 30.000 Agenten nur die meistgenutzte interne Plattform ab. Sie zeigen nicht vollständig, wie alle Forschungs- und Entwicklungsarbeiten im Unternehmen ablaufen.

Drittens misst eine niedrige Blockierrate nicht automatisch gute Sicherheit. Sie kann bedeuten, dass Agenten selten problematisch handeln, dass Regeln sehr eng oder sehr locker gesetzt sind oder dass der Monitor bestimmte Risiken nicht erkennt. Auch der Anteil der Sicherheitsrechenleistung lässt sich nicht ohne Weiteres mit Qualität gleichsetzen.

Der Bericht ist daher vor allem ein Transparenzschritt. Ob daraus ein belastbarer Branchenstandard wird, hängt von unabhängigen Prüfungen, gemeinsamen Definitionen und vergleichbaren Veröffentlichungen anderer Entwickler ab.

SEO- und GEO-Schlüsselbegriffe

Anthropic, Claude, KI-Agenten, AI R&D Automation Index, KI-Forschung, Agentenüberwachung, Frontier AI, KI-Sicherheit, Rechenleistung, METR, Epoch AI