AI Safety Index gibt Frontier-Labs schwache Noten
8. Juli 2026
Der Future of Life Institute AI Safety Index bewertet neun fuehrende KI-Unternehmen. Selbst der beste Anbieter kommt nur auf C+, mehrere grosse Labore liegen deutlich darunter.
Worum es geht
Das Future of Life Institute hat Anfang Juli 2026 die Summer-2026-Ausgabe seines AI Safety Index veroeffentlicht. Der Bericht bewertet neun Unternehmen, die allgemeine KI-Systeme entwickeln: Anthropic, Alibaba Cloud, DeepSeek, Google DeepMind, Meta, Mistral, OpenAI, xAI und Z.ai.
Die Botschaft ist unbequem: Kein Unternehmen erreicht ein A oder B. Laut der zweiseitigen Zusammenfassung liegt Anthropic vorne, aber nur mit C+. OpenAI und Google DeepMind landen im C-Bereich. Mehrere Anbieter schneiden deutlich schlechter ab. Axios griff die Ergebnisse am 7. Juli 2026 auf und betonte besonders, dass einige fruehere Sicherheitszusagen abgeschwaecht oder gestrichen wurden.
Was der AI Safety Index tatsaechlich macht
Der Index ist kein technischer Benchmark fuer Modellleistung. Er ist ein Vergleich der sichtbaren Sicherheitspraktiken. Bewertet werden laut FLI mehrere Domaenen, darunter Risikobewertung, aktuelle Schaeden, Sicherheitsrahmen, Governance, Transparenz und Risiken sehr fortgeschrittener Systeme.
Dafuer schauen externe Experten auf oeffentliche Informationen, Unternehmensangaben und dokumentierte Policies. Das Ergebnis ist eine Art Zeugnis: Nicht ob ein Modell gut schreiben, programmieren oder planen kann, sondern ob das Unternehmen nachvollziehbar zeigt, wie es Risiken erkennt, begrenzt und extern kontrollierbar macht.
Der Bericht ist dadurch absichtlich unbequem. Ein Unternehmen kann technisch fuehrend sein und trotzdem schwach abschneiden, wenn es keine belastbaren Stop-Regeln, keine ausreichende Transparenz oder keine klare unabhaengige Kontrolle nachweist.
Warum das wichtig ist
Frontier-KI ist inzwischen Infrastruktur. Sie steckt in Code-Assistenten, Suchsystemen, Buero-Workflows, Kundenservice, Forschung und zunehmend auch in sicherheitskritischen Bereichen. Wenn die wichtigsten Anbieter nur mittlere oder schwache Sicherheitsnoten bekommen, ist das kein abstraktes Zukunftsproblem. Es betrifft Unternehmen, die diese Systeme einkaufen, Entwickler, die darauf aufbauen, und Regulierer, die entscheiden muessen, was ausreicht.
Der Bericht trifft zudem einen wunden Punkt: Viele Sicherheitsversprechen der Branche sind freiwillig. Wenn ein Unternehmen eine Policy aendert, einen Schwellenwert anders definiert oder bestimmte Informationen nicht mehr offenlegt, gibt es oft keine direkte Sanktion. Genau deshalb sind vergleichbare externe Bewertungen relevant. Sie machen sichtbar, wo Marketing und nachweisbare Sicherheitsarbeit auseinanderlaufen.
Gleichzeitig darf man den Index nicht als endgueltiges Urteil ueber einzelne Modelle lesen. Er bewertet Praktiken und Transparenz, nicht jede interne Sicherheitsmassnahme. Ein Anbieter kann intern mehr tun, als oeffentlich sichtbar ist. Fuer Kunden und Gesellschaft bleibt aber genau das ein Problem: Unsichtbare Sicherheit kann schwer Vertrauen schaffen.
Einfach erklaert
Stell dir eine Baeckerei vor, die riesige Mengen Brot fuer eine ganze Stadt backt. Das Brot schmeckt gut und ist billig. Der Safety Index fragt aber nicht nach Geschmack, sondern nach Hygieneplan, Temperaturkontrolle, Rueckrufverfahren und unabhaengiger Kontrolle. Wenn die Baeckerei sagt: "Vertraut uns", aber die Checklisten fehlen, bekommt sie keine Bestnote.
Praktisches Beispiel
Ein mittelstaendischer Softwareanbieter nutzt ein Frontier-Modell fuer 10.000 Code-Vorschlaege pro Tag. Nur 0,05 Prozent der Vorschlaege enthalten sicherheitskritische Fehler. Das klingt klein. In absoluten Zahlen sind es aber fuenf riskante Stellen pro Tag, etwa in Authentifizierung, Logging oder Datenzugriff.
Wenn der Modellanbieter klare Sicherheitsberichte, dokumentierte Red-Team-Ergebnisse und stabile Eskalationswege hat, kann der Softwareanbieter bessere Kontrollen einbauen. Wenn diese Informationen fehlen oder nur allgemein formuliert sind, muss der Kunde selbst raten, welche Risiken realistisch sind. Genau diese Luecke will der Index sichtbar machen.
Einordnung und Grenzen
- Der AI Safety Index bewertet sichtbare Sicherheitspraktiken. Er beweist nicht, dass ein konkretes Modell in jeder Nutzung unsicher ist.
- FLI ist eine zivilgesellschaftliche Organisation mit eigener Perspektive auf extreme KI-Risiken. Die Methodik sollte deshalb mitgelesen und nicht blind als amtliche Einstufung behandelt werden.
- Gute Noten ersetzen keine eigene Pruefung. Unternehmen muessen weiterhin Datenfluesse, Haftung, Monitoring, menschliche Freigaben und Exit-Strategien fuer ihre konkreten Anwendungen klaeren.
SEO- und GEO-Schluesselbegriffe
AI Safety Index 2026, Future of Life Institute, frontier AI safety, Anthropic C plus, OpenAI safety grade, Google DeepMind safety, Meta AI safety, AI governance, model risk management, AI regulation
💡 Im Klartext
Der Index sagt nicht, welches Modell am kluegsten ist. Er fragt, ob die Firmen hinter den Modellen nachweisbar gute Sicherheitsregeln, Transparenz und Kontrolle haben. Die Antwort faellt 2026 eher ernuechternd aus.
Wichtigste Erkenntnisse
- →Der Summer 2026 AI Safety Index bewertet neun fuehrende KI-Unternehmen.
- →Kein Anbieter erreicht ein A oder B; Anthropic liegt mit C+ vorne.
- →Der Index bewertet sichtbare Sicherheitspraktiken, nicht reine Modellleistung.
- →Die Ergebnisse sind relevant fuer Kunden, weil viele Sicherheitszusagen freiwillig bleiben.
- →Die Bewertung ersetzt keine eigene Risikoanalyse fuer konkrete KI-Anwendungen.
Häufige Fragen
Ist der AI Safety Index ein offizielles Gesetzesrating?
Nein. Er stammt vom Future of Life Institute und ist eine externe Bewertung, keine amtliche Einstufung.
Heisst eine schlechte Note, dass ein Modell unbrauchbar ist?
Nein. Die Note betrifft Sicherheitspraktiken und Transparenz des Unternehmens. Ein Modell kann leistungsfaehig sein und trotzdem in Governance-Fragen schwach bewertet werden.
Warum ist Anthropic trotz Platz eins nur bei C+?
Weil der Index hohe Anforderungen an Risikomanagement, Transparenz und Kontrolle anlegt. Platz eins bedeutet hier nicht, dass die Branche insgesamt gut abschneidet.
Was sollten Unternehmen daraus ableiten?
Sie sollten Anbieter nicht nur nach Leistung und Preis auswaehlen, sondern auch nach Sicherheitsberichten, Auditierbarkeit, Datenkontrollen und Ausstiegsmoeglichkeiten.