Kalifornien schafft Regeln und Register für unabhängige KI-Prüfer

Worum es geht

Kaliforniens Gouverneur Gavin Newsom unterzeichnete am 9. September 2026 zwei Gesetze für unabhängige Prüfungen von KI-Systemen. Senate Bill 813 schafft einen Rahmen, in dem qualifizierte unabhängige Organisationen KI-Systeme und Modelle auf die Einhaltung kalifornischen Rechts bewerten können. Assembly Bill 1405 richtet ein staatliches Register für KI-Prüfer ein und verlangt Standards für Unabhängigkeit, Transparenz und Integrität.

Das ist relevant, weil technische Prüfungen bisher häufig vom Entwickler selbst beauftragt, ausgestaltet oder veröffentlicht werden. Kalifornien baut nun eine öffentliche Infrastruktur um die Prüfer herum: Wer darf prüfen, welche Interessenkonflikte müssen sichtbar sein und welche Mindestanforderungen gelten? Die Gesetze machen jedoch nicht automatisch jedes KI-Modell prüfpflichtig. Sie schaffen zunächst das Gerüst für glaubwürdigere unabhängige Bewertungen.

Was die neuen Regeln tatsächlich machen

SB 813 richtet ein Verfahren für unabhängige Verifikationsorganisationen ein. Solche Stellen sollen die Fähigkeit besitzen, Risiken von KI-Systemen zu bewerten und die Einhaltung von Landesrecht zu prüfen. AB 1405 ergänzt diese Struktur durch Registrierung und Anforderungen an die Prüfer selbst. Damit trennt der Staat zwei Fragen: Was muss ein Test leisten, und wer ist vertrauenswürdig genug, ihn durchzuführen?

Die offizielle Mitteilung verbindet die Gesetze mit Kaliforniens bestehendem Rahmen. SB 53 aus dem Jahr 2025 verlangt von bestimmten Entwicklern besonders leistungsfähiger Modelle die Veröffentlichung von Sicherheitsrahmen, die Meldung definierter schwerer Vorfälle und Schutz für Hinweisgeber. Die neuen Gesetze ergänzen diese Transparenzregeln um externe Prüfinfrastruktur. Sie ersetzen weder SB 53 noch schaffen sie eine umfassende Bundesregulierung.

Warum das wichtig ist

Ein Audit ist nur so glaubwürdig wie seine Unabhängigkeit, sein Zugang und seine Methode. Ein Prüfer, der fast vollständig von einem einzigen Anbieter finanziert wird, nur vorbereitete Demonstrationen sieht oder kritische Ergebnisse nicht veröffentlichen darf, liefert wenig öffentliche Sicherheit. Register- und Integritätsregeln können solche Abhängigkeiten zumindest sichtbar und überprüfbar machen.

Der Ansatz hat außerdem Signalwirkung über Kalifornien hinaus. Viele große KI-Unternehmen entwickeln und betreiben Systeme im Bundesstaat. Einheitliche Kriterien für Prüfer können deshalb in Verträge, Beschaffung und interne Sicherheitsprogramme einfließen, selbst wenn ein einzelner Test nicht gesetzlich vorgeschrieben ist. Die Berichterstattung von KION bestätigt die zentralen Elemente der beiden Gesetze; Mission Local zeigt zugleich, warum Befürworter frühere Regeln wie SB 53 für lückenhaft halten.

Einfach erklärt

Stell dir eine Hauptuntersuchung für Autos vor. Es reicht nicht, wenn der Hersteller sein eigenes Fahrzeug prüft und nur ein grünes Häkchen zeigt. Vertrauen entsteht, wenn klar ist, wer die Werkstatt kontrolliert, welche Messgeräte verwendet werden, welche Verbindungen zum Hersteller bestehen und wie Mängel dokumentiert werden. Kalifornien baut für KI nun Teile dieser Prüfstellen-Infrastruktur auf – noch nicht eine identische Pflichtprüfung für jedes Modell.

Praktisches Beispiel

Ein fiktiver Anbieter möchte ein leistungsfähiges Modell in einem sensiblen kalifornischen Dienst einsetzen. Er beauftragt eine registrierte Prüforganisation. Diese legt zuerst ihre Einnahmen und mögliche Interessenkonflikte offen. Danach erhält ein abgeschottetes Team Zugang zu einer festgelegten Modellversion, testet Cyberfähigkeiten, Täuschungsverhalten und die Wirksamkeit von Schutzmaßnahmen und dokumentiert Grenzen der Stichprobe.

Angenommen, 120 Tests zeigen in sechs Fällen ein schweres Versagen. Der Bericht darf daraus nicht pauschal eine Versagensquote von fünf Prozent für den Alltag ableiten, weil die Fälle bewusst schwierig ausgewählt wurden. Er kann aber nachvollziehbar belegen, welche Schutzschicht versagte, ob der Anbieter den Fehler reproduzieren konnte und welche Nachprüfung nötig ist. Dieses Beispiel illustriert einen möglichen Prüfablauf; die Gesetze schreiben diese konkrete Testzahl und Methode nicht vor.

Einordnung und Grenzen

Erstens schaffen SB 813 und AB 1405 keinen automatischen Sicherheitstest für jedes Modell und jede Anwendung. Reichweite und Wirkung hängen davon ab, wann andere Vorschriften, Behörden oder Verträge eine unabhängige Bewertung verlangen.

Zweitens kann auch ein registrierter Prüfer irren. Modelle verändern sich durch Updates, Systemprompts, Werkzeuge und Einsatzumgebung. Ein guter Bericht über Version A garantiert nicht, dass Version B oder eine andere Integration gleich reagiert.

Drittens bleibt Unabhängigkeit schwierig. Prüfer brauchen Finanzierung und tiefen Zugang, während Anbieter Geschäftsgeheimnisse und Sicherheitsdetails schützen müssen. Zu wenig Zugang erzeugt oberflächliche Audits; zu viel ungesicherter Zugang schafft neue Risiken. Register, Offenlegung und methodische Standards sind deshalb notwendige Voraussetzungen, aber kein Beweis, dass ein konkretes KI-System sicher ist.

SEO- und GEO-Schlüsselbegriffe

Kalifornien, SB 813, AB 1405, KI-Audit, unabhängige KI-Prüfer, Gavin Newsom, AI auditor registry, Frontier-Modelle, KI-Regulierung, SB 53, Modellbewertung, Algorithmic Accountability