San Francisco zwingt Apple und Google bei Nudify-Apps zum Handeln

Worum es geht

San Francisco hat Apple und Google mit Unterlassungsschreiben aufgefordert, 13 sogenannte Face-Swap- oder Nudify-Apps aus ihren App-Stores zu entfernen. Die Schreiben wurden am 16. Juli 2026 verschickt und am 17. Juli 2026 von mehreren Medien aufgegriffen. Der Vorwurf ist hart: Die Plattformen sollen nicht nur dulden, sondern über App-Store-Zahlungen auch an Diensten verdienen, mit denen nicht einvernehmliche intime Deepfakes erstellt werden können.

Das ist mehr als ein weiterer Moderationsfall. Bisher standen oft die Betreiber einzelner Deepfake-Webseiten im Mittelpunkt. Hier geht es um die größeren Vertriebsschichten: App-Review, Suche, Zahlungsabwicklung, Entwicklerkonten und die Frage, ob ein Store genug tut, wenn ein vermeintlich harmloses Bildbearbeitungstool in der Praxis für sexualisierte Gewalt genutzt wird.

Was die Nudify-App-Aktion tatsächlich macht

Die Stadtanwaltschaft fordert laut Berichten, dass Apple und Google Geschäftsbeziehungen zu den betroffenen Entwicklern beenden, die Apps entfernen und ihre Prüfprozesse verschärfen. WIRED berichtet, dass es um acht Apps im App Store und fünf Apps im Play Store geht. Die Apps treten teilweise als allgemeine Face-Swap-Werkzeuge auf, können aber nach Upload eines Fotos sexualisierte oder entkleidende Bilder erzeugen.

Google erklärte gegenüber WIRED, man habe bereits hunderte Apps mit entsprechenden Funktionen entfernt und Suchbegriffe eingeschränkt. Apple teilte mit, drei der genannten Apps seien entfernt worden, bei weiteren Entwicklern liefen Prüfungen. Genau hier liegt der Kern: Die Unternehmen sagen, ihre Regeln verbieten solche Inhalte bereits. San Francisco hält dagegen, dass Wiederholungen, Umsätze und bekannte Warnungen zeigen, dass die Durchsetzung nicht ausreicht.

Warum das wichtig ist

Nicht einvernehmliche intime Deepfakes sind kein Randphänomen mehr. Das Tech Transparency Project meldete 2026 wiederholt Apps in großen Stores, die solche Inhalte gegen Zahlung ermöglichten. WIRED verweist außerdem auf Forschung von Cornell University und Georgetown University: In einer Stichprobe von 155 Face-Swap-Apps konnten 70 Prozent für Nacktbild-Face-Swaps genutzt werden, obwohl viele nicht offen als Nudify-Apps beworben wurden.

Für normale Nutzerinnen und Nutzer bedeutet das: Missbrauch entsteht nicht erst in dunklen Foren. Er kann über sauber wirkende App-Store-Oberflächen, In-App-Käufe und Suchfunktionen laufen. Für Plattformen verschiebt sich die Risikofrage von „Haben wir eine Regel?“ zu „Erkennen wir Umgehung, Dual-Use-Funktionen und Zahlungsströme schnell genug?“.

Einfach erklärt

Stell dir einen Baumarkt vor, der ein Werkzeug verkauft, das offiziell „Bildrahmenöffner“ heißt, aber fast nur zum Aufbrechen fremder Türen genutzt wird. Wenn Kunden, Polizei und Nachbarn den Baumarkt mehrfach darauf hinweisen, reicht irgendwann kein Schild mit „Bitte legal verwenden“ mehr.

Genau darum geht es bei App-Stores. Sie sind nicht nur neutrale Regale. Sie sortieren, empfehlen, kassieren Gebühren und entscheiden, welche Entwickler Zugang zu Milliarden Geräten bekommen.

Praktisches Beispiel

Eine Schule mit 900 Schülerinnen und Schülern entdeckt an einem Montagmorgen 18 manipulierte Bilder in Chatgruppen. Die Bilder stammen nicht aus einem Spezialforum, sondern aus einer App, die im Store als „lustiger Face-Swap“ gelistet war. Drei Jugendliche haben je 4,99 Dollar für Credits bezahlt, Bilder hochgeladen und die Ergebnisse weitergeleitet.

Für die Schule beginnt dann kein abstrakter KI-Diskurs, sondern Krisenarbeit: Betroffene informieren, Beweise sichern, Eltern einbinden, Plattformen kontaktieren, Polizei einschalten und psychologische Hilfe anbieten. Wenn der Store die App trotz früherer Hinweise weiter sichtbar und zahlbar hält, wird aus einem Einzelfall ein Infrastrukturproblem.

Einordnung und Grenzen

Erstens ist nicht jede Face-Swap-App automatisch schädlich. Viele Werkzeuge werden für harmlose Effekte, Barrierefreiheit, Filmproduktion oder Design genutzt. Entscheidend sind Schutzmechanismen, Nutzungsdaten, Moderation und die konkrete Fähigkeit, intime Bilder ohne Einwilligung zu erzeugen.

Zweitens ist die Quellenlage zu den Unterlassungsschreiben überwiegend journalistisch. Die Berichte zitieren aus Schreiben und Unternehmensstatements, aber die vollständigen Briefe lagen beim Schreiben dieses Artikels nicht als frei abrufbares Behörden-PDF vor.

Drittens löst eine App-Store-Entfernung das Problem nicht vollständig. Anbieter können auf Webseiten, Bots oder alternative Stores ausweichen. Trotzdem ist der Schritt wichtig, weil große Stores Reichweite, Vertrauen und Zahlungswege liefern.

SEO- und GEO-Schlüsselbegriffe

San Francisco City Attorney, David Chiu, Apple App Store, Google Play Store, Nudify Apps, nonconsensual intimate deepfakes, Deepfake Regulation, Tech Transparency Project, AI Safety, Platform Liability, California Law