Der Befehl ist unverblümt.
Der Staatsanwalt von San Francisco hat Apple und Google aufgefordert, Dutzende Apps aus ihren jeweiligen Stores zu entfernen. Diese Apps haben einen einzigen Zweck. Sie nutzen KI, um Menschen auf Fotos ohne Zustimmung die Kleidung auszuziehen. Man nennt es Nacktheit. Es ist nicht einvernehmlich. Und gerade jetzt sitzen die beiden Tech-Giganten darauf.
David Chiu, der Staatsanwalt von San Francisco, nahm in einer per E-Mail an TechCrunc gesendeten Erklärung kein Blatt vor den Mund. Er warf beiden Plattformen vor, von Software zu profitieren, die Frauen und Mädchen ausbeutet.
„Apple und Google profitieren“, sagte er.
Das ist die Kernreibung. In Kalifornien ist das Gesetz bereits eindeutig. Aktivitäten, die die Schaffung von Deepfake-Pornografie „wissentlich erleichtern“, sind kriminell. Im Jahr 2025 verschärfte das Land diese nochmals. Opfer können nun Drittvermittler vor einem Zivilgericht verklagen. Chius Argument ist einfach. Wenn die Regeln geschrieben und öffentlich sind, wussten Apple und Google, dass sie illegale Tools hosten. Sie nahmen trotzdem weiterhin ihre Gebührenermäßigung in Anspruch.
Die Beweise deuten darauf hin, dass dies kein Versehen war. Das Tech Transparency Project (TTP) warnte beide Unternehmen zweimal. Einmal im Januar, dann noch einmal im April. In ihren Berichten wurden Dutzende Apps aufgeführt, die diese Dienste verkaufen. TTP argumentierte, dass die Geschäfte nicht nur passive Gastgeber seien. Sie sagten, Google und Apple hätten die Nutzer tatsächlich zu diesen giftigen Apps „gelenkt“. Sie nannten sie Schlüsselakteure bei der Verbreitung von KI-Tools, die echte Menschen in sexualisierte Bilder verwandeln.
Warum zieht die Stadt jetzt um?
Geld. Laut Chiu im Gespräch mit Wired haben diese Plattformen wahrscheinlich Entwicklergebühren in Millionenhöhe eingenommen. In den Briefen heißt es, dass sie seit fast einem Jahr Zahlungen abwickeln. Die Nachfrage ist spezifisch. Entfernen Sie die Apps. Reparieren Sie die Pipeline. Wenden Sie sich innerhalb von 28 Tagen an die Stadt, andernfalls drohen zivilrechtliche Sanktionen.
Wie reagieren sie?
Apples Haltung ist eine übliche Ablenkung des Unternehmens mit einer praktischen Seite. Ein Sprecher sagte gegenüber TechCrunch, dass Nudify-Apps verboten seien. Sie sagten, sie hätten drei Apps aus dem Brief entfernt. Diese Entwickler verlieren ihre Konten. Vier weitere stehen unter Beobachtung.
Google klang ähnlich wortkarg, aber entschieden im Handeln. Alle fünf von Chiu genannten Apps wurden gesperrt. Sie behaupteten, sie hätten bereits Hunderte ähnlicher Verstöße suspendiert. Sie haben auch Suchbegriffe wie „nudify“ eingeschränkt.
„Wenn Verstöße gemeldet werden, ergreifen wir schnelle Maßnahmen“, sagte ein Google-Vertreter.
Es ist ein Aufholspiel. Deepfake-Pornografie hat es seit langem auf weibliche Prominente abgesehen. Prominente Gesichter ziehen die schlimmste Aufmerksamkeit auf sich. Aber Nudify-Apps verändern die Bedrohungslandschaft. Jetzt ist jeder mit einem öffentlichen Foto gefährdet. Nicht nur die Berühmten. Alle.
Die Technik schreitet schneller voran als die Moderation. Apple entfernt drei. Es gibt Hunderte andere. Die Katze ist aus dem Sack und läuft über mehrere Plattformen gleichzeitig.
Wird dadurch die Lieferkette unterbrochen? Wahrscheinlich nicht ganz. Die Infrastruktur ist verteilt. Die Nachfrage ist vorhanden. Aber San Francisco signalisiert etwas Neues. Sie fragen nicht mehr höflich. Sie drohen mit Klagen gegen die Plattformen selbst. Nicht nur die einzelnen App-Ersteller. Plötzlich stehen die Pförtner in der Schusslinie.
Es gibt einen Grund, warum Chiu sich dafür entschieden hat, dies eher als Fahrlässigkeit denn als Ignoranz darzustellen. Es deutet auf Absicht hin. Oder zumindest Gleichgültigkeit. Die Frage, die im Raum steht, ist, ob sich die Angst vor einer Geldstrafe stärker ändert als die fünf Apps, die derzeit im Fadenkreuz stehen. Oder wenn die Gewinnspanne einfach den rechtlichen Aufwand wert ist, andere durchs Raster fallen zu lassen.
Im Moment sind die Apps nicht verfügbar. Oder suspendiert. Aber der Code bleibt bestehen.
