Rozkaz został wydany prosto i bez przebierania w słowach.
Prokurator miejski San Francisco zażądał, aby Apple i Google usunęły dziesiątki aplikacji ze swoich sklepów. Programy te mają jeden cel: wykorzystując sztuczną inteligencję, zdejmują ubrania z osób na zdjęciach bez ich zgody. Proces ten nazywa się „nudifikacją”. Ma to charakter molestowania seksualnego za zgodą dziecka. Obecnie dwie korporacje technologiczne nadal udostępniają te narzędzia na swoich platformach.
David Chiu, prawnik miejski San Francisco, w oświadczeniu przesłanym e-mailem do TechCrunch nie złagodził języka. Oskarżył obie platformy o czerpanie korzyści z oprogramowania wykorzystującego kobiety i dziewczęta.
„Apple i Google zarabiają na tym” – powiedział.
To jest istota konfliktu. Przepisy w Kalifornii są już jasne: czyny, które „świadomie ułatwiają” tworzenie fałszywej pornografii, są przestępstwami. W 2025 r. państwo jeszcze bardziej zaostrzyło te standardy. Ofiary mogą teraz pozywać wspólników w sposób cywilny. Argument Chiu jest prosty: jeśli zasady są spisane i publicznie dostępne, Apple i Google wiedziały, że hostują nielegalne narzędzia. Nadal jednak pobierali swoją część prowizji.
Materiał dowodowy wskazuje, że nie było to przypadkowe pominięcie. Projekt przejrzystości technologicznej (TTP) ostrzegł obie firmy dwukrotnie: najpierw w styczniu, a następnie w kwietniu. W ich raportach wymieniono dziesiątki aplikacji sprzedających takie usługi. TTP argumentowało, że sklepy nie tylko biernie publikują treści. Według nich Google i Apple w rzeczywistości „kierowały” użytkowników do tych toksycznych aplikacji. Uznali ich za kluczowych graczy w rozpowszechnianiu narzędzi sztucznej inteligencji, które zamieniają prawdziwych ludzi w obrazy o charakterze seksualnym.
Dlaczego miasto podejmuje działania teraz?
Chodzi o pieniądze. Według Chiu rozmawiającego z Wired, platformy te prawdopodobnie zebrały miliony dolarów z opłat rozwojowych. W pismach napisano, że przetwarzają płatności od prawie roku. Żądanie jest konkretne: usuń aplikacje, popraw wzór i skontaktuj się z miastem w ciągu 28 dni, bo pod groźbą kar cywilnych.
Jak reagują?
Stanowisko Apple jest standardowe: korporacyjne odchylenie odpowiedzialności poprzez dodanie środków reaktywnych. Rzecznik firmy powiedział TechCrunch, że aplikacje do „nagości” są zabronione. Poinformowali o usunięciu trzech wniosków wymienionych w piśmie. Konta tych programistów są zablokowane. Cztery kolejne są badane.
Google brzmiał równie powściągliwie, ale stanowczo w działaniu. Wszystkie pięć aplikacji cytowanych przez Chiu zostało zablokowanych. Firma podała, że zablokowała już setki podobnych naruszeń. Ograniczyli także wyszukiwane hasła, takie jak „nudyfikacja”.
„W przypadku zgłoszenia naruszeń… podejmujemy szybkie działania” – powiedział rzecznik Google.
To gra polegająca na nadrabianiu zaległości. Fałszywa pornografia od dawna jest skierowana do celebrytek. Osoby publiczne przyciągają najbardziej intensywną i nieprzyjemną uwagę. Ale aplikacje nudify zmieniają krajobraz zagrożeń. Teraz każdy, kogo zdjęcie znajduje się w domenie publicznej, jest bezbronny. Nie tylko celebryci. Każdy.
Technologia rozwija się szybciej niż umiar. Apple usuwa trzy aplikacje. Setki innych nadal istnieją. Kot został już wypuszczony z łańcucha i jednocześnie biega po różnych platformach.
Czy to zatrzyma łańcuch dostaw? Najprawdopodobniej nie całkowicie. Infrastruktura jest rozproszona. Jest popyt. Ale San Francisco wysyła nową wiadomość. Już nie pytają grzecznie. Grożą podjęciem kroków prawnych przeciwko samym platformom. Nie tylko indywidualni twórcy aplikacji. Strażnicy bramy nagle znaleźli się na muszce.
Chiu ma powód, aby określić to jako zaniedbanie, a nie ignorancję. Oznacza to zamiar. Albo przynajmniej obojętność. W powietrzu wisi pytanie, czy strach przed karami zmieni więcej niż pięć aplikacji, które są obecnie na celowniku. Albo marża zysku jest tak wysoka, że warto zadawać sobie tyle kłopotów prawnych, aby w dalszym ciągu pozwalać innym na prześlizgiwanie się przez pęknięcia w systemie.
Aplikacje zostały na razie usunięte. Lub zawieszony. Ale kod pozostaje.
