Rozkaz byl dán přímočaře a bez sprostých slov.
Státní zástupce města San Francisco požadoval, aby Apple a Google odstranily desítky aplikací ze svých obchodů. Tyto programy mají jediný cíl: pomocí umělé inteligence sundávají lidem na fotografiích oblečení bez jejich souhlasu. Tento proces se nazývá „nudifikace“. Má povahu nedobrovolného sexuálního obtěžování. A právě teď dvě technologické korporace nadále hostují tyto nástroje na svých platformách.
David Chiu, městský právník San Francisca, nezměkčil jazyk v e-mailovém prohlášení pro TechCrunch. Obě platformy obvinil, že profitují ze softwaru, který zneužívá ženy a dívky.
“Apple a Google na tom vydělávají peníze,” řekl.
To je podstata konfliktu. Zákony v Kalifornii jsou již jasné: činy, které „vědomě usnadňují“ vytváření hluboce falešné pornografie, jsou trestné. V roce 2025 stát tyto normy ještě zpřísnil. Oběti nyní mohou žalovat spolupachatele třetích stran civilním způsobem. Chiuův argument je jednoduchý: Pokud jsou pravidla napsaná a veřejně dostupná, pak Apple a Google věděly, že hostují nelegální nástroje. Nadále si však brali svůj podíl na provizích.
Důkazy naznačují, že se nejednalo o náhodné opomenutí. Tech Transparency Project (TTP) varoval obě společnosti dvakrát: nejprve v lednu a poté v dubnu. Jejich zprávy uváděly desítky aplikací prodávajících takové služby. TTP tvrdila, že obchody nejen pasivně zveřejňují obsah. Podle nich Google a Apple ve skutečnosti „nasměrovaly“ uživatele na tyto toxické aplikace. Jmenovali je jako klíčové hráče v šíření nástrojů umělé inteligence, které mění skutečné lidi v sexualizované obrazy.
Proč nyní město jedná?
Jde o peníze. Podle Chiu v rozhovoru pro Wired tyto platformy pravděpodobně vybraly miliony dolarů na poplatcích za vývoj. V dopisech je uvedeno, že platby zpracovávají téměř rok. Požadavek je specifický: odstraňte aplikace, opravte vzor a do 28 dnů kontaktujte město, jinak budete čelit občanskoprávním sankcím.
Jak reagují?
Postoj Applu je standardní: korporátní odklon odpovědnosti s přidáním reaktivních opatření. Mluvčí společnosti řekl TechCrunch, že aplikace „nudify“ jsou zakázány. Nahlásili odstranění tří aplikací uvedených v dopise. Účty těchto vývojářů jsou zablokovány. Čtyři další jsou pod drobnohledem.
Google zněl stejně zdrženlivě, ale pevně v akci. Všech pět aplikací citovaných Chiu bylo zablokováno. Společnost uvedla, že již zablokovala stovky podobných porušení. Omezili také hledané výrazy jako „nahození“.
“Když jsou nahlášena porušení… podnikneme rychlé kroky,” řekl mluvčí společnosti Google.
Je to hra na dohánění. Deepfake pornografie se již dlouho zaměřuje na ženské celebrity. Nejintenzivnější a nepříjemnější pozornost přitahují veřejné osobnosti. Aplikace nudify však mění prostředí hrozeb. Nyní je zranitelný každý, jehož fotografie je ve veřejné doméně. Nejen celebrity. Každý.
Technologie se vyvíjí rychleji než umírněnost. Apple odstraňuje tři aplikace. Stovky dalších nadále existují. Kočka již byla uvolněna z řetězu a současně běhá po různých platformách.
Zastaví to dodavatelský řetězec? S největší pravděpodobností ne úplně. Infrastruktura je distribuována. Existuje poptávka. Ale San Francisco posílá novou zprávu. Už se neptají zdvořile. Vyhrožují právními kroky proti samotným platformám. Nejen individuální tvůrci aplikací. Strážci brány se náhle ocitli v hledáčku zbraní.
Chiu má důvod to označit za nedbalost spíše než za neznalost. To implikuje záměr. Nebo alespoň lhostejnost. Ve vzduchu visí otázka, zda se strach z pokut změní více než pět aplikací, které jsou momentálně v hledáčku. Nebo je zisková marže tak vysoká, že stojí za to právní potíže a nadále dovolovat ostatním proklouznout trhlinami v systému.
Aplikace byly prozatím odstraněny. Nebo pozastavena. Ale kód zůstává.
