L’ordine è brusco.
Il procuratore della città di San Francisco ha chiesto ad Apple e Google di rimuovere decine di app dai rispettivi store. Queste app hanno uno scopo singolare. Usano l’intelligenza artificiale per togliere i vestiti alle persone nelle foto senza consenso. È noto come nudizzazione. Non è consensuale. E in questo momento i due giganti della tecnologia sono seduti su di loro.
David Chiu, il procuratore della città di San Francisco, non ha usato mezzi termini in una dichiarazione inviata via email a TechCrunc. Ha accusato entrambe le piattaforme di trarre profitto da software che sfruttano donne e ragazze.
“Apple e Google stanno traendo profitto”, ha detto.
Questo è l’attrito fondamentale. La legge è già chiara in California. Le attività che “facilitano consapevolmente” la creazione di pornografia deepfake sono criminali. Nel 2025 lo Stato ha ulteriormente inasprito questa misura. Le vittime possono ora citare in giudizio i facilitatori terzi in tribunale civile. L’argomentazione di Chiu è semplice. Se le regole fossero scritte e pubbliche, allora Apple e Google saprebbero di ospitare strumenti illegali. Continuavano comunque a prendere la loro parte delle tasse.
Le prove suggeriscono che questa non è stata una svista. Il Tech Transparency Project (TTP) ha avvertito entrambe le società due volte. Una volta a gennaio e poi di nuovo ad aprile. I loro rapporti elencavano dozzine di app che vendevano questi servizi. TTP ha sostenuto che i negozi non erano solo host passivi. Hanno affermato che Google e Apple in realtà “hanno indirizzato” gli utenti verso queste app tossiche. Li hanno definiti partecipanti chiave nella diffusione degli strumenti di intelligenza artificiale che trasformano gli esseri umani reali in immagini sessualizzate.
Perché la città si sta muovendo adesso?
Soldi. Secondo Chiu parlando con Wired, queste piattaforme hanno probabilmente raccolto milioni in commissioni per gli sviluppatori. Le lettere indicano che stanno elaborando i pagamenti da quasi un anno. La richiesta è specifica. Rimuovi le app. Riparare la pipeline. Contatta la città in 28 giorni o incorrerai in sanzioni civili.
Come stanno rispondendo?
La posizione di Apple è una deviazione aziendale standard con un lato dell’azione. Un portavoce ha detto a TechCrunch che le app di nudizzazione sono vietate. Hanno detto di aver rimosso tre app dalla lettera. Quegli sviluppatori stanno perdendo i loro account. Altri quattro sono sotto esame.
Google sembrava altrettanto riservato ma fermo nell’azione. Tutte e cinque le app citate da Chiu sono state sospese. Hanno affermato di aver già sospeso centinaia di violazioni simili. Hanno anche limitato termini di ricerca come “nudificare”.
“Quando vengono segnalate violazioni… agiamo rapidamente”, ha affermato un rappresentante di Google.
È un gioco di recupero. La pornografia deepfake ha da tempo preso di mira le celebrità femminili. I volti di alto profilo attirano la peggiore attenzione. Ma le app di nudizzazione cambiano il panorama delle minacce. Ora chiunque abbia una foto pubblica è vulnerabile. Non solo famosi. Tutti.
La tecnologia si muove più velocemente della moderazione. Apple ne rimuove tre. Ne esistono centinaia di altri. Il gatto è fuori dal sacco e corre su più piattaforme contemporaneamente.
Questo fermerà la catena di fornitura? Probabilmente non del tutto. L’infrastruttura è distribuita. La domanda esiste. Ma San Francisco sta segnalando qualcosa di nuovo. Non lo chiedono più educatamente. Stanno minacciando azioni legali contro le piattaforme stesse. Non solo i singoli creatori di app. I guardiani sono improvvisamente sulla linea di tiro.
C’è una ragione per cui Chiu ha scelto di inquadrare questo come negligenza piuttosto che come ignoranza. Suggerisce l’intento. O almeno indifferenza. La domanda che aleggia è se il timore di una multa cambi più delle cinque app attualmente nel mirino. O se il margine di profitto semplicemente vale la pena di continuare a lasciare che gli altri passino inosservati.
Per ora le app sono inattive. Oppure sospeso. Ma il codice rimane.
