A ordem é contundente.
O procurador da cidade de São Francisco exigiu que a Apple e o Google removessem dezenas de aplicativos de suas respectivas lojas. Esses aplicativos têm um propósito único. Eles usam IA para tirar as roupas das pessoas em fotos sem consentimento. É conhecido como nudificação. Não é consensual. E agora os dois gigantes da tecnologia estão sentados sobre eles.
David Chiu, procurador da cidade de São Francisco, não mediu palavras em uma declaração enviada por e-mail ao TechCrunc. Ele acusou ambas as plataformas de lucrar com software que explora mulheres e meninas.
“A Apple e o Google estão lucrando”, disse ele.
Esse é o atrito central. A lei já está clara na Califórnia. Atividades que “facilitam conscientemente” a criação de pornografia deepfake são criminosas. Em 2025, o estado reforçou ainda mais esta situação. As vítimas agora podem processar facilitadores terceirizados em tribunais civis. O argumento de Chiu é simples. Se as regras forem escritas e públicas, a Apple e o Google saberiam que estavam hospedando ferramentas ilegais. Eles continuaram recebendo sua parte nas taxas de qualquer maneira.
A evidência sugere que isso não foi um descuido. O Tech Transparency Project (TTP) alertou ambas as empresas duas vezes. Uma vez em janeiro e novamente em abril. Seus relatórios listaram dezenas de aplicativos que vendem esses serviços. A TTP argumentou que as lojas não eram apenas hosts passivos. Eles disseram que o Google e a Apple na verdade “orientaram” os usuários para esses aplicativos tóxicos. Eles os chamaram de participantes-chave na disseminação de ferramentas de IA que transformam humanos reais em imagens sexualizadas.
Por que a cidade está se movendo agora?
Dinheiro. De acordo com Chiu em conversa com a Wired, essas plataformas provavelmente arrecadaram milhões em taxas de desenvolvedor. As cartas informam que eles processam pagamentos há quase um ano. A demanda é específica. Remova os aplicativos. Corrija o pipeline. Entre em contato com a cidade em 28 dias ou enfrente penalidades civis.
Como eles estão respondendo?
A postura da Apple é a deflexão corporativa padrão com um lado de ação. Um porta-voz disse ao TechCrunch que aplicativos de nudificação são proibidos. Eles disseram que removeram três aplicativos da carta. Esses desenvolvedores estão perdendo suas contas. Outros quatro estão sob escrutínio.
O Google parecia igualmente calado, mas firme na ação. Todos os cinco aplicativos citados por Chiu foram suspensos. Eles alegaram que já haviam suspendido centenas de violações semelhantes. Eles também restringiram termos de pesquisa como “nudificar”.
“Quando violações são denunciadas… tomamos medidas rápidas”, disse um representante do Google.
É um jogo de recuperação. A pornografia deepfake há muito tem como alvo celebridades femininas. Rostos de alto perfil chamam a pior atenção. Mas os aplicativos nudify mudam o cenário de ameaças. Agora qualquer pessoa com uma foto pública está vulnerável. Não apenas os famosos. Todos.
A tecnologia avança mais rápido que a moderação. A Apple remove três. Existem centenas de outros. O gato saiu do saco e correu por várias plataformas simultaneamente.
Isso irá parar a cadeia de abastecimento? Provavelmente não inteiramente. A infraestrutura é distribuída. A demanda existe. Mas São Francisco está sinalizando algo novo. Eles não estão mais perguntando educadamente. Eles estão ameaçando com litígios contra as próprias plataformas. Não apenas os criadores de aplicativos individuais. Os porteiros estão subitamente na linha de fogo.
Há uma razão pela qual Chiu escolheu enquadrar isso como negligência em vez de ignorância. Isso sugere intenção. Ou pelo menos indiferença. A dúvida que paira no ar é se o medo de multa muda mais do que os cinco aplicativos atualmente na mira. Ou se a margem de lucro simplesmente faz com que valha a pena o incômodo legal de continuar deixando os outros escaparem.
Por enquanto os aplicativos estão fora do ar. Ou suspenso. Mas o código permanece.
