Tudo sobre Apple
Tudo sobre Google
Nesta sexta-feira (17), o gabinete do procurador municipal de São Francisco enviou notificações à Apple e ao Google para que removam de suas lojas 13 aplicativos de troca facial associados à criação de imagens de nudez geradas artificialmente sem autorização das pessoas retratadas.
Continua após a publicidade
A medida mira ferramentas que permitem alterar fotos de pessoas com inteligência artificial para produzir conteúdos sexualizados. Segundo a prefeitura, as plataformas digitais lucram com esses serviços por meio de pagamentos realizados dentro dos aplicativos.
A iniciativa ocorre após investigações apontarem que aplicativos apresentados como ferramentas de edição de imagem podem ser usados para produzir deepfakes de teor sexual, afetando principalmente mulheres e meninas.
Empresas são cobradas por falhas de controle sobre aplicativos
As cartas enviadas às duas empresas foram assinadas pelo procurador municipal de São Francisco, David Chiu, que afirmou que a criação de imagens íntimas sem consentimento representa uma prática ilegal e prejudicial. De acordo com ele, Apple e Google precisam impedir que seus ambientes digitais sejam utilizados para facilitar abusos.
O representante da cidade argumentou que as companhias devem interromper relações comerciais com desenvolvedores responsáveis por aplicativos desse tipo. A cobrança também envolve os sistemas de pagamento das lojas virtuais, pelos quais as empresas recebem parte das receitas geradas pelos aplicativos.
Apple e Google afirmaram que possuem regras contra pornografia, assédio e conteúdos abusivos em suas plataformas. A Apple informou que já removeu três dos aplicativos indicados pela prefeitura e iniciou procedimentos para encerrar as contas dos desenvolvedores envolvidos. A empresa acrescentou que outros criadores poderão ser excluídos caso não corrijam violações identificadas.
O Google declarou que retirou centenas de aplicativos com recursos de “nudificação” por descumprirem suas políticas. A companhia informou ainda que suspendeu ferramentas semelhantes e restringiu termos de busca relacionados a esse tipo de serviço dentro da loja de aplicativos.
Pesquisas citadas na investigação municipal apontaram que o problema não está restrito a aplicativos explicitamente divulgados como ferramentas para nudez artificial. Estudos encontraram programas de troca de rostos que, embora apresentados como recursos de edição comuns, permitiam a criação de imagens sexualizadas sem mecanismos eficazes de proteção.
Um levantamento mencionado no texto identificou centenas de aplicativos de troca facial disponíveis nas lojas da Apple e do Google. Entre os programas analisados, uma parcela significativa permitia a criação de montagens com imagens nuas, mesmo sem serem anunciados oficialmente para essa finalidade.
A expansão dessas ferramentas ocorreu junto ao avanço dos sistemas de inteligência artificial generativa, que reduziram a dificuldade técnica para produzir imagens falsas realistas. De acordo com especialistas citados na reportagem, bastam uma fotografia de referência e poucos comandos para gerar esse tipo de conteúdo.
Continua após a publicidade
A prefeitura de São Francisco afirmou que continuará avaliando medidas legais contra empresas que permitirem a circulação dessas ferramentas. O objetivo declarado pelo órgão é pressionar as plataformas a reforçarem seus mecanismos de análise antes da publicação de novos aplicativos.
Wagner Edwards
Wagner Edwards é Bacharel em Jornalismo e atua como Analista de SEO e de Conteúdo no Olhar Digital. Possui experiência, também, na redação, edição e produção de textos para notícias e reportagens.
