As detetives que combatem deepfakes sexuais na Coreia do Sul

Tudo sobre Inteligência Artificial

Desde 2018, o governo sul-coreano mantém um centro especializado em rastrear e eliminar conteúdos sexuais ilícitos na internet, com foco em deepfakes, fotos ou vídeos de caráter pornográfico produzidos sem o conhecimento das vítimas. O centro funciona em um pequeno escritório no centro de Seul, decorado com faixas de apoio às vítimas de violência sexual, e é composto exclusivamente por mulheres.

Continua após a publicidade

A equipe tem 23 integrantes e atua a pedido das vítimas. Desde a inauguração, o centro já atendeu 53 mil pessoas e removeu mais de 1 milhão de conteúdos sexuais ilícitos da internet. A estrutura conta ainda com 17 filiais regionais, que oferecem apoio psicológico e jurídico.

Como o trabalho é feito

A líder da equipe, Kim Hyojung, descreve o fluxo típico de atendimento: a maioria das vítimas procura o centro depois que um familiar ou conhecido avisa que um vídeo seu está circulando online. A partir daí, um programa de inteligência artificial detecta republicações do mesmo conteúdo, permitindo que a equipe solicite a remoção tanto em redes sociais quanto em sites pornográficos.

Os obstáculos são frequentes. Segundo Kim Hyojung, grande parte dos vídeos está hospedada em sites ilegais cujos provedores não atendem aos pedidos de remoção; nesses casos, a polícia pode intervir para fechar o site. Quando o conteúdo está hospedado no exterior, o problema se repete, mas Kim Hyojung aponta que 80% desses casos envolvem servidores nos Estados Unidos e que as autoridades norte-americanas colaboram com as solicitações de remoção.

Levantamentos da empresa australiana Security Heroes estimam que mais da metade das vítimas de deepfakes pornográficos no mundo são sul-coreanas. O centro registra aumento de casos em todas as faixas etárias.

Impacto psicológico nas profissionais

O trabalho diário de revisar conteúdos pornográficos, às vezes violentos, às vezes envolvendo pornografia infantil, gera consequências para a saúde das integrantes da equipe. Uma das profissionais, identificada apenas como Park, mantém o anonimato como condição para exercer a função.

“Todas nós somos bastante afetadas emocional e psicologicamente por essa atividade. Pela experiência de colegas com quem já trabalhei, algumas desenvolveram insônia, outras começaram a chorar ao ver certas publicações ou perderam o apetite a ponto de pular refeições”, afirmou Park.

Para lidar com esse impacto, o centro implementou acompanhamento psicológico contínuo, com consultas individuais com um psicólogo uma ou duas vezes por mês. Park cita também o retorno das vítimas como fator de motivação: “Quando recebemos mensagens de agradecimento das pessoas afetadas, dizendo que isso as ajudou a retomar sua vida cotidiana, sinto que, mesmo que de forma modesta, pude contribuir para que essas pessoas superassem uma provação tão difícil em suas vidas”.