A polícia informou no domingo que um policial da Delegacia de Polícia de Dongdaemun, em Seul, foi preso sob suspeita de usar inteligência artificial para criar deepfakes sexualmente explícitos de pessoas conhecidas — imagens e vídeos manipulados para parecerem representar pessoas reais — e compartilhá-los no Telegram. O policial é suspeito, entre outras coisas, de possuir conteúdo de exploração sexual e deepfakes, além de produzir e distribuir materiais relacionados. A polícia informou que a prisão ocorreu em 16 de setembro e que os investigadores encontraram cerca de 5.600 imagens e vídeos em sua posse.
Antecedentes e contexto
Segundo relatos, o material encontrado incluía cerca de 2.600 deepfakes, 1.600 arquivos de exploração sexual de crianças e adolescentes e 1.300 gravações feitas ilegalmente. A polícia também investiga a possibilidade de o policial ter produzido e distribuído pessoalmente alguns desses materiais. Portanto, as informações divulgadas até agora indicam que a investigação abrange a posse dos arquivos e a possibilidade de produção e distribuição de parte do conteúdo — não que tenha sido definitivamente estabelecido que ele criou ou compartilhou todos os materiais.
O caso veio à tona durante uma investigação da Agência de Polícia Metropolitana de Busan (부산경찰청) sobre uma sala de conversa no Telegram onde, segundo suspeitas, eram compartilhados deepfakes sexualmente explícitos. A polícia informou que obteve autorização judicial em dezembro do ano passado para conduzir uma investigação infiltrada na sala de conversa. De acordo com a reportagem, um investigador entrou na sala ocultando sua identidade e fez um rastreamento, mas as informações divulgadas não esclarecem o que ele estava rastreando.
O que esta notícia significa
Um aspecto que chama a atenção neste caso é que a investigação começou com o exame de uma sala de conversa no Telegram sob suspeita e, durante esse processo, vieram à tona as suspeitas contra o policial de posse, produção e distribuição de materiais. O fato de uma investigação sobre suspeitas de compartilhamento em uma sala de conversa ter levado a arquivos digitais de um indivíduo mostra que rastrear indícios da circulação de conteúdo em plataformas pode ser importante em investigações de crimes sexuais digitais. No entanto, não foram divulgados detalhes sobre o alvo específico da investigação infiltrada nem sobre o processo de obtenção das provas.
Para as vítimas, pode ser importante saber se seu rosto ou sua imagem foram usados em conteúdo sexualmente manipulado, mas a reportagem não revelou quem são as vítimas nem a dimensão efetiva dos danos. O número de arquivos, por si só, também não permite estimar quantas vítimas existem ou qual foi o alcance da distribuição. Por exemplo, mesmo que alguém encontre uma montagem sexual que possa ser reconhecida como retratando essa pessoa, não é possível concluir, apenas com base nesta reportagem, que o conteúdo esteja relacionado a esta investigação.
O que a polícia divulgou foram as suspeitas e as circunstâncias que estão sendo investigadas. A prisão ou a descoberta dos arquivos não significa que as acusações tenham sido comprovadas, e as informações disponíveis até agora não permitem confirmar a identidade ou o número de vítimas.
Informações sobre normas e apoio relacionados
Um material interno de orientação jurídica explica que a existência de um crime não é determinada automaticamente pelo nome dado ao conteúdo ou por algumas de suas características, mas pode depender dos requisitos de cada crime e das circunstâncias concretas. Também são questões que devem ser examinadas separadamente o caráter obsceno, o alcance da divulgação e a circulação por meio de redes de informação e comunicação. Não é possível aplicar esses princípios ao caso para afirmar uma acusação específica ou a possibilidade de punição.
A reportagem não informa quais disposições legais específicas foram aplicadas ao policial. Portanto, não é possível saber, com base apenas nas informações disponíveis, quais acusações se fundamentam em quais leis nem qual decisão poderá ser proferida em um eventual julgamento. O material de orientação jurídica também alerta que as conclusões de um caso dependem da legislação vigente à época e das circunstâncias individuais; em situações concretas, é preciso verificar a legislação em vigor e as provas.
Fatos confirmados e o que ainda não se sabe
Fatos confirmados
- A polícia informou que um policial da Delegacia de Polícia de Dongdaemun, em Seul, foi preso sob suspeita de produzir, distribuir e possuir deepfakes sexualmente explícitos de pessoas conhecidas e outros materiais.
- A data da prisão informada pela polícia é 16 de setembro.
- A polícia informou que os investigadores encontraram cerca de 5.600 imagens e vídeos em posse do policial.
- O material encontrado incluía cerca de 2.600 deepfakes, 1.600 arquivos de exploração sexual de crianças e adolescentes e 1.300 gravações feitas ilegalmente.
- O caso veio à tona durante uma investigação da Agência de Polícia Metropolitana de Busan sobre uma sala de conversa no Telegram, e a polícia informou que obteve autorização judicial em dezembro do ano passado para conduzir uma investigação infiltrada.
O que ainda não se sabe
- As informações divulgadas não identificam o policial nem as vítimas, tampouco esclarecem a dimensão dos danos.
- A investigação ainda apura quais dos conteúdos ilegais foram de fato produzidos ou distribuídos pelo policial.
- Não foram divulgadas as disposições legais específicas aplicadas ao policial nem os resultados da investigação ou de um eventual julgamento.
- Não foi explicado o que o investigador estava rastreando durante a investigação infiltrada nem como os arquivos do policial foram identificados.
O que os leitores devem verificar
- Ao acompanhar notícias posteriores, é necessário distinguir a prisão e as suspeitas dos resultados da investigação ou dos fatos comprovados em julgamento, além de verificar se foram divulgadas as leis aplicadas e novas acusações.
- É importante verificar se as informações sobre as vítimas ou a quantidade de materiais foram confirmadas pela polícia ou se são estimativas ou alegações feitas na internet. É recomendável evitar especular sobre a identidade das vítimas ou compartilhar novamente conteúdos suspeitos.
- Se for necessário avaliar juridicamente um problema semelhante envolvendo conteúdo digital, não se deve tirar conclusões apenas com base em explicações gerais de materiais de orientação; é preciso verificar as provas específicas e a legislação atualmente aplicável.
