Pular para o conteúdo principal

Revista Raça Brasil

TikTok remove contas que usavam IA para sexualizar mulheres negras

O TikTok removeu ao menos 20 contas após uma investigação jornalística da BBC revelar o uso de imagens geradas por inteligência artificial (IA) que retratavam mulheres negras de forma hipersexualizada e enganosa. Os perfis direcionavam usuários para plataformas externas com conteúdo adulto pago, muitas vezes sem identificar que os vídeos e imagens eram artificiais.

A apuração identificou dezenas de contas — principalmente no Instagram, mas também presentes no TikTok — que utilizavam avatares digitais com características exageradas, como tons de pele artificialmente escurecidos, corpos desproporcionais e traços considerados irreais. Em muitos casos, os perfis utilizavam termos raciais em seus nomes e reforçavam estereótipos históricos, inclusive com menções fetichizadas envolvendo homens brancos.

Além da manipulação estética, parte das contas também utilizava conteúdos de pessoas reais sem autorização. Um dos casos mais emblemáticos envolve a criadora de conteúdo Riya Ulan, que teve seus vídeos apropriados e modificados por um avatar gerado por IA. O material manipulado alcançou milhões de visualizações, superando amplamente o alcance das publicações originais.

Segundo especialistas, a prática levanta preocupações éticas e raciais. Pesquisadores apontam que a tecnologia está sendo utilizada para amplificar estereótipos e explorar a imagem de mulheres negras de forma comercial, sem consentimento e sem responsabilidade social.

Criadores de conteúdo e ativistas também alertam para o impacto dessas representações. Há o risco de que experiências reais sejam substituídas por versões artificiais, reforçando padrões irreais de beleza e apagando identidades autênticas.

Após ser questionado, o TikTok afirmou que removeu conteúdos e contas que violavam suas políticas, destacando que a plataforma proíbe o uso de IA para reproduzir pessoas sem consentimento e exige a identificação de conteúdos gerados artificialmente. Já a Meta, responsável pelo Instagram, informou que investiga os casos, mas não detalhou medidas concretas.

O episódio reacende o debate sobre os limites do uso da inteligência artificial nas redes sociais e a necessidade de regulação mais rigorosa diante de práticas consideradas discriminatórias e enganosas.