A ascensão da inteligência artificial (IA) trouxe inovações e desafios, e um dos mais preocupantes é a sua utilização para a criação de conteúdo digital que explora e sexualiza grupos vulneráveis. Um levantamento recente do DesinfoPop (Laboratório de Estudos sobre Desordem Informacional e Políticas Públicas), da Fundação Getulio Vargas (FGV), revelou uma prática alarmante: a proliferação de vídeos gerados por IA que sexualizam mulheres com síndrome de Down, nanismo e autismo em plataformas como TikTok, X (antigo Twitter) e Instagram.
Esses vídeos, muitas vezes, servem como isca para direcionar usuários a grupos no Telegram e páginas de venda de conteúdo adulto. O problema se agrava quando se descobre que as mulheres retratadas nem sempre possuem as deficiências que os vídeos alterados por IA sugerem, utilizando a condição como uma estratégia de atração e diferenciação comercial. Em alguns casos, o conteúdo adulto sequer existe, e os links funcionam como armadilhas para a aplicação de golpes, expondo a fragilidade da moderação e a maleabilidade dos algoritmos.
A Amplificação Algorítmica da Exploração Digital
A facilidade com que esses conteúdos são encontrados é um dos aspectos mais críticos da pesquisa da FGV. Basta digitar termos como “síndrome de Down” na barra de busca do TikTok para ser confrontado com uma sequência de vídeos que objetificam ou ridicularizam mulheres com a condição. O mesmo padrão foi observado em pesquisas relacionadas a autismo e nanismo nas plataformas X e Instagram, indicando uma falha sistêmica na proteção de usuários e na curadoria de conteúdo.
A situação é ainda mais complexa quando o próprio algoritmo da plataforma contribui para a disseminação. O TikTok, por exemplo, ao identificar um usuário digitando “síndrome de Down”, chega a sugerir buscas como “síndrome de Down gata”. Para os pesquisadores, essa não é uma coincidência, mas um reflexo das escolhas de design do algoritmo, que tende a amplificar conteúdos com alto engajamento, independentemente de seu impacto ético ou social. Essa dinâmica transforma a busca por informação em um caminho para a exposição a material nocivo e exploratório.
Impactos Profundos: Capacitismo e Danos Psicológicos
As consequências desse tipo de conteúdo recaem de forma devastadora sobre as pessoas com deficiência e suas famílias. Ao transformar condições como a síndrome de Down ou o nanismo em fetiche, ou ao ridicularizá-las, essas publicações reforçam o capacitismo – a discriminação e o preconceito contra pessoas com deficiência. A objetificação naturalizada no ambiente digital pode provocar sérios prejuízos emocionais e psicológicos, minando a autoestima e a inclusão social desses indivíduos.
Ergon Cugler, pesquisador da FGV e integrante do DesinfoPop, enfatiza a gravidade da naturalização desse comportamento. “O algoritmo escolhe privilegiar conteúdos nocivos em vez de entregar vídeos educativos, democráticos ou simplesmente explicando essas condições. Isso mostra o quanto naturalizamos um comportamento que, fora do ambiente digital, seria considerado inaceitável”, alerta Cugler. A normalização da exploração digital de pessoas com deficiência representa um retrocesso significativo nos esforços de construção de uma sociedade mais inclusiva e respeitosa.
A Resposta das Plataformas e os Desafios da Moderação
Diante da denúncia, o TikTok agiu prontamente, afirmando ter removido o conteúdo encaminhado pela reportagem por violar suas diretrizes, que proíbem publicações que degradem indivíduos em razão de aparência, inteligência ou condição médica. A plataforma declarou que seu sistema de moderação atua continuamente e que, no quarto trimestre de 2025, removeu proativamente 99,1% dos conteúdos que violaram suas políticas. No entanto, a persistência e a facilidade de encontrar tais vídeos levantam questões sobre a eficácia dessas medidas.
O Telegram, por sua vez, afirmou que não permite a distribuição de imagens íntimas não consensuais, incluindo pornografia deepfake, e que seus moderadores, equipados com ferramentas de IA, monitoram proativamente o ambiente público e analisam denúncias. A Meta, controladora do Instagram, optou por não comentar o assunto, enquanto o X não respondeu aos questionamentos da reportagem. A disparidade nas respostas e a complexidade da moderação de conteúdo gerado por IA em escala global evidenciam um desafio contínuo para as empresas de tecnologia, que precisam equilibrar a liberdade de expressão com a proteção de seus usuários mais vulneráveis.
O Cenário Legal e a Urgência de Novas Abordagens
A proliferação de deepfakes e a exploração de imagem de pessoas com deficiência por meio de IA sublinham a urgência de um debate mais aprofundado sobre a regulamentação do ambiente digital. No Brasil e em diversos países, as leis ainda engatinham para acompanhar a velocidade das inovações tecnológicas e os novos tipos de crimes cibernéticos. A ausência de marcos legais específicos para a proteção contra a manipulação de imagem por IA deixa lacunas que são exploradas por criminosos e perfis mal-intencionados.
É fundamental que haja um esforço conjunto entre governos, plataformas digitais, sociedade civil e especialistas em tecnologia para desenvolver soluções eficazes. Isso inclui o aprimoramento dos algoritmos de detecção, a implementação de políticas de moderação mais rigorosas e transparentes, e a educação dos usuários sobre os riscos e como denunciar conteúdos abusivos. A proteção da dignidade e dos direitos das pessoas com deficiência no ambiente online não é apenas uma questão tecnológica, mas um imperativo ético e social. Para mais informações sobre a atuação da imprensa na cobertura de temas sensíveis, consulte o portal da Folha de S.Paulo.
Para se manter informado sobre os mais recentes desenvolvimentos em tecnologia, ética digital e temas de relevância social, continue acompanhando o Diário Global. Nosso compromisso é trazer informação de qualidade, contextualizada e aprofundada, para que você compreenda os impactos das notícias no seu dia a dia e no mundo.
