SÃO PAULO, SP (CBS NEWS) – O Instagram deixou de barrar 93% dos comentários contendo discursos de ódio a mulheres de diferentes vertentes da política americana, segundo recente estudo do CCDH (Centro de Combate ao Ódio Digital).
A organização reportou 1.000 comentários considerados nocivos em dez contas de políticas dos EUA, incluindo a candidata à presidência Kamala Harris. Uma semana depois da divulgação do levantamento, a maioria das publicações ainda não havia sido derrubada pela plataforma.
Os comentários continham racismo, termos sexuais degradantes e ameaças. Alguns apresentavam menções a estupros, violência física e morte.
Além de Kamala, a pesquisa contemplou as contas das democratas
Alexandria Ocasio-Cortez, Jasmine Crockett, Nancy Pelosi e Elizabeth Warren, e das republicanas Marjorie Taylor Greene, Maria Elvira Salazar, Anna Paulina Luna, Lauren Boebert e Marsha Blackburn.
Os pesquisadores analisaram 421 mil comentários de 877 publicações feitas de 1º de janeiro a 7 de junho de 2024 e usaram palavras-chave para filtrar insultos e ameaças.
Um a cada 25 dos comentários avaliados continha linguagem potencialmente tóxica, segundo o relatório. Os conteúdos foram classificados de acordo com a probabilidade de desrespeitarem as políticas do Instagram, passando em última instância por uma revisão manual feita pelos pesquisadores.
Anos eleitorais trazem picos de discurso de ódio na internet, de acordo com Juliana Cunha, diretora da Safernet. Conteúdos assim são gatilhos pois causam maior engajamento”, diz.
“Observamos nos últimos anos a adoção de inteligência artificial e o aprimoramento de ferramentas, o que permitiu às empresas detectar conteúdos nocivos de forma mais proativa. Mas, como o significado das palavras pode depender do contexto, a moderação humana segue essencial e tem estado aquém do necessário.
A especialista afirma que, em línguas que não a inglesa, o problema se agrava devido a dados e funcionários nativos mais escassos.
Procurada, a Meta afirmou que trabalha com parceiros ao redor do mundo para melhorar continuamente as políticas de detecção e que iria analisar o relatório do CCDH para tomar medidas cabíveis.
Fornecemos ferramentas para que qualquer pessoa possa controlar quem pode comentar as suas mensagens, filtrar automaticamente comentários, frases ou emojis ofensivos e ocultar automaticamente comentários de pessoas que não a seguem”, afirmou Cindy Southworth, diretora da Segurança das Mulheres na Meta.
