Facebook identifica 22,1 milhões de conteúdos com discurso de ódio no 3º trimestre de 2020

Relatório de transparência da rede social indicou que, a cada 10 mil visualizações de publicações, em todo o mundo, 10 a 11 delas continham algum material do tipo.

O Facebook disse que identificou, ao redor do mundo, 22,1 milhões de conteúdos com discurso de ódio durante o 3º trimestre de 2020, e que para cada 10 mil visualizações de conteúdo, 10 a 11 delas continham algum material do tipo.

Os dados estão no Relatório de Transparência dos Padrões de Comunidade divulgados nesta quinta-feira (19). No Instagram, aplicativo que também faz parte do Facebook, foram mais 6,5 milhões de conteúdos com discurso de ódio identificados durante o período.

Cerca de 95% das peças foram encontradas de forma “proativa”, segundo a companhia – quando uma inteligência artificial é capaz de rotular a publicação ou comentário antes de alguém fazer uma denúncia.

clique na imagem e saiba mais

Em junho, centenas de anunciantes suspenderam seus anúncios publicitários no Facebook em meio à campanha “Stop Hate for Profit” (“Dê um Basta no Ódio por Lucro”, em tradução livre), alegando que a rede deveria fazer mais para acabar com o ódio e a desinformação em sua plataforma.

Celebridades, como Kim Kardashian, Leonardo DiCaprio e Katy Perry, deixaram de usar Facebook e Instagram por 24 horas em setembro para enviar uma mensagem semelhante.

Prevalência do discurso de ódio

Pela primeira vez, o relatório traz dados sobre a prevalência do discurso de ódio no Facebook em todo o mundo. Esse número estima a porcentagem de vezes que as pessoas veem um conteúdo que estão fora das regras da rede social.

O cálculo é feito com base em uma amostra do conteúdo visto no Facebook, e quantos deles violam as políticas de discurso de ódio da companhia. Os dados indicam que a prevalência de discurso de ódio está entre 0,10% a 0,11% – para cada 10 mil visualizações de conteúdo, em todo o mundo, 10 a 11 delas continha algum conteúdo do tipo.

Essa estimativa considera que uma publicação pode ser vista muitas vezes em um curto espaço de tempo, enquanto outra pode permanecer no ar por mais tempo, e ser vista por poucas pessoas.

Números

Durante o 3º trimestre de 2020, o Facebook identificou e tomou alguma ação (como remoção ou redução de alcance), em todo o mundo, em:

  • 22,1 milhões de peças de conteúdo de discurso de ódio;
  • 19,2 milhões de peças de conteúdo violento e gráfico (foram 15 milhões no segundo trimestre);
  • 12,4 milhões de peças conteúdo de nudez infantil e conteúdo de exploração sexual (9,5 milhões no segundo trimestre);
  • 3,5 milhões de conteúdos de bullying e assédio (2,4 milhões no segundo trimestre).

 

O relatório também aponta os números do Instagram:

  • 6,5 milhões de peças de conteúdo de discurso de ódio (3,2 milhões no segundo trimestre);
  • 4,1 milhões de peças de conteúdo violento e gráfico (3,1 milhões no segundo trimestre);
  • 1 milhão de peças de nudez infantil e conteúdo de exploração sexual (481.000 no segundo trimestre);
  • 2,6 milhões de conteúdos de intimidação e assédio (2,3 milhões no segundo trimestre);
  • 1,3 milhão de conteúdos de suicídios e automutilação (277.400 no segundo trimestre).

 

O Facebook atribui o aumento nos números de detecção de conteúdo às ferramentas de inteligência artificial que realizam parte da moderação em seus aplicativos. Um comunicado da companhia diz que, atualmente, a inteligência artificial identifica 94,7% do discurso de ódio removidos – no ano passado, esse número era de 80,5%, e em 2017 era de 24%.

A companhia é alvo de críticas por algumas decisões de moderação e pela demora na remoção de publicações, em casos nos quais os sistemas automatizados não são capazes de identificar se um conteúdo viola as regras – por conta de contextos culturais, por exemplo.

O Facebook disse que expandiu as regras, e criou um conselho de supervisão para revisar as práticas de moderação que começou a funcionar em outubro. Em setembro, um grupo lançou um “conselho alternativo”, com a intenção de pressionar a companhia a agir mais rapidamente.