O impacto do discurso de ódio e da desinformação nas mídias digitais

Especialistas alertam para o papel dos algoritmos na amplificação de conteúdos nocivos na internet, reforçando a urgência de regulamentação e educação midiática.

Por Portal Ethos

O discurso de ódio tem se tornado uma questão central nos debates sobre a segurança nas mídias digitais e a proteção dos direitos humanos. Segundo o Informe de Política sobre Integridade da Informação nas Plataformas Digitais da Organização das Nações Unidas (ONU), publicado em outubro de 2023, discurso de ódio refere-se “a qualquer forma de comunicação, seja verbal, escrita ou comportamental, que ataca ou utiliza linguagem pejorativa com base em características identitárias de um indivíduo ou grupo”. 

Esse fenômeno abrange preconceitos relacionados à etnia, religião, raça, gênero, nacionalidade, entre outros aspectos. No contexto brasileiro, o avanço desse tipo de discurso tem gerado preocupações, especialmente quando se considera o impacto das plataformas digitais, que facilitam a propagação massiva e rápida de conteúdos polarizadores e ofensivos.

O Relatório de Recomendações para o Enfrentamento ao Discurso de Ódio e Extremismo, publicado em 2023, pelo Ministério da Cidadania e dos Direitos Humanos, ressalta a complexidade envolvida na definição do conceito de discurso de ódio. O documento afirma que “o debate sobre o tema abrange múltiplos aspectos, como democracia, liberdade de expressão e os princípios de dignidade e igualdade”. 

A Constituição Brasileira é clara ao garantir esses direitos, protegendo a vida e a dignidade da pessoa humana. Nesse sentido, o discurso de ódio não pode ser defendido como uma expressão legítima de liberdade de expressão, uma vez que fere a integridade dos indivíduos e grupos vulneráveis. 

O aumento do uso de mídias digitais no Brasil contribui para a amplificação desse problema. De acordo com dados de janeiro de 2024 da Data Report, o Brasil contava com 144 milhões de usuários de mídias sociais, o que representa 66,3% da população total. 

Esse número representa um crescimento de 1,4% em comparação com o ano anterior, com mais 2 milhões de novos usuários conectados. A maioria desses usuários utiliza, em média, oito redes sociais por mês, dedicando aproximadamente 3 horas e 37 minutos do seu dia a essas plataformas.  WhatsApp,  Instagram, Facebook e TikTok são as redes mais populares no país. O alto índice de uso dessas plataformas torna o Brasil um terreno fértil para a disseminação de discurso de ódio e desinformação.

Dados: Digital Global Repport

A professora e pesquisadora Raquel Cabral, doutora em comunicação e especialista em estudos sobre violência e comunicação, explica que o discurso de ódio pode ser compreendido dentro de uma estrutura mais ampla de violência cultural. Ela faz referência ao autor norueguês Johan Galtung, conhecido por seus estudos sobre a paz, que propõe uma classificação da violência em três tipos: direta, estrutural e cultural. 

“A violência direta é aquela em que a vítima e o agressor são facilmente identificáveis, como em casos de agressão física ou verbal. Já a violência estrutural é mais sutil, pois está relacionada às instituições e sistemas que perpetuam a desigualdade. A violência cultural, no entanto, é a mais difícil de detectar, uma vez que está profundamente enraizada na cultura e nas práticas sociais, manifestando-se em piadas, canções ou narrativas que normalizam preconceitos”, explica Raquel.

Essa visão ajuda a compreender como o discurso de ódio se infiltra nas redes sociais e outras plataformas de comunicação digital. No ambiente virtual, segundo Raquel, a desinformação é um dos elementos centrais do discurso de ódio.  "Se nós pudermos identificar um dos elementos que caracterizam o discurso de ódio nas redes, é essa natureza ligada às crenças culturais, ou seja, violências que são reproduzidas na linguagem", pontua a especialista. 

Ao conceituar a integridade da informação, a ONU estabelece a principal diferença entre informação falsa e desinformação. A primeira, popularmente chamada de "fake news", é compartilhada de forma não intencional, com os indivíduos repassando dados incorretos sem saber que são falsos. Já a desinformação é deliberadamente criada e disseminada com o propósito de enganar e causar danos, criando o que o relatório do Ministério da Cidadania, mencionado anteriormente, chama de "midiosfera extremista".

O relatório do MDHC também destaca o impacto das "tecnologias do ódio", que operam no espaço digital para amplificar a desinformação e gerar lucros a partir da monetização de conteúdos polarizadores. Essas tecnologias se valem de algoritmos desenvolvidos para captar a atenção dos usuários, promovendo conteúdos que geram reações emocionais intensas, como medo e raiva. Isso está diretamente relacionado à chamada "economia da atenção", em que o tempo gasto nas plataformas digitais é convertido em receitas publicitárias.

"Os algoritmos das mídias digitais podem amplificar o alcance do discurso de ódio, favorecendo sua disseminação. Esses algoritmos, programados por seres humanos com suas próprias visões de mundo e preconceitos, muitas vezes refletem e reforçam desigualdades sociais”, comenta a especialista.

Cabral enfatiza a importância de algoritmos abertos, ou seja, códigos que sejam acessíveis e auditáveis, para que os processos de programação sejam mais democráticos e inclusivos. Além disso, ela destaca a relevância de um trabalho sério de checagem de informações, especialmente no contexto das redes digitais. 

"Esse cenário reforça a necessidade de maior transparência e regulação no campo das plataformas digitais. Hoje a inteligência artificial pode criar mensagens falsas que podem repercutir negativamente e impactar, inclusive, o resultado de eleições democráticas", alerta.

Educação midiática e regulação com caminhos para mudança

A relação entre discurso de ódio e desinformação é particularmente evidente em situações de crise, como períodos eleitorais ou momentos de polarização política. A desinformação, que segundo a ONU, se diferencia da informação falsa pela intenção deliberada de enganar, pode gerar conflitos sociais e até mesmo influenciar decisões políticas. 

Ainda segundo a entidade internacional, a manipulação por meio de notícias fraudulentas não é uma estratégia recente, mas com o advento das mídias digitais, sua eficácia e disseminação cresceram consideravelmente.

Para enfrentar esse cenário, Raquel Cabral sugere que a solução passa pela educação midiática. A especialista se baseia em estudos na área da neurociência, como o artigo publicado no jornal britânico The Guardian, em 2022, que mostram que a exposição a notícias negativas ou violentas pode ter efeitos duradouros no corpo, desencadeando reações químicas que afetam o bem-estar por horas após o consumo dessas informações.

"O consumo de mídia precisa ser consciente e não há outro caminho a não ser o da educação de mídia. É necessário ensinar os indivíduos a selecionar conteúdos de qualidade, que promovam o bem-estar e a saúde mental, em vez de reforçar o ciclo de violência e desinformação”, destaca Raquel. 

Professora Raquel Cabral - Foto: Reprodução - Instagram

A especialista também defende a regulamentação da mídia, especialmente no que se refere ao conteúdo exibido em horários acessíveis a crianças e adolescentes. Em muitos países, há leis que restringem a exibição de cenas de violência explícita durante o dia, algo que, segundo Raquel, deveria ser replicado no Brasil. Ela questiona os benefícios de programas sensacionalistas que exploram o sofrimento humano e sugere que os consumidores adotem uma postura crítica em relação ao conteúdo que consomem. 

"Devemos nos questionar também se o programa de TV ou o vídeo que vamos assistir tem qualidade para nosso bem-estar emocional", conclui.

Em resposta à tendência alarmante do aumento do discurso de ódio em todo o mundo, a ONU lançou, em 2019, uma estratégia que estabelece o enfrentamento ao discurso de ódio como uma ação coordenada entre governos, empresas de tecnologia e sociedade civil. 

A regulação  das plataformas digitais, a transparência nos algoritmos e a promoção de uma cultura de consumo consciente de mídia são alguns dos passos sugeridos por especialistas na área da comunicação, como Raquel Cabral, para minimizar os danos causados por esse tipo de discurso. 

No Brasil, essa questão se torna ainda mais relevante diante do histórico de desigualdade social e das tensões políticas que têm marcado o cenário nacional nos últimos anos. Como exemplo recente, o Supremo Tribunal Federal (STF)  tem se posicionado contra a desinformação e o discurso de ódio nas redes sociais, exigindo que plataformas como o X (antigo Twitter) adotem medidas mais rigorosas para coibir essa prática e cumpram medidas legais previstas na lei, como ter um representante legal no país.