O Desafio

A islamofobia é um problema grave que afecta milhões de pessoas em todo o mundo. Nos últimos anos, tem havido um aumento do discurso de ódio islamofóbico online, especialmente em plataformas de redes sociais como o Twitter. Este discurso de ódio pode ter um impacto devastador na saúde mental e na segurança dos indivíduos e comunidades muçulmanas.

Um dos desafios no combate ao discurso de ódio islamofóbico é o facto de poder ser difícil identificá-lo. Não existe uma definição única de islamofobia e a forma como ela se manifesta pode variar de pessoa para pessoa. Isto torna difícil que ferramentas automatizadas detectem discursos de ódio islamofóbicos com um elevado grau de precisão.

Nossa abordagem

Para enfrentar este desafio, desenvolvemos uma ferramenta que utiliza uma combinação de processamento de linguagem natural (PNL) e técnicas de aprendizagem automática para detectar a força do discurso de ódio islamofóbico no Twitter. Nossa ferramenta é baseada em um conjunto de dados de mais de 10.000 tweets que foram anotados manualmente por especialistas na área de islamofobia.

A ferramenta funciona primeiro extraindo um conjunto de características de cada tweet, como a frequência de determinadas palavras-chave, a presença de termos de discurso de ódio e o sentimento do tweet. Esses recursos são então usados ​​para treinar um modelo de aprendizado de máquina que pode prever a força do discurso de ódio islamofóbico no Twitter.

O modelo é treinado usando uma abordagem de aprendizagem supervisionada, o que significa que recebe um conjunto de dados rotulados (ou seja, tweets que foram anotados manualmente como islamofóbicos ou não) e aprende a identificar as características que são mais indicativas de islamofobia. Uma vez treinado, o modelo pode ser usado para prever a força do discurso de ódio islamofóbico em novos tweets.

Avaliação

Avaliamos o desempenho de nossa ferramenta usando um conjunto de tweets de teste de validação. A ferramenta alcançou uma precisão de 85% na identificação do discurso de ódio islamofóbico, o que é significativamente superior ao desempenho dos métodos de base.

Impacto

Nossa ferramenta tem sido usada para identificar e remover milhares de tweets de discurso de ódio islamofóbico do Twitter. Isto ajudou a criar um ambiente mais seguro para os utilizadores muçulmanos na plataforma e contribuiu para a luta contra a islamofobia online.

Conclusão

Acreditamos que a nossa ferramenta é um recurso valioso para combater o discurso de ódio islamofóbico no Twitter. A ferramenta é precisa e eficiente e pode ser usada para identificar e remover tweets com discurso de ódio em tempo real. Esperamos que a nossa ferramenta ajude a tornar o Twitter um lugar mais seguro para os utilizadores muçulmanos e contribua para a luta contra a islamofobia online.