Como o conteúdo prejudicial está evitando a detecção em websites de videogame populares

Nova pesquisa publicada na revista Fronteiras em psicologia revela como os grupos extremistas estão explorando a popularidade dos videogames para recrutar e radicalizar usuários impressionáveis.

O estudo mostra que as plataformas adjacentes de jogos, que permitem aos usuários conversar e transmissão ao vivo Enquanto jogam, estão sendo usados como “playgrounds digitais” para atividades extremistas e que os jogadores de videogame estão sendo deliberadamente “canalizados” por extremistas do mainstream Plataformas de mídia social Para esses websites, em parte por causa dos desafios enfrentados na moderação.

A pesquisa foi realizada pelo Dr. William Allchorn e pela Dra. Elisa Orofino, bolsistas sênior de pesquisa do Instituto Internacional de Policiamento e Proteção Pública da Universidade de Anglia Ruskin (IPPPI), e inclui entrevistas com moderadores de conteúdo da plataforma, especialistas da indústria de tecnologia e aqueles envolvidos na prevenção e combate extremismo violento.

Ele descobriu que o extremismo de extrema direita é a ideologia mais comum compartilhada nessas plataformas adjacentes de jogos. Isso inclui promoção de conteúdo Supremacia brancaneonazismo e anti-semitismo, geralmente acompanhados de teorias de misoginia, racismo, homofobia e conspiração, incluindo referências a Qanon.

O extremismo islâmico também foi relatado, embora com menos frequência, juntamente com o materials “extremista-adjacente”, como a glorificação dos tiroteios na escola-todo o conteúdo que viola os termos de serviço das plataformas mainstream, mas muitas vezes evita a detecção.

O estudo explica que os títulos de jogos hiper-masculinos, como jogos de tiro em primeira pessoa, têm apelo specific aos extremistas e destaca como a natureza única dos jogos on-line reúne estranhos com um interesse comum.

Após o contato inicial, ocorre o funil onde as interações se mudam para as plataformas de adjacentes de jogos menos regulamentadas, proporcionando um ambiente em que os extremistas podem socializar, compartilhar propaganda e recrutar sutilmente.

Um entrevistado no estudo explicou como a atenção pode começar: “É aí que você tem correspondência. É onde você pode criar um relacionamento rápido com as pessoas. Mas essas são as coisas que se movem muito rapidamente para plataformas adjacentes, onde há menos monitoramento”.

Uma preocupação recorrente entre os participantes foi o perigo de usuários mais jovens que estão sob a influência de influenciadores extremistas, que combinaram o streaming de jogos ao vivo com narrativas extremistas.

Os participantes destacaram isso Aplicação da lei Precisa entender melhor como essas plataformas e suas subculturas operam e também enfatizou a importância de educar os pais, professores e filhos sobre os riscos de radicalização on -line.

Os moderadores que participaram do estudo expressaram frustração com políticas inconsistentes de fiscalização em suas plataformas e o ônus de decidir se o conteúdo ou os usuários devem ser relatados às agências de aplicação da lei locais.

O bate-papo no jogo não é moderado, mas os moderadores ainda relatam ficar sobrecarregados com o quantity e a complexidade do conteúdo nocivo, incluindo o uso de símbolos ocultos frequentemente usados para contornar as palavras proibidas.

As ferramentas de IA estão sendo usadas para ajudar com moderação, mas lutam para interpretar memes ou quando a linguagem é ambígua ou sarcástica. Frases como “eu vou matar você” podem ser comuns na jogabilidade, mas difíceis para os sistemas automatizados interpretarem em contexto.

O co-autor do estudo, Dr. William Allchorn, pesquisador sênior da Universidade Anglia Ruskin (ARU), disse: “Essas plataformas adjacentes de jogos oferecem acesso direto aos extremistas a grandes, muitas vezes jovens e impressionáveis e se tornaram uma ferramenta-chave para o recrutamento extremista.

“As plataformas de mídia social atraíram a maior parte da atenção dos legisladores e reguladores na última década, mas essas plataformas voaram amplamente sob o radar, ao mesmo tempo em que se tornam playgrounds digitais para os extremistas explorarem.

“A natureza da radicalização e a disseminação do conteúdo extremista não se limitam a nenhuma plataforma e nossa pesquisa identificou uma ampla falta de ferramentas eficazes de detecção e relatório.

“Muitos usuários não sabem como relatar conteúdo extremista e, mesmo quando o fazem, geralmente sentem que suas preocupações não são levadas a sério. Fortalecendo os sistemas de moderação, tanto a IA quanto o humano, são essenciais, assim como a atualização das políticas de plataformas para abordar o conteúdo que é prejudicial, mas tecnicamente authorized. Trabalhos de ação decisivos e plataformas podem estar fazendo mais para ajudar a conter o unfold do extremismo”.