Ganhando fôlego: radicalização da extrema direita em plataformas de jogos

No setor de entretenimento, os jogos eletrônicos se tornaram o negócio mais lucrativo, superando a produção musical e cinematográfica. De acordo com estimativas da empresa de dados do mercado de jogos Newzoo, há mais de 2,8 bilhões de jogadores em todo o mundo, a maioria deles na faixa etária de 16 a 24 anos. Embora o setor de jogos tenha seus próprios benefícios econômicos e sociais, ele também mostrou sinais de se tornar uma plataforma para disseminar o extremismo. A interseção entre videogames e extremismo violento ganhou recentemente mais força nos círculos de políticas globais de contraterrorismo. Plataformas de jogos como Steam, Twitch, DLive e outras têm como objetivo proporcionar a seus usuários a melhor experiência on-line e um ambiente para se conectar com pessoas que pensam da mesma forma. No entanto, esses mesmos motivos são frequentemente explorados por organizações extremistas.

Os videogames e suas plataformas associadas estão se tornando centros de radicalização, extremismo e recrutamento por organizações extremistas de extrema direita. O desenvolvimento de jogos e modificações sob medida, geralmente conhecidos como MODs, deu às organizações extremistas a capacidade de disseminar ainda mais sua propaganda digital. Embora a Valve Corporation, uma empresa de software que desenvolve e distribui videogames, tenha fornecido aos jogadores de todo o mundo a plataforma Steam para que experimentem o melhor ambiente de jogo, a ameaça de redes radicais explorarem a plataforma continua alta. De acordo com a ISD, “dois grupos do Steam eram expressamente afiliados a grupos extremistas violentos. Um deles é um grupo afiliado ao Nordic Resistance Movement (NRM). O NRM estava ligado a uma série de atentados a bomba em Gotemburgo em 2016 e 2017.” Isso demonstra como o Steam pode ser ainda mais implicado em campanhas terroristas hediondas.

A questão da radicalização da extrema direita no Steam representa um perigo não apenas para a reputação da empresa, mas também para a segurança do mundo todo. Este Insight oferece uma compreensão diferenciada da radicalização da extrema direita por meio de grupos comunitários no Steam e fornece recomendações para resolver o problema.

Radicalização da extrema direita no cenário atual dos jogos

Os debates em torno da interseção entre videogames e extremismo destacam três aspectos importantes a serem considerados, principalmente no que se refere à extrema direita. Primeiro, a maneira como os grupos de extrema direita usam as plataformas de jogos como sites tradicionais de redes sociais para se conectar com usuários individuais que pensam da mesma forma; segundo, o tipo de jogos que estão sendo produzidos e apoiados pelas organizações de extrema direita; e terceiro, os temas de extremismo, radicalização, arrecadação de fundos e recrutamento empregados por esses grupos.

Um aspecto da exploração extremista das plataformas de jogos é a gamificação “de cima para baixo” e “de baixo para cima”. A gamificação “de cima para baixo” refere-se aos grupos comunitários criados por organizações extremistas e que premiam seus usuários por apoiarem e divulgarem a propaganda digital, eventualmente ganhando prêmios hierárquicos dentro do grupo. Por outro lado, a abordagem de baixo para cima refere-se à subcultura “orgânica” que se desenvolve por meio de usuários individuais, citando a linguagem dos jogos em vez de trollagem na vida real ou ações extremistas. O Steam tem o maior e mais diversificado número de grupos comunitários relacionados ao extremismo de extrema direita.

Em termos de material e conteúdo disponível nessas plataformas de jogos, há evidências de propaganda de extrema direita disponível em grandes quantidades. Os materiais incluem livros, vídeos, documentos, manifestos, memes e muito mais. Mesmo em outras plataformas além do Steam, entrevistas com líderes da extrema direita, como Andrew Anglin, estão disponíveis para os usuários. Além do ativismo extremista estratégico aberto, há também material mais casual disponível, incluindo memes, conteúdo xenófobo e conteúdo abertamente pró-nazista e pró-Hitler, geralmente categorizado como “shitposting”.

O setor de jogos, conforme descrito anteriormente, tem aproximadamente 2,8 bilhões de usuários, o que representa um enorme público-alvo para a radicalização, especialmente a maioria dos jovens, que é mais facilmente suscetível a esse tipo de conteúdo extremista. O anonimato do ecossistema on-line, construído com base em mecanismos criptografados (links para grupos do Telegram) e modos de comunicação dificilmente rastreáveis (bate-papo com áudio/vídeo), permite que as organizações de extrema direita disseminem abertamente sua propaganda para radicalização e recrutamento. Além disso, a subcultura dos jogos poderia ser adotada por organizações de extrema direita para atrair jovens jogadores para suas visões de mundo extremistas.

Além disso, a pesquisa sugere que as organizações de extrema direita costumam usar essas plataformas para criar comunidades e, assim, ajudar seus membros a reforçar suas visões radicais de extrema direita. Essas comunidades geralmente organizam eventos e partidas para seus membros e para os jogadores em geral, que podem ser expostos à propaganda radical por meio de bate-papos de voz no jogo ou outros materiais descritos acima. Esses torneios geralmente apresentam requisitos xenófobos em termos de quem pode participar deles, como a proibição de mulheres, de pessoas de cor e, em geral, de minorias.

Dissecando o fortalecimento da extrema direita na plataforma de jogos Steam

Lançado há mais de 20 anos, o Steam aumentou exponencialmente seu alcance em todo o mundo, tornando-se a plataforma de jogos mais usada. Em 2023, a plataforma contava com um total de 33 milhões de usuários simultâneos, com uma receita anual de US$ 8,56 bilhões. O Steam continua sendo a plataforma de jogos mais arraigada e duradoura para os extremistas de extrema direita, permitindo que eles a utilizem para sua propaganda. Isso se deve ao fato de que o Steam tem a abordagem mais laissez-faire em relação à moderação de conteúdo em comparação com outras plataformas de jogos importantes, como Discord, Twitch e DLive. As diretrizes de conteúdo da empresa são muito flexíveis, o que dificilmente mitiga os usuários que se envolvem no compartilhamento de conteúdo extremista. Ao analisar as diretrizes de conteúdo do Steam, é possível identificar que, apesar de vários relatórios independentes de terceiros, a palavra “extremismo” não é usada em suas diretrizes. Também não há nenhuma medida destacada por meio da qual os moderadores possam banir, bloquear ou supervisionar bate-papos ou conversas de voz durante os jogos que apoiam e propagam conteúdo de extrema direita. Outro destaque importante nas diretrizes de conteúdo é o ônus da denúncia sobre os usuários em vez de filtros de conteúdo rigorosos.

Com base nos dados discutidos acima sobre os grupos do Steam usados por extremistas de extrema direita, é evidente que a plataforma tem se esforçado para banir ou remover conteúdo que promova ideologias de extrema direita. Há vários grupos relacionados a organizações de extrema direita ainda ativos e propagando material sensível e extremista. Esses grupos incluem os relacionados ao Nordic Resistance Movement (Movimento de Resistência Nórdica), Misanthropic Division (Divisão Misantrópica) e Atomwaffen Division (Divisão Atomwaffen). Além disso, há também grupos e quadros comunitários que fornecem links e materiais fora da plataforma por meio dos quais os usuários podem acessar sites de extrema direita, como o The Daily Stormer.

A lacuna fundamental que o Steam enfrenta em termos de política é a capacidade de moderação e a implementação de diretrizes de política. Enquanto navegava pelos fóruns e comentários da comunidade sobre o motivo pelo qual o Steam não conseguiu remover tanto conteúdo de extrema direita de sua plataforma, um usuário comentou que sempre denuncia esse tipo de conteúdo, mas não obtém resposta da plataforma. Embora os moderadores do Steam possam banir ou bloquear usuários por violarem as diretrizes da comunidade, muitas dessas moderações são sinalizadas pelo usuário, e o Steam dificilmente toma medidas proativas. Isso se deve ao desejo do Steam de oferecer aos usuários a capacidade de se conectar e gerar conteúdo, o que permite uma melhor experiência de jogo. Outro motivo pelo qual o Steam permaneceu negligente em combater esse conteúdo e banir usuários é o medo de uma experiência “Gamergate”.

No entanto, desde junho de 2018, o Steam removeu 179 jogos devido a políticas de moderação de conteúdo atualizadas e 50 instâncias de conteúdo relacionado ao nazismo a pedido do governo alemão. Muitos dos jogos removidos defendiam a ideologia de extrema direita e eram baseados em conteúdo e imagens neonazistas. Apesar dessas medidas, a plataforma Steam esclareceu que a remoção de jogos e conteúdo não se deve ao fato de serem misóginos e/ou xenófobos, mas porque incorreram em custos desconhecidos para a Valve Corporation, seus parceiros desenvolvedores e usuários. A maior parte de sua moderação de conteúdo ou remoção de jogos foi direcionada a desenvolvedores e estúdios que não estavam produzindo jogos de boa fé. As mudanças na política de moderação também foram, conforme descrito anteriormente, sinalizadas pelos usuários, e a moderação da plataforma visa mais à discrição dos desenvolvedores na remoção de conteúdo.

No entanto, a política de permitir que os desenvolvedores de jogos optem por não permitir que o Steam modere seus quadros de usuários e grupos comunitários ressuscita o argumento de que as políticas da plataforma estão permitindo que organizações extremistas continuem a usá-la para propaganda digital e recrutamento.

Ações políticas para combater a radicalização da extrema direita

Embora a questão dos jogos e do extremismo violento não se limite ao Steam, o cenário geral de políticas precisa acompanhar o ambiente em rápida mudança do setor de jogos. Para melhorar a infraestrutura geral de segurança do setor de jogos e atenuar os efeitos nocivos do conteúdo de extrema direita sobre os usuários e as pessoas visadas por esses grupos, são necessárias atualizações abrangentes em todos os níveis. As plataformas de jogos, a sociedade civil, os órgãos reguladores independentes e as agências governamentais devem aprimorar suas políticas em relação ao uso extremista das plataformas de jogos por organizações de extrema direita e seus impactos negativos. Para entender as mudanças necessárias nas políticas, é preciso destacar as lacunas existentes e a necessidade de mais pesquisas.

Para começar, a natureza limitada da pesquisa sobre a interseção de jogos e extremismo violento também proíbe que muitas das plataformas de jogos avancem com diretrizes de segurança altamente rígidas e críticas e com a implementação de ferramentas de moderação. Conforme discutido na literatura e na análise, há poucas evidências de que as organizações de extrema direita usem o Steam e os jogos disponíveis na plataforma somente para fins de radicalização ou recrutamento. Muitos dos jogos normalmente jogados por grupos de extrema direita no Steam são mundialmente famosos, incluindo Counterstrike: Global Operations ou DOTA 2. Esses jogos, conforme identificado na literatura, não proporcionam aos grupos de extrema direita a capacidade de glorificar seus símbolos ideológicos, mas são jogados simplesmente porque são divertidos. Muitos grupos de extrema direita são “orgânicos” por natureza, com usuários que se juntam a esses grupos porque já adotam ideologias de extrema direita, em vez de serem radicalizados por meio das próprias plataformas. Portanto, há uma necessidade maior de pesquisa sobre as ligações entre as motivações primárias dos indivíduos de extrema direita nessas plataformas de jogos e sua capacidade de radicalizar e recrutar outros.

Embora o Steam seja frequentemente considerado a plataforma de jogos menos moderada e rigorosa, ele poderia aprender com suas plataformas rivais na moderação de conteúdo extremista. Isso inclui relatórios regulatórios de terceiros de fonte aberta sobre suas diretrizes e atividades de moderação. A seguir, apresentamos recomendações para manter a melhor experiência de jogo para os usuários do Steam e, ao mesmo tempo, reduzir o risco de a plataforma ser usada como um centro para o extremismo de extrema direita:

• * Em vez de políticas isoladas baseadas na plataforma para combater o extremismo violento, um consórcio das maiores e mais usadas plataformas deve colaborar para criar diretrizes de políticas para combater a extrema direita e outras formas de extremismo violento. Diretrizes de políticas e políticas de moderação semelhantes desencorajariam e limitariam o espaço para que as organizações de extrema direita mudassem para plataformas diferentes com políticas menos rigorosas.
• * Uma parceria regulatória independente deve ser estabelecida com organizações que estudam o ódio e o assédio on-line em plataformas de jogos. Por meio da colaboração com órgãos reguladores independentes, como a Anti-Defamation League, relatórios semestrais podem ser produzidos para rastrear as tendências de ódio e assédio. Esses relatórios podem, então, informar o aprimoramento das ferramentas de moderação para jogos e grupos comunitários específicos ou levar ao eventual banimento de grupos problemáticos da plataforma.
• * Os bate-papos de voz dentro do jogo continuam sendo o aspecto mais evasivo da moderação de conteúdo. O Steam deve introduzir uma força de trabalho permanente para a moderação de bate-papo por voz, que deve ser apoiada por tecnologias avançadas baseadas em IA que sinalizam palavras-chave específicas, como “nazista”, “Hitler” e outras, e fornecem relatórios aos grupos da comunidade que mais usaram essas palavras. Com base nesses relatórios, a equipe de moderação pode avaliar e banir permanentemente os usuários e remover o grupo da comunidade após vários avisos.