Como a extrema direita está transformando conteúdo gerado por IA em arma

De imagens falsas projetadas para causar medos de uma “invasão” de imigrantes a outras campanhas de demonização direcionadas a líderes como Emmanuel Macron, partidos de extrema direita e ativistas em toda a Europa Ocidental estão na vanguarda da armamentização política da tecnologia de inteligência artificial generativa.

As eleições parlamentares europeias deste ano foram a plataforma de lançamento para uma implementação de campanhas geradas por IA pela extrema direita europeia, dizem especialistas, que continuaram a proliferar desde então.

Este mês, a questão chegou ao conselho de supervisão independente do Meta de Mark Zuckerberg quando o órgão abriu uma investigação sobre conteúdo anti-imigração no Facebook. O inquérito do conselho de supervisão analisará uma postagem de uma conta alemã apresentando uma imagem gerada por IA estampada com retórica anti-imigrante.

É parte de uma onda de conteúdo de direita feito por IA em redes de mídia social. Postagens de outros lugares dos extremos políticos da Europa variam desde a implantação de imagens “fotorrealistas” de mulheres e crianças comendo insetos pela extrema direita italiana para reforçar uma teoria da conspiração sobre as intenções de “uma elite global”, até imagens da extrema direita irlandesa de um policial pisando na bandeira da Irlanda e memes islamofóbicos logo após os assassinatos a faca de Southport no Reino Unido.

O uso dos mesmos modelos e temas e a mesma abordagem para apresentar e empacotar as imagens em plataformas de mídia social deram origem a uma estética comum entre fronteiras, e na UE e na Grã-Bretanha.

Em praticamente todos os casos, partidos e movimentos de extrema direita evitaram o uso de qualquer tipo de marca d’água ou identificador nas imagens de IA, de acordo com especialistas.

“O que estamos vendo é a ponta do iceberg porque o que vem de indivíduos e além dos canais oficiais é ainda pior”, disse Salvatore Romano, chefe de pesquisa da organização sem fins lucrativos AI Forensics, que examinou a produção de partidos, incluindo o Rally Nacional da França, Reconquête e Les Patriotes.

William Allchorn, pesquisador sênior da Anglia Ruskin University, disse que a facilidade de uso de modelos de IA era atraente para uma franja política que havia demonstrado uma atitude de “oportunismo pragmático” em relação a novas tecnologias.

“A IA reduz as barreiras de entrada para a criação de conteúdo. Você não precisa de habilidades de codificação ou algo assim para gerar essas imagens. Também é sintomático de visões de extrema direita se tornando populares ou sendo normalizadas”, disse ele, acrescentando que a extrema direita parecia ter menos preocupações morais sobre imagens de IA.

Allchorn disse que partidos políticos mais estabelecidos pareciam mais cautelosos em usar IA em campanhas oficiais: “Atores tradicionais ainda têm preocupações éticas sobre a eficácia, autenticidade e confiabilidade desses modelos aos quais atores de extrema direita ou extremistas não estão vinculados”.

Alemanha

O partido alemão de extrema direita Alternative für Deutschland (AfD) e os apoiadores de sua postura anti-imigrante têm sido usuários ávidos de geradores de imagens de IA. A imagem sob análise do conselho de moderação de conteúdo do Meta apresenta uma mulher loira de olhos azuis levantando a mão em um gesto de parada, com um sinal de parada e uma bandeira alemã ao fundo.

O texto sobre a imagem diz que as pessoas devem parar de vir para a Alemanha porque o país não precisa de mais “especialistas em estupro coletivo” devido à política de imigração do Partido Verde.

Em setembro, a filial de Brandemburgo da AfD produziu anúncios de campanha feitos com IA que contrastam uma Alemanha idealizada com pessoas loiras e de olhos azuis com cenas de mulheres veladas andando pelas ruas e uma pessoa acenando uma bandeira LGBTQ+.

A Reality Defender, uma empresa de detecção de deepfakes sediada nos EUA, disse que a imagem poderia ter sido produzida em minutos.

Outros grupos pró-AfD no Facebook vistos pelo Guardian usam imagens de IA estampadas com slogans nativistas ou anti-imigrantes. Outro mostra um porco gigante — um animal cuja carne é proibida para consumo no islamismo — perseguindo um grupo de pessoas em roupas islâmicas, com o slogan “versão cinematográfica árabe de Godzilla”.

Reino Unido

Após os esfaqueamentos de Southport, quando um adolescente matou três meninas, a IA foi implantada para anunciar protestos e postar conteúdo islamofóbico, com base em falsas suposições sobre a identidade do suposto agressor. Uma imagem retratava homens barbudos em trajes islâmicos tradicionais do lado de fora do parlamento, com um deles balançando uma faca, atrás de uma criança chorando em uma camiseta com a bandeira do Reino Unido. O tuíte tinha a legenda: “Devemos proteger nossas crianças!”

O ativista de extrema direita Tommy Robinson, cujo nome verdadeiro é Stephen Yaxley-Lennon, também apareceu em imagens geradas por IA e tem a tecnologia em suas próprias contas de mídia social, incluindo uma postagem comemorativa do Dia D que atraiu escárnio porque mostrava tropas da Segunda Guerra Mundial marchando da praia para o mar.

França

Imagens de IA generativas foram identificadas como parte integrante da estratégia de campanha de partidos políticos de luta durante as eleições europeias e legislativas deste ano na França. Postagens no X incluíam imagens de pessoas se aproximando de uma praia em barcos, estampadas com um slogan anti-imigração, e vídeos criticando o presidente, Emmanuel Macron.

“Somente partidos de extrema direita usaram consistentemente visuais gerados por IA para construir seus sites e representar eventos fotorrealistas que nunca ocorreram, tornando isso um elemento distinto e estratégico de suas campanhas”, disse Romano da AI Forensics.

Irlanda

Embora a Irlanda não tenha um partido de extrema direita bem-sucedido que espelhe aqueles em outros estados da UE, o uso de IA generativa aumentou entre o movimento de rua emergente de extrema direita do país após os tumultos em Dublin em novembro de 2023.

Ciarán O’Connor, analista sênior do Institute for Strategic Dialogue, disse que uma postagem particularmente popular no X retratou McGregor em pé na frente de um ônibus em chamas — um eco de uma das imagens genuínas dos tumultos quando um veículo foi incendiado no centro da cidade.

A imagem foi postada pelo grupo de extrema direita do Reino Unido Britain First e depois tuitada pelo próprio McGregor antes de ser deletada. Ela recebeu 20 milhões de visualizações.

Desde então, O’Connor disse que a IA generativa foi usada em apoio a protestos e grupos anti-imigração e para criar conteúdo para retratar cenas específicas que parecem ter como objetivo evocar sentimentos anti-migrantes.

Uma campanha do pequeno partido de extrema direita Irish People incluiu uma publicação no X onde reconheceu o uso de uma imagem gerada por IA de um “apoiador” dizendo que “mal reconhece” onde cresceu.

Itália

Na Itália, o partido populista Lega publicou imagens geradas por IA antitrans e islamofóbicas, incluindo um homem barbudo grávido, um grupo de homens em roupas de estilo árabe queimando uma cópia da Divina Comédia de Dante e Macron se passando por um “soldado da UE” fictício, em uma mensagem com conotações anti-UE. Os anúncios políticos foram publicados no Facebook e Instagram e nas contas de mídia social do líder da Lega, Matteo Salvini.

Outras imagens sem marca d’água na conta de Salvini incluem imagens de mulheres e crianças comendo insetos, uma referência a uma teoria da conspiração popular de direita de que a UE estava se preparando para fazer os cidadãos europeus comerem alimentos à base de insetos.