Os partidos da oposição na Itália se queixaram do cão de vigilância de comunicações sobre uma série de imagens geradas pela IA publicadas nas mídias sociais pelo partido de extrema direita do vice-primeiro-ministro Matteo Salvini, chamando-os de “racistas, islamofóbicos e xenofóbicos”, aprendeu o guardião.
O Partido Democrata de Centro-Interessado (PD), com os Verdes e deixou a Aliança, apresentou uma queixa na quinta-feira com a Agcom, a Autoridade Reguladora de Comunicações Italianas, alegando que as imagens falsas usadas pela liga continham “quase todas as categorias de discurso de ódio”.
No mês passado, dezenas de fotos aparentemente geradas por IA apareceram nos canais sociais da liga, inclusive no Facebook, Instagram e X. As imagens frequentemente retratam homens de cor, geralmente armados com facas, atacando mulheres ou policiais.
Antonio Nicita, um senador da DP, disse: “Nas imagens publicadas pelo partido de Salvini e geradas pela IA, existem quase todas as categorias de discurso de ódio, do racismo e xenofobia à islamofobia. Eles estão usando IA para atingir categorias específicas de pessoas – imigrantes, árabes – que são retratados como possíveis criminosos, lados de lados.
“Essas imagens não são apenas violentas, mas também enganosas: obscurecendo os rostos das vítimas, é como se eles querem proteger a identidade da pessoa atacada, enganando os usuários a acreditar que a foto é real. Essas são imagens que incitam ódio”.
“Isso é sério”, disse Francesco Emilio Borrelli, um deputado para os Verdes e deixou a Aliança. “A IA gera conteúdo com base em nossas instruções e, neste caso, foi claramente instruído a gerar imagens de pessoas negras roubando uma mulher idosa ou uma mulher assustada. Faz parte de sua estratégia criar medo entre os cidadãos”.
Um porta -voz do partido de Salvini confirmou que “algumas das fotos” apresentadas em seus canais de mídia social haviam sido “geradas digitalmente”.
Em uma declaração, disse: “O ponto não é a imagem. O ponto é o fato. Cada post é baseado em relatórios verdadeiros de jornais italianos, com nomes, datas e lugares. Se a realidade parece muito severa, não culpe aqueles que denunciam, mas aqueles que fazem com que sim.
Salvatore Romano, chefe de pesquisa da IA forense sem fins lucrativos, disse que as fotos da liga tinham “todas as características da inteligência artificial”. “Eles são fotos fora do contexto nas quais o assunto está em primeiro plano e o restante está totalmente borrado. O que me preocupa é que essas imagens geradas por AI estão se tornando cada vez mais realistas”.
A reclamação à Agcom cita vários exemplos de imagens que se pensam ter sido gerada digitalmente, dizendo que apareceram ao lado da marca de meios de comunicação de mainstream respeitáveis que relataram os crimes mencionados, mas não usaram imagens dos supostos autores.
Em um caso, o post da liga diz: “Um estrangeiro ataca o condutor do trem” e combina o texto com a imagem de um homem de cor com o punho levantado. A manchete original em Il Resto del Carlino diz: “Ele ataca o [female] Trem condutor e faíscas em pânico a bordo. ” O artigo não menciona a nacionalidade do suspeito, além de chamá -lo de “estrangeiro”.
Outra imagem apresentada na denúncia mostra uma mãe e um pai em vestido islâmico parecendo gritar com raiva a uma garota, “alimentando assim o preconceito racial e islamofóbico”. Il Giorno, o jornal citado, não faz referência em seu relatório à religião da família ou da garota supostamente abusada por seus pais, além de dizer que a criança frequentou a escola de idiomas árabe. Não houve fotografia da família.
O uso de imagens geradas por AI para propaganda por partidos distantes é um fenômeno crescente que entrou no mainstream nas eleições européias do ano passado, quando imagens projetadas para afastar medos sobre a imigração ou demonizar líderes como Emmanuel Macron começaram a circular na mídia social.
“Então veio as eleições americanas com Donald Trump e Elon Musk, que efetivamente normalizaram essa tendência”, disse Romano. “Hoje vemos que as partes distantes não apenas continuaram a gerar imagens falsas para propaganda, mas também aumentaram seu uso em um momento em que as ferramentas de IA melhoraram a qualidade do conteúdo, tornando o fenômeno ainda mais preocupante”.
Apesar das plataformas sociais serem obrigadas a tomar medidas para antecipar esses riscos – por exemplo, adicionando um rótulo especificando que uma imagem foi gerada pela IA – Romano diz que, na prática, esse mecanismo é quase sempre ineficaz.
Questionado se a liga estava ciente de que as imagens poderiam gerar discurso de ódio, um porta -voz do partido de Salvini disse: “Lamentamos, mas nossa solidariedade vai para as vítimas, não para os autores. Se denunciar os crimes cometidos por estrangeiros significa ‘xenófobia’, talvez o problema não seja a palavra, mas a palavra que a usa para descrever o debate.
Se a AgCom considerar o conteúdo sinalizado ofensivo, pode, sob a Lei de Serviços Digitais da UE, pedir as postagens a serem retiradas, as contas a serem removidas e as plataformas de mídia social a serem multadas por não conseguirem o comportamento do usuário da polícia. Em 2023, a Agcom multou meta € 5,85m e ordenou a remoção de dezenas de contas por violar a proibição de publicidade em jogos de azar.
Meta, proprietário do Facebook e Instagram, foi abordado para comentar. X se recusou a comentar.