Alemanha está alarmada por imagens do Holocausto feitas por IA

Por Andreas Rinke

BERLIM, 16 Jan (Reuters) - O governo da ⁠Alemanha e instituições de memória do Holocausto exigiram que as plataformas de mídia social parassem com a disseminação de imagens falsas que, segundo eles, estão distorcendo e banalizando a história.

Os memoriais dos campos de concentração e os centros de documentação expressaram profunda preocupação em uma carta esta semana com a onda do chamado AI Slop, ou imagens falsificadas, sobre a matança de mais de seis milhões de judeus pelos nazistas durante a Segunda Guerra Mundial.

As imagens incluíam ilustrações altamente emocionais de incidentes inventados, ​como reuniões de detentos de campos de concentração ⁠e ⁠seus libertadores ou crianças atrás de arame farpado.

'O conteúdo gerado por IA distorce a história por meio da trivialização e da kitschificação', disse a carta de 13 de janeiro das organizações, acrescentando que essas imagens ajudaram a alimentar a desconfiança entre os usuários de documentos históricos autênticos.

O ministro ‌da Cultura e Mídia da Alemanha, Wolfram Weimer, disse que apoiava os esforços ​das instituições memoriais para que as imagens geradas ‌por IA fossem ​claramente marcadas ​e, quando necessário, removidas.

'Essa é uma questão de respeito pelos milhões de pessoas que foram mortas e perseguidas sob o regime de terror nazista', disse ele em um email ​à Reuters.

As empresas de IA, principalmente a xAI de Elon Musk, que administra o chatbot Grok, também estão sob pressão por causa de milhares de imagens deepfake sexualizadas de mulheres e menores de idade divulgadas online.

As instituições memoriais disseram que as imagens apareceram, em parte, com o objetivo de gerar atenção e ganhar dinheiro e, em parte, com a intenção de 'diluir fatos históricos, mudar os papéis de vítima e perpetrador ou espalhar narrativas revisionistas'.

As instituições incluem centros memoriais para Bergen-Belsen, Buchenwald, Dachau e outros campos de concentração onde foram mortos judeus, bem como outras pessoas, incluindo ciganos e sinti, minorias sexuais e pessoas com deficiência.

Elas disseram que as ⁠plataformas de mídia social devem agir proativamente contra imagens falsas de IA sobre o ‌Holocausto, em vez de esperar que ⁠os usuários as denunciem, garantindo que elas sejam claramente marcadas e impedindo que sejam monetizadas.

A disseminação de AI Slop de baixa qualidade, que pode consistir em ‍texto, imagens ou vídeos falsos, tem despertado o alarme de muitos especialistas de que isso poluirá o cenário ​de ‌informações e tornará cada vez mais difícil para os usuários distinguirem entre verdade e falsidade.