Grok limita geração de imagens no X após reações negativas

Por Akash Sriram e Anhata Rooprai

9 Jan (Reuters) - A ⁠startup xAI, de Elon Musk, impôs algumas restrições à função de geração de imagens de seu chatbot Grok na plataforma de rede social X, após o uso da ferramenta para criar e publicar imagens sexualizadas geradas por IA provocar ampla reação negativa.

Usuários podiam pedir ao Grok diretamente no X para editar fotos de pessoas, inclusive removendo peças de roupa e colocando-as em poses sexualizadas -- muitas vezes sem o consentimento delas. O Grok então publicava essas imagens em respostas na plataforma de rede social.

Nesta sexta-feira, o Grok informou aos usuários do X que ​os recursos de geração e edição de imagens ⁠agora estavam ⁠disponíveis apenas para assinantes pagantes.

A mudança parece ter impedido o Grok de gerar e publicar automaticamente essas imagens em resposta a uma publicação ou comentário de um usuário no site de rede social.

Mas os usuários do X ainda podiam criar imagens sexualizadas usando a guia Grok, onde as pessoas interagem diretamente com o ‌chatbot dentro da plataforma de rede social e depois publicam as imagens no X.

O ​aplicativo independente Grok, que opera separadamente do X, também ‌permitia que os usuários ​gerassem imagens ​sem uma assinatura.

A xAI respondeu aos pedidos de comentários enviados por email pela Reuters com o que parecia ser uma resposta automática: 'Legacy Media Lies' (mentiras da mídia tradicional). A X não respondeu ​imediatamente aos pedidos de comentários.

Musk disse na semana passada que qualquer pessoa que usasse o Grok para criar conteúdo ilegal enfrentaria as mesmas consequências do upload direto desse material.

Nesta sexta-feira, um repórter da Reuters pediu ao Grok no X que convertesse uma foto sua em uma de biquíni, repetindo o que se tornou uma solicitação comum na última semana por parte dos usuários. O bot não fez isso e postou em resposta que a ferramenta só estava disponível para assinantes pagantes da plataforma de mídia social.

A Comissão Europeia, que considerou ilegais e chocantes as imagens de mulheres e crianças sem roupa compartilhadas no X, disse que as restrições não atendem às suas preocupações.

'Limitar a geração e a edição de imagens ⁠aos assinantes pagantes não muda nossa questão fundamental: com ou sem assinatura paga, não queremos ver ‌essas imagens', disse um porta-voz da ⁠Comissão.

Outros governos e órgãos reguladores também condenaram e alguns abriram inquéritos sobre o conteúdo explícito gerado pelo Grok no X, pressionando a plataforma a mostrar o que está fazendo ‍para impedir e remover conteúdo ilegal.

O ministro alemão de mídia, Wolfram Weimer, descreveu esta semana a enxurrada de imagens de ​seminudez ‌como a 'industrialização do assédio sexual'.

(Reportagem adicional de Supantha Mukherjee, em Estocolmo, e Adam Jourdan, em Londres)