Grok diz que falhas de proteção levaram a imagens de 'menores em roupas mínimas' no X

2 Jan (Reuters) - O Grok, chatbot ⁠de inteligência artificial da empresa xAI de Elon Musk, informou na sexta-feira que lapsos nas proteções resultaram em 'imagens representando menores em roupas mínimas' na plataforma de rede social X e que melhorias estavam sendo feitas para evitar isso.

Capturas de tela compartilhadas por usuários no X mostraram ​a aba de mídia ⁠pública do ⁠Grok repleta de imagens que, segundo os usuários, foram alteradas quando eles enviaram fotos e pediram ao bot para editá-las.

'Há casos isolados em que os usuários ‌solicitaram e receberam imagens de IA representando menores ​em roupas mínimas', disse ‌Grok em ​um post ​no X. 'O xAI tem salvaguardas, mas há melhorias em andamento para bloquear totalmente essas solicitações.'

'Conforme ​observado, identificamos falhas nas proteções e estamos corrigindo-as com urgência -- o CSAM é ilegal e proibido', disse Grok, referindo-se a material de abuso sexual infantil.

O Grok não deu mais detalhes.

Em uma resposta separada a um usuário no X na quinta-feira, Grok afirmou que a maioria dos casos poderia ser evitada por meio de filtros e monitoramento avançados, embora tenha dito ⁠que 'nenhum sistema é 100% infalível', acrescentando que a ‌xAI estava priorizando melhorias ⁠e analisando os detalhes compartilhados pelos usuários.

Quando contatada pela Reuters para comentar o assunto ‍por email, a xAI respondeu com a mensagem 'a mídia tradicional ​mente.'

(Reportagem ‌de Arnav Mishra e Akash Sriram em Bengaluru)