OpenAI bloqueia contas suspeitas de ligações com a China por solicitarem propostas de vigilância

(Reuters) - A OpenAI anunciou na terça-feira que baniu várias contas do ChatGPT com suspeitas de ligações a entidades governamentais chinesas, depois de os usuários terem solicitado propostas para monitorar conversas nas redes sociais.

Em seu último relatório público sobre ameaças, a OpenAI afirmou que algumas pessoas solicitaram ao seu chatbot que descrevesse ferramentas de “escuta” nas redes sociais e outros conceitos de monitoramento, violando a política de segurança nacional da startup.

O relatório da empresa sediada em San Francisco levanta preocupações de segurança sobre o possível uso indevido de IA generativa em meio à crescente concorrência entre os EUA e a China para moldar o desenvolvimento e as regras da tecnologia.

A OpenAI afirmou que também baniu várias contas em chinês que usavam o ChatGPT para auxiliar em campanhas de phishing e malware e solicitou ao modelo que pesquisasse automações adicionais que poderiam ser alcançadas por meio do DeepSeek da China.

A embaixada chinesa nos EUA não respondeu imediatamente a um pedido de comentário sobre a publicação.

A OpenAI também baniu contas vinculadas a supostos grupos criminosos de língua russa que usavam o chatbot para ajudar a desenvolver determinados malwares, disse a OpenAI.

A startup apoiada pela Microsoft interrompeu e reportou mais de 40 redes desde que começou a reportar ameaças públicas em fevereiro do ano passado e seus modelos recusaram solicitações abertamente maliciosas, acrescentou a empresa de IA.

'Não encontramos nenhuma evidência de novas táticas ou de que nossos modelos tenham fornecido aos agentes de ameaças novas capacidades ofensivas', disse a empresa no relatório.

A OpenAI, que agora tem mais de 800 milhões de usuários semanais do ChatGPT, tornou-se a startup mais valiosa do mundo com uma avaliação de US$500 bilhões após concluir uma venda secundária de ações na semana passada.

(Reportagem de Jaspreet Singh em Bengaluru)