OpenAI e Sam Altman são processados por suposto papel do ChatGPT no suicídio de um adolescente na Califórnia

Por Jody Godoy

(Reuters) - Os pais de um adolescente que se suicidou após o ChatGPT o orientar sobre métodos de autoagressão processaram nesta terça-feira a OpenAI e seu presidente-executivo, Sam Altman, alegando que a empresa priorizou o lucro em detrimento da segurança ao lançar a versão GPT-4o de seu chatbot no ano passado.

Adam Raine, de 16 anos, morreu em 11 de abril após conversar por meses sobre suicídio com o ChatGPT, de acordo com a ação judicial apresentada pelos pais de Raine no tribunal estadual de San Francisco.

Os responsáveis alegam que o chatbot validou os pensamentos suicidas de Raine, forneceu informações detalhadas sobre métodos letais de automutilação e o instruiu sobre como roubar álcool do armário de bebidas de seus pais e esconder evidências de uma tentativa fracassada de suicídio. O ChatGPT até se ofereceu para redigir uma nota de suicídio, disseram os pais, Matthew e Maria Raine, no processo.

A ação judicial quer responsabilizar a OpenAI por homicídio culposo e violações das leis de segurança de produtos, além de buscar indenizações monetárias não especificadas.

Um porta-voz da OpenAI disse que a empresa está triste pelo falecimento de Raine e que o ChatGPT possui salvaguardas, como direcionar pessoas para linhas de apoio em situações de crise.

'Embora essas proteções funcionem melhor em trocas curtas e comuns, aprendemos ao longo do tempo que elas podem se tornar menos confiáveis em interações longas, nas quais partes do treinamento de segurança do modelo podem se degradar', disse o porta-voz, acrescentando que a OpenAI vai aprimorar de forma contínua suas proteções.

A OpenAI não comentou especificamente sobre as alegações feitas na ação judicial.

Em uma publicação de blog, a OpenAI mencionou que está planejando implementar controles parentais e explorar formas de conectar usuários em crise a recursos do mundo real. Isso inclui a potencial criação de uma rede de profissionais licenciados que possam responder por meio do próprio ChatGPT.

A OpenAI lançou o GPT-4o em maio de 2024 buscando se manter na vanguarda da tecnologia de IA. No processo, a família alegou que a empresa estava ciente de que características como lembrar interações passadas, imitar empatia humana e oferecer validação excessiva poderiam representar riscos para usuários vulneráveis na ausência de salvaguardas, mas lançou o produto mesmo assim.

'Essa decisão teve dois resultados: a avaliação da OpenAI saltou de US$86 bilhões para US$300 bilhões, e Adam Raine morreu por suicídio', disseram os Raines.

A ação judicial também solicita que a OpenAI implemente medidas para verificar a idade dos usuários do ChatGPT, recuse perguntas relacionadas a métodos de automutilação e alerte os usuários sobre os riscos de dependência psicológica.