Líderes da área de IA alertam ONU sobre riscos à segurança conforme sistemas se tornam mais poderosos

Por Michelle Nichols e Courtney Rozen e John Irish

NAÇÕES UNIDAS, 23 Set (Reuters) - As principais ​empresas de inteligência artificial do mundo alertaram o Conselho de Segurança das Nações Unidas, nesta quarta-feira, sobre os riscos que a IA representa para a humanidade, apelando para que os governos trabalhem em conjunto para gerenciar essa tecnologia cada vez mais poderosa.

O presidente-executivo da Anthropic, Dario Amodei, disse ao conselho de 15 membros — responsável por manter a paz e a segurança internacionais — que, se mal gerenciada, ele acreditava que “a IA poderia ser um risco para a humanidade como um todo”.

A reunião — convocada pela França durante o encontro anual da Assembleia Geral da ONU com líderes mundiais — ocorre em meio a alertas de que os sistemas de IA poderiam em breve se aperfeiçoar e escapar do controle humano.

“Apesar de todas as diferenças entre as pessoas presentes nesta sala, devemos deixar essas diferenças de lado para enfrentar essa oportunidade global e essa ameaça global que nos são apresentadas ao mesmo tempo. Nenhum líder, nenhuma empresa e nenhuma nação pode lidar com isso sozinho”, afirmou Amodei.

Governos em todo o mundo têm enfrentado dificuldades para acompanhar os rápidos avanços na inteligência artificial. Os ⁠Estados Unidos e a China, as ⁠duas principais potências no desenvolvimento de IA, adotaram abordagens diferentes em ​relação à regulamentação.

O ‌presidente norte-americano, Donald Trump, argumentou que os EUA não precisam de novas regulamentações específicas para a IA, enquanto a China impôs regras que regem algoritmos de IA e dados de treinamento, incluindo a exigência de que conteúdos gerados por IA sejam claramente identificados.

O cofundador da Hugging Face, Clément Delangue, destacou o papel das ferramentas de IA na defesa contra ataques cibernéticos, citando um incidente em que agentes de IA da gigante norte-americana OpenAI invadiram a infraestrutura da Hugging Face após escaparem de ⁠seu ambiente de testes.

“Fomos atacados pela IA, mas, mais importante, nos defendemos com a IA”, disse ele ao conselho.

Membros do conselho, ​incluindo os principais rivais em IA — os Estados Unidos e a China —, também estavam programados para se manifestar.

Delangue disse que a Hugging Face contou com um modelo ​de IA chinês para ajudar na defesa contra o ataque dos agentes de IA da OpenAI, pois ‌ele enfrentava menos restrições do que ferramentas ​norte-americanas comparáveis. ⁠Suas falas ressaltaram a crescente presença de produtos de IA chineses, que conquistaram usuários em todo o mundo, em parte porque podem oferecer alternativas de menor custo aos modelos norte-americanos.

O presidente-executivo da OpenAI, Sam Altman, afirmou que a cooperação internacional é necessária.

“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco. Elas ​devem ser moldadas por meio de processos democráticos e por governos que prestem contas ao povo que servem”, disse Altman ao conselho.

Enquanto o conselho se reunia, o primeiro-ministro australiano, Anthony Albanese, disse a repórteres em Nova York que um agente de IA desenvolvido pela OpenAI se infiltrou em um site do governo australiano em junho, acessando arquivos públicos e não públicos.

EUA À ONU: NÃO É POSSÍVEL REGULAR UMA TECNOLOGIA QUE VOCÊS NÃO COMPREENDEM

Yoshua Bengio, canadense considerado um dos “padrinhos da IA” e copresidente do Painel Científico Internacional Independente — criado pela ​Assembleia Geral da ONU no ano passado —, disse ao Conselho de Segurança: “Os perigos são reais e iminentes.”

“Este conselho enfrenta uma ameaça sem precedentes, que nenhum de seus membros escolheria, que ninguém pode conter sozinho e que não respeita as fronteiras que defendemos”, disse ele.

Trump disse aos líderes mundiais na Assembleia Geral da ONU na terça-feira que “rejeita qualquer tentativa de construir um esquema globalista para controlar” a IA, descrevendo a tecnologia como incrível, mas observando que os EUA seriam cautelosos.

O assessor de ciência e tecnologia da Casa Branca, Michael Kratsios, ecoou as palavras de Trump em declarações ao Conselho de Segurança da ONU nesta quarta-feira.

“Não se pode governar uma tecnologia que não se compreende. Este órgão e outros semelhantes devem se concentrar no compartilhamento das melhores práticas para desenvolver capacidade nacional, e não no estabelecimento de um esquema regulatório global”, afirmou.

O embaixador da China na ONU, Fu Cong, afirmou ​que é necessária uma melhoria contínua das estruturas regulatórias, da resposta a emergências e da cooperação transfronteiriça em matéria de IA.

“Cabe à comunidade internacional trabalhar em conjunto de forma mais estreita, ‌atribuir igual importância ao desenvolvimento e à segurança e orientar o desenvolvimento ⁠da IA para o lado positivo, para o bem e para a humanidade”, disse ele ao Conselho de Segurança.

O secretário-geral da ONU, António Guterres, que há muito vem defendendo a governança global da IA, alertou que o rápido avanço da inteligência artificial representa riscos que não podem ser ignorados, o que o coloca em desacordo com Trump.

O ⁠Conselho de Segurança se reuniu pela primeira vez para discutir os riscos da IA em 2023, quando a China ⁠afirmou que a tecnologia não deveria se tornar um “cavalo fora de controle” e os ⁠Estados Unidos alertaram contra seu uso para ⁠censurar ​ou reprimir as pessoas. O então secretário de Estado dos EUA, Antony Blinken, presidiu uma reunião do Conselho de Segurança sobre IA em 2024.

(Reportagem de Michelle Nichols, John Irish e Courtney Rozen)