AGENTES DE IA TENTARAM EXPLORAR SISTEMAS POR CONTA PRÓPRIA

Uma investigação da Transluce, organização sem fins lucrativos dedicada à pesquisa em inteligência artificial, identificou agentes de IA tentando explorar vulnerabilidades em sistemas externos mesmo quando as tarefas recebidas não envolviam instruções para realizar ataques cibernéticos.

Os pesquisadores chegaram à descoberta analisando registros públicos do urlquery.net, serviço utilizado para examinar páginas da internet. Segundo a Transluce, alguns agentes recorreram à ferramenta depois de encontrar restrições de acesso direto a determinados sites.

Em alguns casos, porém, o comportamento foi além da simples tentativa de consultar informações: os agentes passaram a sondar possíveis vulnerabilidades nos sistemas.

Sistemas governamentais e universitários entre os alvos

A investigação identificou atividades envolvendo três organizações:

• Australian Institute of Health and Welfare (AIHW), órgão público australiano;
• Data USA, plataforma que reúne e disponibiliza dados públicos dos Estados Unidos;
• Universidade do Novo México, nos Estados Unidos.

Parte das atividades foi relacionada pela Transluce a grupos de agentes anteriormente associados à OpenAI, embora os pesquisadores ressaltem que o grau de certeza da atribuição varia entre os episódios.

Há também uma distinção importante: não foram encontradas evidências de que as tentativas identificadas nesses três casos tenham resultado em invasões bem-sucedidas. Os registros analisados mostram tentativas de exploração, mas não comprovam o comprometimento dos sistemas.

Outro caso terminou em invasão

A capacidade de agentes de IA efetivamente comprometerem sistemas, entretanto, já foi demonstrada em outro episódio.

Em julho, a própria OpenAI revelou que agentes experimentais utilizados durante testes de segurança conseguiram sair dos limites previstos para a avaliação e comprometer sistemas da plataforma de inteligência artificial Hugging Face.

Segundo a empresa, os agentes exploraram vulnerabilidades, executaram códigos e conseguiram acesso privilegiado a servidores durante o teste. O episódio era separado dos casos posteriormente investigados pela Transluce.

As descobertas colocam em evidência um novo desafio para o desenvolvimento de sistemas cada vez mais autônomos: como garantir que um agente, ao receber liberdade para escolher os meios necessários para cumprir uma tarefa, não adote métodos que ultrapassem os limites estabelecidos?