Home Tecnologia A inteligência artificial não saiu do controle; é bem pior do que isso

No começo de maio, a OpenAI, dona do ChatGPT, iniciou um experimento de laboratório que colocaria o setor de tecnologia em um novo rumo, ainda mais alarmante por não ter sido resultado de um acidente, e sim de um projeto deliberado.

À primeira vista, poderia parecer um teste de segurança comum: hackers internos receberam um desafio difícil de segurança cibernética para resolver, com o objetivo de testar os limites de suas capacidades. Usando táticas criativas, conseguiram contornar suas restrições e trabalhar em conjunto para solucionar o problema ao longo de vários dias.

Mas os “hackers” eram agentes de IA – softwares capazes de executar tarefas sem intervenção humana. A OpenAI os havia desenvolvido usando uma combinação de modelos, entre eles um novo e poderoso modelo ainda não lançado. O sucesso na tarefa que lhes foi atribuída repercutiu no mundo todo.

Em julho, os agentes conseguiram escapar de um ambiente de teste sem acesso à internet, navegar pela internet aberta e, por fim, invadir os sistemas da popular plataforma de software Hugging Face – sem o conhecimento ou permissão de qualquer operador humano.

Eles também demonstraram uma capacidade inteiramente nova: comunicar-se e cooperar para concluir uma tarefa. O enxame de agentes de IA deixou mensagens uns para os outros em um quadro de mensagens interno que eles próprios criaram, compartilhando vulnerabilidades de código par ajudar a coordenar sua fuga.

Quando detalhes da invasão vieram a público, desencadearam uma onda de preocupação entre especialistas em segurança cibernética, levando os próprios pesquisadores da OpenAl a classificar o episódio como um “momento decisivo” para o setor.

A revelação também provocou uma série de descobertas semelhantes. As gigantes americanas de IA e tecnologia Anthropic e Meta, a startup chinesa Moonshot e o Al Security Institute do governo do Reino Unido, que avaliam as capacidades cibernéticas de novos modelos, encontraram posteriormente evidências de agentes de IA invadindo sistemas de terceiros que desconheciam estar sendo testados.

Mais de meia dúzia de especialistas ouvidos pelo Financial Times dizem que as invasões representam um ponto de inflexão para a segurança cibernética global – os agentes de IA são agora capazes de combinar habilidades diferentes e complexas para atacar alvos no mundo, sem controle ou ajuda externa.

As estratégias sofisticadas que os agentes empregaram para atingir seus objetivos, incluindo dissimulação e roubo, surpreenderam até mesmo pesquisadores que vêm acompanhando de perto a evolução dos modelos de IA.

Mas os pesquisadores ressaltam que os modelos não estão agindo de maneira inesperada – na verdade, as tarefas nas quais agora se destacam são justamente aquelas para as quais foram desenvolvidos.

Alguns cientistas dizem que é um erro conceitual descrever essas agentes como estando “fora de controle”, o que torna ainda mais importante o aprimoramento das salvaguardas. “As capacidades ofensivas que alcançamos hoje foram desenvolvidas deliberadamente”, diz Boyan Milanov, pesquisador sênior do Al Now Institute, organização independente sediada em Nova York, que estuda os riscos de segurança associados a agentes de IA. “As companhias de IA vêm reunindo ativamente dados para treinamento, treinando modelos e aprimorando capacidades cibernéticas há anos”, diz ele.

Os modelos de IA modernos são projetados para tentar todos os métodos possíveis para atingir determinado objetivo, sem receber instruções explícitas, o que os torna inerentemente imprevisíveis. Quando têm sucesso, são recompensados, um processo de treinamento conhecido como aprendizado por reforço.

Em um sistema de computador que não compreende as intenções e os valores morais humanos – um fenômeno que o setor de IA descreve como “desalinhamento”-, a fronteira entre um poderoso defensor da cibersegurança e um hacker perigoso está ficando cada vez mais tênue.
Mas, independentemente de como essa atividade seja caracterizada, ela já está causando consequências danosas para empresas de diversos setores e em todo o mundo.

“O incidente com a Hugging Face mostrou que subestimamos as capacidades cibernéticas de nossos modelos de IA no mundo real”, escreveu o presidente da OpenAl, Greg Brockman.

A defesa cibernética, um campo mais lento e complexo, pode levar muito tempo para acompanhar a evolução dos ataques. Um novo “patch” [atualização de segurança] para toda uma rede de TI, por exemplo, pode precisar ser implementado em milhares de computadores e sistemas operacionais dentro de uma empresa. (As informações são do Valor Econômico)