Home Tecnologia Inteligência artificial pode criar novas pandemias com ameaças biológicas inéditas

O avanço acelerado da inteligência artificial (IA) tem ampliado possibilidades na ciência, mas também levantado alertas sobre riscos inéditos à biossegurança global. Um estudo conduzido por cientistas da Microsoft identificou, em outubro de 2023, uma vulnerabilidade grave em sistemas criados para impedir o uso de IA na geração de proteínas potencialmente perigosas, que poderiam ser exploradas para fins terroristas ou bélicos.

A falha permaneceu sob sigilo até o início deste ano, quando os resultados foram detalhados em um artigo publicado na revista Science. Os pesquisadores demonstraram que ferramentas de IA foram capazes de gerar milhares de versões digitais de 72 toxinas conhecidas que não foram detectadas por mecanismos de triagem considerados padrão na indústria.

Falha crítica

O trabalho foi realizado por uma equipe formada por cientistas do setor de tecnologia e especialistas em biossegurança. Segundo os autores, os sistemas de proteção falharam em quatro métodos diferentes de triagem, permitindo que proteínas potencialmente perigosas passassem despercebidas. Após a identificação do problema, os pesquisadores desenvolveram um “patch” para corrigir a vulnerabilidade, mas alertam que novas brechas podem surgir à medida que a tecnologia evolui.

“É como um modelo de atualização do Windows para o planeta. Precisaremos continuar monitorando e aplicando correções conforme necessário, além de estabelecer processos e boas práticas para nos manter à frente dos riscos”, afirmou Eric Horvitz, diretor científico da Microsoft, durante coletiva de imprensa.

Dia zero

A equipe classificou o episódio como o primeiro “dia zero” envolvendo inteligência artificial e biossegurança — termo usado no universo da cibersegurança para definir falhas desconhecidas pelos desenvolvedores e que deixam sistemas vulneráveis a ataques.

Nos últimos anos, a IA tem sido amplamente utilizada para projetar proteínas personalizadas, abrindo caminho para avanços como o desenvolvimento de enzimas capazes de degradar poluentes plásticos, melhorar a resistência de culturas agrícolas e auxiliar no combate a doenças. No entanto, os mesmos recursos também podem ser usados para fins nocivos.

Estudo adversário

O estudo teve caráter “adversário”, ou seja, buscou testar intencionalmente os limites dos sistemas de segurança antes de uma conferência sobre biossegurança em engenharia de proteínas. Nenhuma proteína foi fabricada fisicamente; todas as versões permaneceram no ambiente digital.

Especialistas externos elogiaram a iniciativa, mas ressaltaram que soluções pontuais não são suficientes. Para eles, o ritmo de avanço da IA supera a capacidade atual de gerenciamento de riscos.
“O que vemos é uma vanguarda tecnológica avançando muito mais rápido do que a retaguarda responsável por controlar os riscos”, afirmou David Relman, microbiologista da Faculdade de Medicina da Universidade Stanford.

Caso ricina

Como teste, Horvitz e o pesquisador Bruce Wittmann utilizaram a ricina — uma toxina altamente letal encontrada nas sementes de mamona. Com ferramentas de IA, eles “parafrasearam” digitalmente partes do código genético da substância, criando dezenas de milhares de versões que, embora escritas de forma diferente, mantinham potencial tóxico.

Esses modelos digitais não foram reconhecidos pelos sistemas de triagem utilizados por empresas de síntese de DNA, responsáveis por produzir cadeias genéticas para pesquisa científica. Em alguns testes, até 100% das versões geradas escaparam à detecção.

Risco ampliado

Após constatar a gravidade da falha, os pesquisadores ampliaram o estudo para dezenas de toxinas e componentes virais, criando mais de 70 mil versões sintéticas. Embora os sistemas conseguissem barrar as toxinas originais, milhares das novas variantes passaram sem alertas.

“Este estudo mostra que existe um problema real e que a IA está mudando sua natureza. Ainda assim, não se trata de um desafio insolúvel”, avaliou Tom Inglesby, diretor do Centro de Segurança Sanitária da Universidade Johns Hopkins, que não participou da pesquisa.