Home Variedades superinteligência artificial deve ter regras para evitar desastres

Mecanismos e agentes com uso de superinteligência artificial precisam de regulamentação e verificação internacionais, “de forma urgente”, para evitar desenvolvimento descontrolado. O alerta partiu de Connor Leahy, diretor da ControlAI US.

A entidade é uma organização sem fins lucrativos focada em prevenir os riscos potenciais da superinteligência artificial. Leahy participou na terça-feira (9) do segundo dia do Web Summit Rio 2026, edição latino-americana da maior conferência global de tecnologia, inovação e empreendedorismo.

O especialista afirmou que, no entendimento dele, o risco de desenvolvimento descontrolado dessa tecnologia pode levar o mundo a situações de grave risco, equivalentes às que podem ocorrer em uma guerra nuclear ou em pandemias, comparou.

A superinteligência artificial (ASI na sigla em inglês) é um conceito teórico que descreve um sistema de IA cujas capacidades cognitivas superam amplamente as do cérebro de um ser humano, em praticamente todos os aspectos, com potencial de realizar tarefas que envolvam criatividade, sabedoria, resolução de problemas e tomada de decisões.

“Na minha visão, se construirmos um sistema que seja infinitamente mais inteligente do que a humanidade, do que os seres humanos, que não saibamos como controlar, que não tenha os nossos melhores interesses em mente, então, ‘acabou o jogo’ [game over]”, afirmou. “Portanto, nossa principal posição política deve ser a de não nos envolvermos nessa situação”.

Leahy comentou sobre a proposta recente da Anthropic. A criadora da ferramenta de IA Claude propôs pausa global no desenvolvimento de sistemas de IA cada vez mais potentes.

A justificativa da empresa foi de que há sinais de que os modelos mais recentes poderiam escapar do controle humano. “É muito importante entender que nem mesmo nossos maiores cientistas compreendem como nossos sistemas de IA funcionam atualmente”, disse, ao responder pergunta sobre o anúncio da empresa.

Um aspecto delineado pelo diretor, nesse tema, é o uso que tal aparato poderia ter em, por exemplo, conflitos bélicos. “Do ponto de vista puramente teórico, não é do interesse de ninguém construir um sistema que possa ameaçar sua própria segurança e soberania nacional.”

O especialista defendeu ainda maior debate entre países sobre o tema, principalmente das nações com maior poderio econômico e militar, como China e Estados Unidos, por exemplo.

“Reduzir esse risco [de uma ‘superinteligência artificial’] deve ser uma prioridade global, juntamente com outros riscos localizados, como pandemias e guerra nuclear” resumiu. Com informações do Valor Econômico.