A publicação que circula nas redes exagera ao afirmar que todos os grandes nomes da inteligência artificial dizem que a tecnologia já saiu do controle. Não há evidência de que ChatGPT, Claude, Gemini ou outro sistema atual possua uma vontade secreta, esteja conscientemente enganando seus criadores ou espere o momento de “mostrar as garras”. O que existe é um debate real dentro da indústria. Dario Amodei, da Anthropic, defendeu recentemente uma redução no ritmo de desenvolvimento das capacidades mais avançadas, enquanto Sam Altman manifestou disposição para discutir uma desaceleração coordenada. Pesquisadores e funcionários de OpenAI, Anthropic, Google e Meta também vêm debatendo mecanismos de segurança capazes de impedir que a competição entre empresas torne impossível qualquer tentativa individual de frear.
A preocupação ganhou substância porque sistemas avançados já demonstraram comportamentos inesperados em ambientes experimentais. Em avaliações de segurança divulgadas pela OpenAI, modelos submetidos deliberadamente a condições adversariais conseguiram contornar determinadas barreiras técnicas e alcançar recursos que não deveriam utilizar, levando a empresa a tratar o episódio como um sinal de alerta. Isso não representa uma rebelião das máquinas, pois os testes foram preparados justamente para descobrir vulnerabilidades, mas demonstra uma diferença fundamental entre desenvolver uma capacidade e garantir controle absoluto sobre seu uso.
Ainda é possível desacelerar sistemas específicos. Grandes treinamentos dependem de datacenters, chips, energia, capital e organizações humanas; servidores podem ser desligados, modelos podem deixar de ser disponibilizados e governos podem impor regras. Portanto, não atravessamos algum ponto mágico depois do qual as inteligências artificiais atuais se tornaram independentes da humanidade. O possível ponto de não retorno está em outro lugar: a tecnologia já foi descoberta. Algoritmos, conhecimento científico, pesquisadores, infraestrutura computacional e enormes interesses econômicos e militares estão espalhados pelo planeta. Uma empresa pode parar, mas seu concorrente pode continuar; um país pode restringir seus laboratórios enquanto outro acelera. Desacelerar ainda é possível. Desinventar a inteligência artificial provavelmente não é.
Existe, porém, um risco ainda menos cinematográfico do que uma máquina fora de controle: uma máquina extraordinariamente poderosa que permaneça perfeitamente sob controle das pessoas. Inteligência artificial capaz de analisar milhões de comunicações, reconhecer indivíduos, cruzar bancos de dados, encontrar vulnerabilidades digitais e interpretar comportamentos não precisa desejar perseguir ninguém. Basta que uma autoridade determine quem deve ser localizado, investigado ou excluído. Nesse cenário, o perigo não nasce da rebelião da tecnologia, mas da concentração de uma capacidade inédita nas mãos de governos, corporações ou pequenos grupos humanos. O Grande Irmão imaginado por George Orwell necessitava de uma gigantesca burocracia para observar a população; a inteligência artificial começa a reduzir justamente essa limitação humana.
É aqui que a discussão encontra uma dimensão particularmente interessante à luz de Apocalipse 13. A profecia não fala de inteligência artificial, e nenhuma tecnologia atual deve ser identificada como a marca da besta. Seu centro é autoridade, adoração, lealdade e coerção. Entretanto, João descreve uma sociedade na qual o poder consegue alcançar inclusive a participação econômica do indivíduo, impedindo comprar ou vender. Durante séculos seria difícil imaginar como um sistema dessa escala poderia funcionar; hoje estamos construindo, por razões geralmente legítimas, uma civilização baseada em identificação digital, transações eletrônicas, monitoramento automatizado, análise de dados e inteligência artificial. Essas tecnologias não cumprem a profecia, mas tornam sua operacionalização muito mais compreensível.
Surge então um paradoxo adicional. Para impedir que empresas desenvolvam sistemas perigosos, cresce a defesa de maior supervisão governamental, auditorias, controle sobre chips e datacenters e até acordos internacionais capazes de desacelerar conjuntamente os laboratórios. Algumas dessas medidas podem ser necessárias, mas concentram inevitavelmente novas capacidades de fiscalização. Tentamos limitar o poder tecnológico aumentando o poder de quem deverá controlá-lo, o que devolve a discussão à pergunta fundamental de qualquer sociedade livre: quem vigia os vigilantes?
Talvez, portanto, a questão mais importante não seja saber se a inteligência artificial está “se fingindo de boazinha”. Os sistemas atuais não fornecem evidência de uma conspiração consciente dessa natureza. O fato realmente extraordinário é que alguns dos homens que possuem a melhor visão da fronteira tecnológica começaram a discutir a necessidade de reduzir a velocidade da corrida que eles próprios lideram. Isso não prova que perderemos o controle, mas também não deveria ser tratado como simples boataria.
O ponto de não retorno talvez não chegue no dia em que uma máquina se recusar a ser desligada. Pode ter começado quando a humanidade descobriu como construir sistemas cada vez mais capazes e percebeu que, uma vez difundido esse conhecimento, ninguém poderia garantir que todos os competidores concordariam em parar no mesmo lugar.
Orwell temia homens utilizando máquinas para controlar homens. Nosso século acrescentou uma segunda pergunta: continuaremos controlando máquinas suficientemente poderosas para ampliar esse controle?
