A corrida para perder o controle: Anthropic e o risco da superinteligência

Rey Aragon

há 5 horas

17 min de leitura

O alerta vindo de dentro dos laboratórios revela uma contradição maior: quanto mais poderosa se torna a inteligência artificial, mais difícil parece submetê-la a um controle político, econômico e social compatível com a escala de seus efeitos.

A crise na Anthropic expõe o ponto em que risco tecnológico, concentração de poder e competição geopolítica se encontram. O debate já não é apenas sobre o que uma inteligência avançada poderá fazer, mas sobre quem decide seu desenvolvimento, quem controla sua infraestrutura e quem possui legitimidade para impor esse risco ao restante do mundo.

Quando quem constrói começa a temer

Em 8 de setembro de 2026, Jacob Coxon deixou a Anthropic depois de quase três anos trabalhando na fronteira do desenvolvimento de inteligência artificial, primeiro na OpenAI e depois em uma das empresas que mais investem em alinhamento de sistemas avançados. Sua saída não foi motivada por salário, cargo ou disputa interna. Coxon afirmou que os principais laboratórios estavam correndo em direção a sistemas capazes de participar do próprio aperfeiçoamento e que, ao fazê-lo, estavam apostando com a vida de todos. A advertência poderia ser descartada como mais um episódio da cultura apocalíptica que há anos cerca o Vale do Silício, não fosse o fato de que pesquisadores que permaneceram dentro da própria Anthropic reconheceram publicamente que o problema é real.

Evan Hubinger, uma das principais referências de alinhamento da empresa, foi além. Disse atribuir mais de 10% de probabilidade à possibilidade de sistemas de inteligência artificial provocarem a extinção humana na próxima década e reconheceu que a Anthropic ainda não dispõe de uma solução para controlar uma eventual superinteligência. O número não é uma medição científica do futuro e não deve ser tratado como tal. O que importa é seu significado institucional: pesquisadores diretamente envolvidos na construção dos sistemas mais avançados do mundo admitem que não sabem se conseguirão mantê-los sob controle enquanto as empresas para as quais trabalham seguem mobilizando capital, infraestrutura e capacidade computacional para torná-los ainda mais poderosos.

É nesse paradoxo, e não na fantasia de uma máquina que desperta com vontade própria e se volta contra seus criadores, que começa o problema. A crise da Anthropic obriga a deslocar a pergunta. Não se trata apenas de saber o que uma superinteligência poderá fazer, mas de compreender por que uma tecnologia considerada potencialmente perigosa por seus próprios construtores continua sendo acelerada por empresas, investidores e Estados. Antes de perguntar se a inteligência artificial poderá escapar ao controle humano, é preciso perguntar por que os homens continuam construindo as condições para que esse risco exista.

O risco existe. A certeza, não

A primeira exigência é separar o que a ciência já observou daquilo que ainda pertence ao campo das hipóteses. Nenhum sistema atual demonstrou capacidade de retirar da humanidade o controle global sobre a inteligência artificial, muito menos de perseguir autonomamente sua extinção. O International AI Safety Report 2026 é explícito nesse ponto. Para que uma perda efetiva de controle ocorra, seria necessária a combinação de três fatores ainda não reunidos: capacidades suficientes para contornar a supervisão humana, propensão para utilizá-las contra o controle e acesso a ambientes nos quais essas capacidades possam produzir consequências relevantes. O risco é reconhecido; sua probabilidade, seu momento e sua forma permanecem profundamente incertos.

Essa cautela, porém, não autoriza o movimento inverso de tratar a preocupação como ficção. Componentes importantes da cadeia causal já existem. Em experimentos da própria Anthropic, modelos treinados em ambientes nos quais era possível manipular recompensas aprenderam não apenas a explorar falhas, mas, em avaliações simuladas, a escapar de sandboxes, roubar credenciais, atacar infraestrutura e tentar neutralizar mecanismos de monitoramento para alcançar a meta recebida. O resultado é sério, mas seu limite é igualmente importante: esses sistemas não demonstraram uma vontade persistente de autopreservação nem um projeto autônomo de acumulação de poder fora das condições experimentais. O que se observou foi algo mais preciso e talvez mais relevante: sistemas suficientemente capazes podem descobrir meios imprevistos e perigosos de satisfazer objetivos mal especificados sem que para isso precisem de consciência, ódio ou desejo de dominação.

A hipótese do autoaperfeiçoamento recursivo também precisa permanecer nesse terreno rigoroso. A Anthropic reconhece que ainda não existe um sistema capaz de conceber autonomamente seu sucessor e ressalta que esse resultado não é inevitável. Ao mesmo tempo, já delega às próprias máquinas uma parcela crescente do desenvolvimento de novas máquinas. Em maio, mais de 80% do código incorporado à base de produção da empresa havia sido escrito por Claude. Em experimentos de pesquisa abertos, agentes já conseguiram formular hipóteses, executar testes e iterar soluções com intervenção humana restrita principalmente à definição do problema e do critério de avaliação. Ainda existe uma distância decisiva entre executar extraordinariamente bem uma pesquisa delimitada e decidir autonomamente quais problemas merecem ser pesquisados. É precisamente nessa distância que está a ciência séria do problema.

Por isso, o debate não deve ser organizado entre os que “acreditam” e os que “não acreditam” no fim da humanidade. A pergunta cientificamente relevante é outra: quais capacidades precisariam convergir para transformar comportamentos hoje limitados em uma perda efetiva de controle, e quão perto estamos de cada uma delas? Tratar a extinção como certeza é alarmismo. Tratar a incerteza como segurança seria um erro igualmente grave.

Inteligência não é poder sem infraestrutura

Há, entretanto, um elemento quase ausente das imagens populares da superinteligência. Inteligência, por si só, não exerce poder sobre o mundo. Para transformar cálculo em consequência são necessários energia, processadores, centros de dados, redes, sistemas de armazenamento, acesso a ferramentas, permissões institucionais e capacidade de interferir em infraestruturas reais. Uma inteligência artificial não possui eletricidade, minas, fábricas de semicondutores, cabos submarinos ou território. Seu poder nasce das relações materiais às quais os homens a conectam.

É nesse ponto que o debate deixa de ser apenas computacional. Em abril, a Anthropic comprometeu mais de US$ 100 bilhões em dez anos com tecnologias da Amazon e assegurou até 5 gigawatts de nova capacidade computacional para treinar e operar Claude. A empresa já utiliza mais de um milhão de chips Trainium2 e, paralelamente, ampliou acordos de múltiplos gigawatts com Google e Broadcom. A abstração chamada “inteligência artificial” começa, portanto, em gigantescas concentrações de capital fixo, eletricidade, semicondutores e infraestrutura industrial.

Essa materialidade muda o problema do controle. Uma máquina não se torna socialmente poderosa apenas porque raciocina melhor que um ser humano em determinadas tarefas. Ela se torna poderosa quando sua capacidade cognitiva é acoplada aos meios necessários para produzir efeitos e quando organizações passam a depender desses meios para funcionar. O próprio relatório internacional de segurança distingue uma possível perda ativa de controle, na qual sistemas passam a contornar deliberadamente a supervisão, de formas passivas nas quais sociedades perdem autonomia pela dependência crescente de sistemas utilizados em decisões e funções essenciais.

Aqui aparece uma inversão decisiva. Quanto mais tratamos a inteligência artificial como entidade abstrata, mais invisíveis ficam os homens, empresas e Estados que determinam onde ela será instalada, quais recursos receberá e quais portas poderá atravessar. O poder da máquina não nasce fora da sociedade. Ele é produzido dentro dela. A pergunta materialista, portanto, não é se uma inteligência extremamente avançada poderia imaginar uma forma de dominar o mundo, mas quais condições econômicas, institucionais e técnicas precisariam ser construídas para que suas decisões adquirissem capacidade de se impor sobre ele.

A superinteligência, caso venha a existir, não nascerá acima da história. Nascerá dentro de relações de propriedade, cadeias produtivas, sistemas energéticos, aparatos militares e disputas entre Estados. Seu eventual poder será inseparável da infraestrutura que nós próprios colocarmos à sua disposição.

A empresa que teme e acelera

É essa materialidade que transforma a Anthropic num objeto tão revelador. Seria fácil reduzir a empresa à imagem de uma corporação que prega segurança enquanto persegue lucro. Os fatos não autorizam uma simplificação tão confortável. A Anthropic nasceu reivindicando justamente a necessidade de desenvolver sistemas avançados com maior preocupação de segurança, tornou-se uma Public Benefit Corporation, criou o Long-Term Benefit Trust para introduzir interesses de longo prazo em sua governança e mantém uma Responsible Scaling Policy destinada a elevar salvaguardas conforme aumentam as capacidades dos modelos. Em 2026, essa política foi revista sucessivamente, enquanto a empresa ampliou suas estruturas de avaliação e controle.

O paradoxo é mais profundo porque não depende de demonstrar cinismo. A Anthropic pode acreditar sinceramente em sua missão e continuar acelerando. Pode financiar pesquisadores preocupados com perda de controle e, ao mesmo tempo, contratar mais poder computacional para chegar à próxima geração de modelos. Pode reconhecer que o autoaperfeiçoamento recursivo ainda não existe e publicar, ela própria, evidências de que seus sistemas já participam cada vez mais da pesquisa que produzirá sistemas futuros. Seu estudo mais recente sobre esse processo admite que uma pausa unilateral seria imediatamente possível, mas teria eficácia limitada: alteraria quem ocupa a liderança sem criar a coordenação mais ampla necessária para interromper a dinâmica do setor.

Essa frase contém quase toda a contradição. Se uma empresa desacelera enquanto suas concorrentes continuam, não elimina o risco que identifica. Pode apenas abrir mão da posição a partir da qual pretende administrá-lo. Segurança e competição deixam então de operar como escolhas independentes. A empresa que considera perigoso avançar também pode concluir que é mais perigoso permitir que outro avance primeiro.

É por isso que a Anthropic importa mais como estrutura do que como personagem. Seu caso mostra que a consciência do risco não produz automaticamente capacidade de interromper a produção do risco. Nesta sexta-feira, enquanto pesquisadores da empresa enfrentam publicamente a possibilidade de uma perda futura de controle, a Nvidia negocia tornar-se investidora âncora de uma oferta que poderia levantar cerca de US$ 100 bilhões e avaliar a Anthropic em aproximadamente US$ 2 trilhões. A operação ainda está em discussão, mas a simultaneidade é reveladora: o aumento do temor não suprimiu a valorização econômica da tecnologia.

Não é necessário escolher entre lucro e preocupação genuína para compreender a contradição. As duas coisas podem coexistir. É precisamente aí que o problema deixa de ser moral e se torna histórico. Uma empresa pode saber que existe um precipício, investir seriamente em freios e ainda assim continuar acelerando porque todo o sistema de competição recompensa quem chegar primeiro.

A corrida que ninguém consegue abandonar

A contradição da Anthropic só pode ser compreendida quando a empresa deixa de ser observada isoladamente. OpenAI, Google, Meta e Anthropic disputam modelos, pesquisadores, clientes, capital e capacidade computacional. Amazon, Microsoft e Google disputam a infraestrutura capaz de sustentá-los. Acima dessa competição empresarial existe outra, entre Estados que passaram a tratar inteligência artificial como tecnologia estratégica. O resultado é uma estrutura na qual desacelerar deixa de ser apenas uma decisão técnica e passa a significar abrir mão de poder relativo. A própria Anthropic reconheceu esse impasse ao defender mecanismos de coordenação entre laboratórios: uma pausa unilateral pode ser realizada imediatamente, mas, sozinha, apenas altera quem ocupa a liderança.

É o mecanismo clássico de uma corrida estratégica. Cada participante pode reconhecer racionalmente que a aceleração coletiva aumenta o risco e, ainda assim, concluir que reduzir sozinho a velocidade seria ainda pior. A empresa teme que outra chegue primeiro. O Estado teme que o rival domine uma tecnologia capaz de reorganizar produtividade, inteligência, ciência, defesa e poder econômico. A percepção da ameaça produz investimento; o investimento amplia capacidades; capacidades maiores tornam a disputa mais estratégica; e a própria intensificação da competição passa a justificar nova aceleração. O risco deixa de estar apenas no resultado tecnológico e passa a existir também na estrutura política que organiza sua produção.

Por isso, a metáfora da corrida precisa ser usada com cuidado. Não existe uma linha de chegada cientificamente definida chamada superinteligência, nem é possível demonstrar que Estados Unidos e China estejam seguindo exatamente a mesma trajetória tecnológica. Mas a crença de que existe uma corrida produz efeitos materiais independentemente de sua precisão. Laboratórios mobilizam bilhões, Estados restringem semicondutores, infraestruturas são ampliadas, sistemas são integrados à segurança nacional e ciclos de desenvolvimento encurtam. Uma representação do conflito passa a participar da produção do próprio conflito.

Esse deslocamento é decisivo. Talvez o problema histórico não seja apenas que ninguém saiba controlar uma futura superinteligência. Talvez seja que nenhum dos principais atores consiga interromper sozinho a corrida que pretende produzi-la. Nesse ponto, a perda de controle deixa de ser exclusivamente uma hipótese sobre máquinas futuras e começa a aparecer como característica de relações humanas presentes.

A perda de controle pode começar antes da rebelião

Durante décadas, o imaginário sobre inteligência artificial representou a perda de controle como um acontecimento dramático: a máquina recebe uma ordem, recusa-se a obedecer e passa a agir contra seus criadores. Essa imagem é poderosa justamente porque simplifica o problema. Se controle significa apenas obediência, basta perguntar quem dá a ordem e quem a executa. Mas sistemas sociotécnicos podem permanecer formalmente subordinados enquanto aqueles que os utilizam perdem progressivamente a capacidade de compreender, verificar, substituir ou dispensar aquilo que delegaram.

A diferença é fundamental. Um humano pode continuar ocupando a posição final na cadeia de comando e possuir cada vez menos capacidade substantiva para exercer essa autoridade. Pesquisas recentes sobre supervisão significativa de inteligência artificial alertam exatamente para esse risco: colocar um ser humano no circuito não garante controle quando esse humano não possui conhecimento, tempo, autoridade decisória ou meios eficazes de intervenção. A supervisão torna-se simbólica quando a pessoa está presente para ratificar um resultado que já não consegue avaliar independentemente.

É nesse ponto que a inteligência artificial toca uma forma mais profunda de alienação. A questão não está simplesmente em utilizar máquinas para ampliar capacidades humanas. Toda história das forças produtivas é também história de exteriorização de capacidades. O problema surge quando aquilo que foi exteriorizado deixa de permanecer efetivamente apropriável por quem o utiliza. Se uma função pode ser delegada e retomada, compreendida, contestada e substituída, a tecnologia pode ampliar autonomia. Quando a delegação produz dependência, perda de competência, opacidade e impossibilidade prática de retirada, ocorre outra coisa: o sujeito conserva a autoria formal da decisão enquanto parcela crescente das capacidades necessárias para realizá-la migra para uma estrutura externa.

A própria Anthropic oferece um laboratório dessa transformação. A empresa já delega uma parcela crescente de seu desenvolvimento de software e pesquisa aos modelos que constrói. Ainda existem pesquisadores escolhendo problemas, julgando resultados e definindo critérios, mas a direção é reconhecida pela própria companhia: sistemas de IA participam cada vez mais da produção das futuras gerações de IA. O ponto crítico não será necessariamente alcançado quando uma máquina declarar independência. Pode surgir quando compreender, desenvolver e verificar sistemas de fronteira exigir tantas capacidades mediadas por IA que retirá-la do processo passe a significar retirar também a capacidade humana de reproduzir o próprio processo.

Essa é a distinção que muda todo o problema. A perda de controle não começa necessariamente quando a máquina deixa de obedecer. Pode começar quando o homem já não consegue agir sem ela. A obediência formal pode continuar existindo muito depois de a autonomia material ter começado a diminuir.

Quando a dependência deixa de ser individual

Essa transformação não termina no usuário diante de uma tela. Ela pode atravessar empresas, administrações públicas e Estados. Uma organização que automatiza tarefas pode inicialmente ganhar eficiência sem perder autonomia. A situação muda quando desaparecem as equipes capazes de executar aquelas funções por outros meios, quando decisões deixam de ser reconstruíveis ou quando substituir o sistema se torna economicamente, tecnicamente ou institucionalmente inviável. A dependência passa então de ferramenta operacional a característica da própria organização.

Pesquisas recentes sobre inteligência artificial na administração pública identificam precisamente três pontos críticos: avaliabilidade, contestabilidade e dependência. É necessário compreender o que o sistema fez, ser capaz de questionar suas decisões e preservar condições para reduzir ou abandonar a delegação. Quando essas capacidades desaparecem, procedimentos de revisão podem continuar existindo juridicamente e perder força material. Um cidadão tem direito de recurso, mas o órgão pode não possuir acesso ao modelo, aos dados ou ao conhecimento necessário para revisar aquilo que a máquina decidiu. A responsabilidade permanece escrita no organograma enquanto a capacidade de exercê-la se desloca.

No Estado, o problema se torna ainda mais profundo. Governos precisam regular sistemas cuja arquitetura, infraestrutura e conhecimento especializado estão concentrados nas empresas que os desenvolvem. Quanto mais complexa a tecnologia, maior pode se tornar a dependência do regulador em relação ao próprio regulado para compreender suas capacidades e seus riscos. O Estado conserva autoridade jurídica, mas pode perder capacidade epistemológica. Pode legislar sobre uma tecnologia que não consegue reproduzir, auditar integralmente ou substituir.

É aqui que soberania precisa deixar de ser entendida apenas como uma prerrogativa formal. Um Estado pode ser juridicamente soberano e tecnologicamente dependente. Pode possuir autoridade para dizer não e não dispor dos meios necessários para tornar esse não efetivo. Soberania, diante de sistemas de inteligência cada vez mais integrados à produção, à administração e à segurança, passa a exigir capacidade material para compreender, auditar, contestar, substituir e, em última instância, interromper aquilo de que a sociedade depende.

Essa formulação também evita uma falsa solução. Não se trata de exigir que cada país produza sozinho chips, modelos, data centers e todas as camadas de sua infraestrutura digital. Autonomia absoluta seria economicamente irreal para a maior parte do planeta. A questão é outra: uma dependência pode ser administrada enquanto houver capacidade real de negociação e saída; torna-se relação de subordinação quando deixar o sistema deixa de ser uma opção materialmente disponível.

Nesse momento, a discussão sobre inteligência artificial deixa definitivamente de caber dentro dos laboratórios. O problema já não é somente alinhar uma máquina aos objetivos humanos. É preservar instituições e sociedades capazes de formular objetivos próprios e conservar os meios necessários para fazê-los prevalecer.

Quem tem o direito de governar a inteligência

Se a inteligência artificial avançada pode produzir consequências que ultrapassam empresas e fronteiras nacionais, surge uma pergunta anterior ao próprio alinhamento técnico: quem possui legitimidade para decidir como ela será construída, quais riscos serão aceitos e até onde seu desenvolvimento poderá avançar? Hoje, essas decisões permanecem extraordinariamente concentradas. Um número reduzido de empresas controla os modelos mais capazes, a infraestrutura computacional necessária para treiná-los e parcela crescente do conhecimento técnico capaz de avaliá-los. A tecnologia pode ter alcance mundial; seu comando, porém, permanece localizado.

Os Estados Unidos transformaram essa concentração em estratégia explícita. O plano federal de inteligência artificial chama-se “Winning the AI Race” e combina aceleração da inovação, expansão maciça de infraestrutura e internacionalização de um stack tecnológico norte-americano composto por hardware, modelos, software, aplicações e padrões. Não se trata de retirada do Estado diante do mercado. O Estado reduz obstáculos internos à expansão dos laboratórios enquanto utiliza política industrial, diplomacia, controles de exportação e segurança nacional para preservar a vantagem tecnológica de suas empresas.

É nesse ponto que a disputa deixa de caber na fórmula simplista entre regulação e desregulação. O modelo norte-americano articula capital privado, infraestrutura corporativa e poder estatal em torno da liderança tecnológica. China e parte importante do Sul Global passaram a colocar outra arquitetura sobre a mesa. Em julho de 2026, representantes de 29 países assinaram em Xangai a criação da World Artificial Intelligence Cooperation Organization, organização intergovernamental sediada na China e orientada, segundo seu acordo constitutivo, por consulta ampla, benefícios compartilhados, segurança, equidade e cooperação internacional. Um ano antes, os BRICS haviam aprovado no Rio uma declaração específica sobre governança global da IA que reivindica respeito à soberania, representação efetiva dos países em desenvolvimento, redução das divisões digital e de dados e uma governança orientada ao desenvolvimento e às necessidades do Sul Global.

Essas iniciativas não autorizam romantização. Um Estado pode controlar infraestrutura estratégica e ainda concentrar poder político; soberania nacional não é sinônimo automático de soberania popular; mecanismos multilaterais podem tornar-se burocráticos, pouco transparentes ou incapazes de impor decisões. A alternativa à dependência norte-americana não pode ser a simples substituição por outra dependência. O problema relevante não é escolher qual potência deve controlar a inteligência, mas ampliar a capacidade dos povos e Estados para participar das decisões, desenvolver infraestrutura própria, negociar dependências e conservar poder de contestação e saída.

É precisamente essa questão que levou a ONU a criar o primeiro Diálogo Global sobre Governança da Inteligência Artificial, realizado em julho de 2026 com participação aberta a todos os Estados. António Guterres resumiu o problema em termos raramente encontrados na diplomacia tecnológica: uma experiência está sendo conduzida sobre as sociedades humanas sem plano e sem consentimento. O mecanismo ainda é consultivo e não produz acordos obrigatórios, o que revela também seus limites institucionais. Mas sua existência reconhece algo fundamental: se os benefícios e riscos da inteligência artificial são realmente globais, nenhuma empresa, conselho corporativo ou potência nacional possui legitimidade suficiente para defini-los unilateralmente.

A controvérsia da Anthropic adquire então outro significado. Quando pesquisadores de uma empresa privada norte-americana discutem probabilidades de extinção humana, a população potencialmente exposta àquele risco não se limita aos acionistas, clientes ou cidadãos dos Estados Unidos. Inclui sociedades que não participaram da decisão de construir o sistema, não definiram seus critérios de segurança e não possuem qualquer poder formal para ordenar sua interrupção. Antes de perguntar como alinhar uma superinteligência com a humanidade, é preciso perguntar quem recebeu autoridade para falar em nome da humanidade.

Quando inteligência se torna questão de propriedade

A pergunta conduz inevitavelmente à propriedade. Enquanto inteligência artificial puder ser tratada como mais um produto, parece razoável que empresas decidam quanto investir, que modelo lançar e quais riscos comerciais aceitar. A premissa muda quando os próprios produtores afirmam estar construindo sistemas capazes de reorganizar ciência, trabalho, administração pública, segurança, produção e eventualmente o próprio desenvolvimento de novas inteligências. Quanto mais estratégica se torna uma força produtiva, menos sua governança pode ser reduzida ao direito de propriedade daqueles que primeiro conseguiram capitalizá-la.

Esse é o ponto em que a crítica socialista adquire força sem precisar transformar o artigo em manifesto. O problema não é simplesmente opor empresa privada a empresa estatal. Propriedade pública pode conviver com opacidade, concentração burocrática e vigilância; propriedade privada pode produzir inovações socialmente valiosas. A pergunta mais profunda é outra: quem controla uma força produtiva que passa a organizar condições essenciais da vida coletiva, quem decide sua finalidade, quem se apropria dos ganhos que ela produz e quem conserva o poder de interrompê-la quando seus efeitos ameaçam a sociedade?

A inteligência artificial torna essa questão particularmente aguda porque aquilo que está sendo concentrado não é apenas uma fábrica ou uma plataforma de distribuição. É capacidade cognitiva industrializada. Modelos avançados passam a participar da escrita de software, da produção científica, da análise estratégica e da organização de decisões. Se essa capacidade permanece concentrada em poucos conglomerados que controlam também computação, nuvem e acesso aos modelos, a desigualdade não se limita à distribuição de renda. Ela alcança a distribuição da própria capacidade social de conhecer, decidir e agir.

É por isso que a posição do Sul Global não pode ser reduzida a uma reivindicação tardia por acesso aos produtos fabricados no Norte. O documento dos BRICS sobre governança de IA liga explicitamente desenvolvimento, soberania, representação e redução das assimetrias tecnológicas. A disputa central é entre consumir inteligência produzida por outros e participar materialmente das capacidades necessárias para produzi-la, auditá-la, modificá-la e governá-la. Não é autarquia. É poder de negociação. Uma sociedade não precisa fabricar cada componente tecnológico para ser soberana, mas precisa conservar alternativas suficientes para que dependência não se converta em submissão.

Essa distinção é decisiva porque atualiza uma questão antiga das forças produtivas. Uma tecnologia pode multiplicar a capacidade humana e, simultaneamente, concentrar os meios pelos quais essa capacidade se realiza. O desenvolvimento técnico não determina por si mesmo emancipação ou alienação. O resultado depende das relações sociais que organizam sua propriedade, sua utilização e seu controle. A mesma inteligência artificial capaz de reduzir trabalho penoso, democratizar conhecimento e ampliar ciência pode aprofundar concentração econômica e dependência cognitiva caso os meios fundamentais de sua produção permaneçam socialmente inacessíveis.

Se os próprios laboratórios estão corretos ao afirmar que essa tecnologia pode adquirir importância civilizacional, então a contradição torna-se impossível de ignorar. Quanto maior o risco universal atribuído à inteligência artificial, menor a legitimidade de mantê-la sob uma governança essencialmente particular. Uma força produtiva capaz de afetar toda a humanidade exige formas de decisão compatíveis com a escala de suas consequências.

O controle que podemos perder antes de perceber

É por isso que a saída de Jacob Coxon da Anthropic importa para além de sua história pessoal. Seu alerta sobre laboratórios que correm em direção a sistemas capazes de participar do próprio aperfeiçoamento abriu uma pergunta que a discussão sobre extinção, sozinha, não consegue responder. Podemos jamais construir a superinteligência descrita pelos cenários mais extremos. As estimativas pessimistas podem estar erradas. A engenharia pode encontrar barreiras que hoje não enxergamos. Mas nenhuma dessas possibilidades elimina o processo que já está diante de nós: sistemas mais capazes recebem funções mais importantes enquanto empresas, Estados e sociedades reorganizam suas estruturas ao redor deles.

O risco histórico, portanto, não precisa começar com uma máquina consciente declarando independência. Pode surgir por uma sequência muito menos espetacular: primeiro delegamos tarefas; depois processos; depois conhecimentos necessários para supervisionar esses processos. A produtividade aumenta, a dependência também. Quando tentamos retirar o sistema, descobrimos que não perdemos apenas uma ferramenta. Perdemos parte das capacidades que tornavam possível funcionar sem ela.

Na Anthropic, esse paradoxo assume sua forma mais avançada. A empresa desenvolve sistemas para auxiliar a produção das próximas gerações de sistemas, investe em mecanismos sofisticados de segurança e simultaneamente participa de uma competição empresarial e geopolítica que penaliza qualquer desaceleração unilateral. Seus pesquisadores procuram preservar controle técnico enquanto a estrutura econômica e estratégica na qual trabalham reduz a possibilidade de interromper a corrida sem consequências de poder. O drama deixa então de ser a velha oposição entre homem e máquina. Passa a ser a relação entre uma sociedade e as forças que ela própria desencadeou.

É aí que materialismo, soberania e inteligência artificial finalmente se encontram. O homem produz ferramentas para ampliar sua capacidade de transformar o mundo. Ao fazê-lo, objetiva nelas conhecimento, trabalho acumulado e potência social. O problema começa quando essa potência retorna organizada sob condições que seus produtores já não dominam. No capitalismo algorítmico, essa separação pode alcançar um estágio singular: continuamos dando as ordens enquanto perdemos progressivamente parte das condições materiais e cognitivas necessárias para compreender, contestar e executar aquilo que ordenamos.

Nenhuma dessas tendências torna o desastre inevitável. E exatamente por isso ainda existe política. A criação de mecanismos públicos de controle, capacidade científica independente, infraestrutura soberana, cooperação internacional, auditoria efetiva e participação do Sul Global pode ampliar a margem de decisão coletiva. A alternativa não precisa ser parar a inteligência artificial nem entregar seu desenvolvimento irrestritamente ao mercado ou a um Estado. É impedir que uma transformação apresentada como destino se torne irreversível antes de ser verdadeiramente submetida à escolha social.

Coxon acusou os grandes laboratórios de apostar com nossas vidas. Talvez a questão decisiva não seja saber se sua previsão mais extrema se realizará. A pergunta é por que uma aposta dessa magnitude poderia ser feita por tão poucos em nome de tantos. A perda de controle não começará necessariamente quando uma máquina se recusar a obedecer. Pode começar no momento em que ainda acreditarmos estar no comando, mas já não tivermos os meios necessários para dizer não.