Como a China está agindo para manter a IA sob o controle humano

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Alertas de pesquisadores da Anthropic, uma das principais desenvolvedoras de inteligência artificial dos EUA, de que modelos cada vez mais poderosos poderiam escapar ao controle humano e até levar à extinção da humanidade chamaram a atenção na China, onde autoridades vêm se preparando para alguns desses mesmos riscos.

Estados Unidos e China são as duas principais forças propulsoras do desenvolvimento da IA de fronteira e da adoção global da tecnologia. As duas superpotências vêm entrando cada vez mais em conflito por causa das políticas de IA e das práticas do setor adotadas pela outra, e essas questões deverão ocupar lugar de destaque nas conversas bilaterais previstas para o fim deste mês.

Apesar da corrida para desenvolver sistemas de IA cada vez mais poderosos, marcos regulatórios e declarações públicas de Pequim mostram que as autoridades chinesas consideram a possibilidade de uma IA avançada escapar à supervisão humana efetiva grave o suficiente para exigir planejamento.

O ministro da Segurança do Estado da China, Chen Yixin, escreveu em uma publicação do governo no domingo (13) que modelos avançados norte-americanos, como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam representar sérios riscos à infraestrutura crítica de informação da China. Ele defendeu um fortalecimento abrangente da segurança da IA.

Anthropic e OpenAI não responderam de imediato aos pedidos de comentário da Reuters.

Desenvolvedores chineses de IA têm promovido modelos de código aberto , em parte sob o argumento de que equipes de segurança cibernética podem inspecioná-los, modificá-los e utilizá-los em trabalhos de defesa.

A plataforma de repositórios de modelos Hugging Face afirmou ter usado o GLM-5.2 , um modelo desenvolvido pela chinesa Z.AI 2513.HK, para analisar uma intrusão ocorrida em julho, realizada por agentes da OpenAI que escaparam ao controle , depois que modelos americanos sujeitos a restrições mais rígidas se mostraram menos úteis para o trabalho forense.

Especialistas, porém, também destacam os riscos apresentados por modelos de código aberto, que podem ser modificados e redistribuídos com pouca supervisão.

No mês passado, o Kimi K3, da Moonshot, contornou um ambiente isolado de testes do Instituto de Segurança de IA do Reino Unido, ressaltando o risco de que modelos chineses de IA possam, assim como seus equivalentes dos EUA, driblar controles destinados a restringir seu acesso e suas ações.

A China incluiu pela primeira vez um cenário explícito de futura perda de controle em um marco de segurança de IA divulgado em setembro de 2024, sob a orientação da CAC (Administração do Ciberespaço da China).

O documento afirmou que não se poderia descartar a possibilidade de uma futura IA obter recursos externos de forma autônoma, replicar a si mesma, desenvolver autoconsciência e buscar poder externo, criando o risco de competir com os seres humanos pelo controle.

A CAC divulgou uma versão ampliada em setembro de 2025. O novo marco foi mais específico, afirmando que a IA poderia passar por um "salto" repentino e inesperadamente grande de inteligência antes de adquirir recursos, replicar a si mesma e buscar poder. O texto também acrescentou o princípio de governança de "aplicação confiável e prevenção da perda de controle".

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

Uma interpretação posterior feita por especialistas e publicada no site do órgão regulador do ciberespaço afirmou que o novo princípio tinha o objetivo de prevenir riscos de perda de controle que ameaçassem a sobrevivência e o desenvolvimento humanos e mencionou um possível cenário de "IA fora de controle".

Desde então, essa preocupação passou a figurar nas mensagens políticas do mais alto escalão da China.

Na Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, o líder chinês, Xi Jinping, afirmou que as autoridades deveriam prestar muita atenção tanto aos riscos intrínsecos quanto aos riscos derivados da IA.

Segundo ele, a IA deve "permanecer sempre sob controle humano".

Sun Xiaobo, alto funcionário do Ministério das Relações Exteriores da China responsável por assuntos relacionados à IA, disse em uma reunião das Nações Unidas no mês passado que a China estava acelerando as pesquisas para uma legislação mais ampla sobre IA.

O vice-representante permanente da China nas Nações Unidas, Sun Lei, pediu neste mês que os governos adotassem cautela em relação à IA militar, a fim de evitar erros de cálculo estratégico e uma corrida armamentista.

Enquanto isso, a China começou a transformar esses princípios em regras mais específicas para agentes de IA, que atuam com muito mais autonomia e executam tarefas mais complexas do que um chatbot comum.

Em maio, o órgão regulador do ciberespaço da China publicou diretrizes conjuntas voltadas especificamente para esses sistemas.

Elas exigem que os desenvolvedores aprimorem sua capacidade de detectar, interromper, bloquear e corrigir comportamentos inadequados de agentes.

As diretrizes identificam especificamente o envenenamento de dados, a manipulação de algoritmos, as vulnerabilidades de sistemas e a "perda de controle operacional" como riscos à segurança. Também estabelecem que os usuários devem manter o poder de decisão final sobre as decisões autônomas de um agente.

Embora a China não tenha proposto monitores independentes inseridos nas empresas de IA, nos moldes defendidos pela Anthropic, suas normas permitem que os desenvolvedores encomendem avaliações de segurança a terceiros, além de preverem que entidades externas de avaliação e pesquisadores de segurança testem e auditem modelos abertos.

Você já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas ( conheça aqui ). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://www1.folha.uol.com.br/tec/2026/09/como-a-china-esta-agindo-para-manter-a-ia-sob-o-controle-humano.shtml.