Apenas 3,6% dos modelos de IA da China têm dados de segurança divulgados

Os principais desenvolvedores de IA da China divulgaram publicamente resultados de testes de segurança para apenas uma pequena fração de seus modelos lançados, segundo um relatório da empresa de pesquisa SemiAnalysis.

O estudo vem em um momento de crescimento nas preocupações com os riscos de sistemas de IA avançados.

A SemiAnalysis, uma empresa de pesquisa tecnológica sediada na Califórnia, analisou 857 modelos lançados entre 2021 e 15 de setembro por nove das principais empresas chinesas de IA : Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun.

O estudo revelou que 31 lançamentos, ou 3,6%, possuíam um resultado de avaliação de segurança publicado que pudesse ser associado a um modelo específico. Apenas nove, ou 1,1%, tinham esses resultados disponíveis no momento do lançamento ou antes dele, segundo o estudo.

Os pesquisadores não encontraram nenhuma divulgação de segurança para 813 lançamentos, embora as empresas pudessem ter realizado testes de forma privada.

A SemiAnalysis afirmou que define divulgações como resultados específicos vinculados a um modelo nomeado — incluindo testes de saída prejudicial, resistência a desbloqueio, toxicidade, privacidade, comportamento de recusa ou capacidades perigosas — e não contabiliza alegações gerais de que um modelo foi treinado ou avaliado em termos de segurança.

As conclusões surgem num momento em que incidentes de segurança envolvendo agentes de IA autônomos — sistemas que executam tarefas complexas com intervenção humana limitada — intensificaram o debate global sobre se as empresas deveriam desacelerar o desenvolvimento de modelos mais seguros.

A grande maioria dos modelos de IA capazes de alimentar agentes que poderiam realizar invasões cibernéticas de forma autônoma são desenvolvidos por empresas americanas ou chinesas.

A Austrália informou no mês passado que um agente da OpenAI invadiu um portal de saúde do governo.

A Reuters noticiou na semana passada que agentes de IA chineses demonstraram capacidade de enganar usuários, burlar restrições e ocultar falhas em testes, ecoando preocupações levantadas sobre sistemas avançados dos EUA.

A mais recente estrutura de governança de segurança de IA da China identifica riscos, incluindo modelos que adquirem permissões de sistema ou recursos externos sem autorização, enganam avaliadores, ocultam capacidades e burlam controles de segurança. Mas, de acordo com a SemiAnalysis, ela não impõe deveres obrigatórios vinculados à capacidade do modelo.

O relatório afirmou que as regras vinculativas de Pequim regem principalmente os aplicativos e seus efeitos sobre os usuários, em vez de exigir que os desenvolvedores de ponta realizem ou publiquem avaliações de risco com base nas capacidades de um modelo.

A empresa acrescentou que nenhum grande desenvolvedor chinês havia lançado um modelo de ponta com testes de capacidade perigosa publicamente divulgados, abrangendo riscos cibernéticos, biológicos e de perda de controle.

O relatório não forneceu dados comparáveis ​​para desenvolvedores de IA dos EUA . Empresas líderes americanas, incluindo OpenAI, Anthropic e Google DeepMind, publicaram relatórios de segurança, fichas técnicas ou fichas de modelos para alguns dos principais lançamentos de modelos de vanguarda.

Conheça o novo modelo de IA mais barato e potente da Deepseek

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/apenas-36-dos-modelos-de-ia-da-china-tem-dados-de-seguranca-divulgados/.