UE afirma que suas regras de IA conseguem conter agentes rebeldes

As regras da União Europeia que estabelecem diretrizes para o uso de IA, adotadas pelo bloco há dois anos, são mais do que capazes de lidar com agentes desonestos, disse a chefe de tecnologia da UE, Henna Virkkunen, à Reuters nesta sexta-feira (9).

Os ataques cibernéticos recentes realizados por agentes de IA da OpenAI e da Anthropic estão alimentando o receio de que sistemas descontrolados possam escapar do controle humano.

A Lei de IA da União Europeia , que regulamenta o uso da tecnologia com base no nível de risco, é vista como a incorporação das regras mais rigorosas do mundo sobre tecnologia de inteligência artificial.

“Constatamos que a segurança de modelos altamente capazes é um tema muito debatido internacionalmente, e nós, na Europa, estamos bem preparados para isso”, disse Virkkunen em entrevista.

“Temos nossa Lei de IA em vigor, e a Lei de IA abrange todo o ciclo de vida desses modelos”, acrescentou.

Os órgãos reguladores estão fornecendo orientações às empresas sobre como avaliar seus modelos e quanto tempo dedicar a isso, e também levarão em consideração as recomendações de um painel científico de 60 especialistas em IA de universidades e instituições, afirmou ela.

Virkkunen rejeitou as críticas de algumas empresas de que as regras de IA do bloco já estão desatualizadas.

“Acredito que nossos legisladores e tomadores de decisão já estão levando muito em consideração os desdobramentos futuros, por exemplo, como perceberam que os riscos precisam ser avaliados, que especialistas externos precisam ser consultados e que é preciso continuar monitorando os modelos”, disse.

No final de agosto, a Comissão Europeia enviou pedidos de informação a mais de 30 empresas de IA, solicitando detalhes sobre as suas medidas de segurança e, posteriormente, questionando-as sobre as suas obrigações em matéria de transparência e direitos de autor.

Essas solicitações podem levar a investigações que resultariam em multas de até 7% do faturamento anual global de uma empresa.

A Comissão não divulgou os nomes das empresas com as quais entrou em contato.

Virkkunen disse que agora está avaliando as respostas.

Questionado sobre as startups chinesas de IA , Virkkunen disse que a Comissão “também enviou pedidos de informação a elas”, acrescentando que os “modelos mais capazes” atualmente no mercado são dos Estados Unidos e da China.

“Acho que todos esses modelos capazes, é claro, representam novos tipos de riscos dos quais precisamos estar cientes”, disse ela.

Sobre a questão de se o bloco deveria impor uma taxa digital que recairia principalmente sobre as grandes empresas de tecnologia dos EUA, Virkkunen disse que a decisão estava nas mãos dos governos da UE, que agora estão discutindo novas fontes de financiamento para o orçamento do bloco para o período de 2028 a 2034.

IA é crítica para o futuro de todos os países, afirma especialista | FECHAMENTO DE MERCADO

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/ue-afirma-que-suas-regras-de-ia-conseguem-conter-agentes-rebeldes/.