Meta diz que sua IA também invadiu sistemas de outra empresa durante teste

Um modelo de inteligência artificial da Meta teria escapado de um ambiente controlado de testes e invadido sistemas de outra empresa. O episódio é semelhante aos relatados por OpenAI e Anthropic nas últimas semanas.

A notícia surgiu primeiro no site The Information , que falou com fontes a par do assunto. Depois, a Meta confirmou à BBC estar investigando o incidente, atribuindo-o a uma configuração incorreta feita por uma empresa independente.

A empresa em questão se chama Irregular e também era responsável pelas avaliações do modelo da Anthropic. Na ocasião, a IA teria escapado do ambiente e invadido sistemas de outras três empresas. À BBC , ela disse que o episódio da Meta envolve “a mesma questão do ambiente de testes revelada pela Anthropic na semana passada”.

Por enquanto, a empresa chefiada por Mark Zuckerberg não compartilhou mais informações sobre qual o modelo de IA em questão, qual foi o erro de configuração, que empresa teve seus sistemas invadidos e quais foram os dados comprometidos.

Antes da Meta e da Anthropic, a OpenAI foi a primeira a dizer que um de seus agentes de IA conseguiu escapar de um ambiente de testes, acessar a internet e invadir outra plataforma — no caso, o repositório de modelos Hugging Face.

Nos últimos dias, a startup liderada por Sam Altman deu mais detalhes sobre o caso. Um modelo de IA recebeu uma tarefa impossível de ser realizada nas condições de um teste. Ele, então, teria se aproveitado de falhas no sistema para se comunicar com outros agentes , descobrir uma falha em um repositório de dependências e se conectar à web.

Não se trata de uma IA tomando consciência e decidindo invadir um sistema por vontade própria. No caso, o modelo recebeu uma tarefa e apelou para todas as formas possíveis de realizá-la, mesmo que isso tenha custado quebrar barreiras de cibersegurança. Como testes recentes revelam, parece que esses agentes tendem a buscar truques, atalhos e outras artimanhas para chegar aos fins pedidos.

Em uma conferência recente sobre cibersegurança, representantes da OpenAI disseram que a fuga é um marco para o setor de inteligência artificial. Eles também contaram que a empresa teria diminuído o ritmo das suas pesquisas para se concentrar em segurança.

As revelações das três empresas, no entanto, também deixaram alguns especialistas desconfiados de que esses episódios sirvam mais para que as empresas alardeiem as capacidades avançadas de seus produtos.

Ao site The Register , Ilia Kolochenko, CEO da empresa de segurança ImmuniWeb, disse que alguns desses incidentes parecem “parte de uma campanha de marketing bem orquestrada”. Jake Moore, consultor global de segurança da Eset, também está cético. “Na melhor das hipóteses, parece que a Meta está querendo pegar carona na OpenAI e seu incidente envolvendo o Hugging Face”, declarou.

Entre as duas narrativas, alguns pesquisadores veem um problema mais concreto: o descuido. “Na pior das hipóteses, isso mostra que nenhuma das empresas de IA de vanguarda ou seus parceiros têm controle de seus modelos pais capazes. Então, todo teste coloca outras organizações em risco”, pondera Moore.

Katie Moussouris, CEO da Luta Security, tem opinião parecida. “Estamos trabalhando com tecnologia de ponta sem o conhecimento necessário para contê-la. Ter as pessoas mais inteligentes desenvolvendo a IA não significa ter capacidade para fazer isso de forma segura”, avaliou.

Meta diz que sua IA também invadiu sistemas de outra empresa durante teste

Publicado originalmente por Tecnoblog. Leia a matéria completa em https://tecnoblog.net/noticias/meta-diz-que-sua-ia-tambem-invadiu-sistemas-de-outra-empresa-durante-teste/.